谷歌要为AI生成的内容打标记，因为AI也拿AI没有办法_美数课
放两张照片，这样你就能分辨出哪张是AI生成的；给你两分钟时间判断网线另一端跟你聊天的是AI还是人类。不管是对是错，选择中的摇摆说明了一切:AI向前飞跃，但你还没准备好。
一张是Midjourney 5.1版本生成的，一张是真实照片。
5月9日，Tik Tok发布了关于人工智能生成内容的平台规范和行业倡议。其中提到，发布者应该明确识别人工智能生成的内容，以帮助其他用户区分虚拟和现实，尤其是混淆的场景。如果发布者利用生成式AI技术创作发布侵权内容，传播谣言，一经发现，平台将严惩不贷。
“如果用户在平台上发布的人工智能产生的假视频、假消息造成了不良影响，第一责任人肯定是用户。”上海大邦律师事务所高级合伙人尤在接受该报采访时表示:“平台现在引发了监管。比如，如果浏览量低于500次，即使有问题，他也不负责。但是当浏览量达到一定程度，比如热搜，平台就需要人工审核了。这时候平台就要承担责任了。”
游听云补充道:“监管第一线肯定是平台。”
与此同时，世界各国政府都在考虑加大对AI的监管。4月27日，欧盟就AI法案达成一致，为全球首部全面的AI法铺平了道路。
科技公司承担责任，用技术来平衡AI滥用。5月11日，谷歌在谷歌I/O大会上公布了其AI生成的图像识别工具。你可以通过上传一张不知名的图片，进行反向图片搜索，知道这张图片最早是什么时候被Google和最早的网站收录的。如果一张带有通讯社水印的图片首先出现在搞笑网站上，很可能是伪造的。
谷歌还宣布，自己的生成式人工智能工具将包括元数据，并在每张照片中嵌入水印，以表明这是人工智能生成的图像，而不是真实的照片。根据谷歌的博客文章，Midjourney、Shutterstock和其他公司将“在未来几个月内”推出该标志。
在AI野蛮生长的时代，技术是最快的解决方案。
科学解决方案1: AI生成内容识别器
在线课程提供商Study.com对1000名18岁以上的学生进行了调查。结果显示，超过89%的学生使用ChatGPT完成作业。如果靠人力去一个一个区分AI产生的痕迹，那就太费力了。
所以最直接的想法就是，不如让AI来分辨内容是不是AI生成的。2月1日，OpenAI团队推出了“AI生成的内容识别器”，旨在识别文字是计算机自动生成的还是人类书写的。它本质上是一个分类器，用于区分真实内容和AI生成的内容。但OpenAI在博客中指出，这种识别器检测AI书写内容的成功率只有26%。
科技网站TechCrunch在2月份使用类似ChatGPT的聊天机器人Claude生成了7段风格不同的段落，以测试几种流行的AI文本检测器的“检测能力”。结果没有一个AI探测仪能过海关。
然而，随着AI越来越强大，绕过AI探测器变得越来越容易。
以上面提到的表现最好的GPTZero为例。一名记者用GPT-4生成的一部250字的小说被判定为“可能完全是人类写的”。
GPTZero认为GPT 4生成的字符“可能完全是由人手完成的”
科学解决方案2:数字水印
数字水印是指在AI生成时，以用户肉眼看不到的方式在内容中插入一些信息，并标注“本文(此图)由AI生成”的秘密水印。
在AI未能生成内容识别器后，OpenAI开始考虑在生成的文本中加入数字水印。OpenAI比对团队(主要负责提高系统安全性)的负责人简·雷科(Jan Williams)告诉《纽约时报》，OpenAI正在探索的水印方法与马里兰大学研究人员最近发表的一篇论文中描述的方法类似。
但这种新方法的局限性在于，水印只有从一开始就嵌入到大语言模型中才有效。要广泛应用，人工智能领域的公司必须就水印的实现标准达成共识。
OpenAI首席执行官山姆·奥特曼(Sam Altman)在接受StrictlyVC采访时表示，没有完美的AI生成的文本识别工具。“人们总是会弄清楚他们想要修改多少文本，并且会有其他工具来修改输出的文本。”
通过嵌入“元数据”，图像可以在作者一栏强写“AI”。但人工智能生成的文本仍在等待可行的解决方案。
前两张图，左边是真实照片，右边是AI生成的。你猜到了吗？
责任编辑：吕妍校对：丁晓