摆出两张照片，让你分辨其中哪一张是AI生成的；给你两分钟时间，让你判断网线另一头同你聊天的是AI还是人类。无论答对还是答错，抉择时的摇摆说明了一切：AI突进，但你还没有做好准备。
一张由Midjourney5.1版本生成，另一张则是真照片。
抖音5月9日发布关于人工智能生成内容的平台规范暨行业倡议。其中提到，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。若发布者利用生成式AI技术创作、发布侵权内容，造谣传谣，一经发现，平台将严格处罚。
“如果用户在平台上发布的人工智能生成的假视频、假消息造成了不良的影响，第一责任人肯定是用户。”上海大邦律师事务所高级合伙人游云庭接受澎湃新闻记者采访时表示：“平台现在是触发式监管，比如说浏览量在500次以下的，哪怕有问题，他也不担责。但是浏览量到了一定程度，比如说上了热搜，平台是需要进行人工审核的。这个时候平台就要承担责任了。”
游云庭补充道：“监管的操作第一线肯定是平台。”
同时，各国政府都在考虑加大对AI的监管力度。4月27日，欧盟达成《人工智能法（TheAIAct）》协议，为世界上第一部综合性人工智能法律铺平道路。
科技公司担起责任，用技术制衡AI滥用。5月11日，谷歌在GoogleI/O大会上公布了它的AI生成图像识别工具，你可以通过上传来源不明的图片、执行反向图片搜索，了解到这张图片被谷歌初次收录的时间、最早出现的网站。如果一张带有新闻机构水印的图片首次出现在搞笑网站，那它很有可能是伪造的。
谷歌还宣布，它自己的生成式AI工具将在每张图片中包含元数据、嵌入水印，以表明这是AI生成的图像，而不是真实照片。谷歌的博客文章写道，Midjourney、Shutterstock和其他公司将在“未来几个月”推出这种标记。
AI野蛮生长的时代，科技是最快的解法。
科技解法一：AI生成内容识别器
在线课程供应商Study.com向1000名18岁以上的学生发起调查，结果表明超过89%的学生使用ChatGPT来完成家庭作业。如果靠人力一条条地去分辨AI生成的痕迹，实在太过劳心劳力。
所以，最直接的想法是，不如让AI来辨别内容是否由AI生成。2月1日，OpenAI团队推出“AI生成内容识别器”，旨在识别文本是由电脑自动生成还是人类撰写，其本质上是一个区别真实内容和AI生成内容的分类器。不过，OpenAI在博客中指出，此识别器对AI撰写内容的检出成功率仅为26%。
科技网站TechCrunch曾在2月份用类似ChatGPT的聊天机器人Claude生成了7段不同风格的文字，来测试几个比较流行的AI文本检测器的“侦查能力”。结果，没有AI检测器能够通关。
然而，随着AI的能力越来越强，绕过AI检测器也变得越来越容易。
拿上述表现最佳的GPTZero来说，澎湃新闻记者用GPT-4生成的一段250字的小说，被其判定为“有可能完全出自人类之手”。
GPT-4生成的文字被GPTZero判定为“有可能完全出自人类之手”
科技解法二：数字水印
数字水印指，AI生成时，以用户肉眼不可察的方式，在内容中插入一些信息，打上“此文章（此图）由AI生成”的隐秘水印。
AI生成内容识别器失败之后，OpenAI开始考虑在生成的文本中加入数字水印。OpenAI对齐团队（AlignmentTeam，主要负责提高系统安全性）负责人JanLeike对《纽约时报》透露，OpenAI正在探索的水印方法类似于马里兰大学研究人员最近发表的一篇论文中描述的方法。
然而这种新方法的局限之处在于，水印只有从一开始就嵌入到大语言模型才有效。若要广泛运用，人工智能领域的公司必须就水印的实施标准达成共识。
OpenAI的CEO，SamAltman接受《StrictlyVC》采访时表示，不存在一个完美的AI生成文字识别工具。“人们总会弄清楚他们要修改多少文字，还会出现修改输出文本的其他工具。”
通过嵌入“元数据”，图像可以强硬地把“AI”写在作者栏。但AI生成文字还在等一个可行的解法。
开头的两张图里，左边是真照片，右边是AI生成的，你猜到了吗？
