AI会让制造谣言变得越来越容易吗？ 科技边界也需要通过法律加以明确

科技边界也必须在法律上明确

AI绘画、AI视频、AI对话

AI正在渗透现代人的生活、Bard、ChatGPT、Chinchilla、LLaMA等生成式AI迎来裂变增长的用户。

智能机器学习算法与数十亿人类生成的内容相结合中选择所需的族。 这些系统还可以基于字幕生成非常逼真的图像，使用公开的用户照片合成新的自拍照，以及用视频中一个人的肖像画替换其他人。

在这个AI组成的“新世界”中，生成型AI制作的内容非常真实，普通人越来越难以准确区分人与AI生成的内容，越来越容易伪造、扭曲、制造谣言。即使有视频也可能不真实——他们得先证明自己是真的。

AI照片可以精准复制你的身影

人工智能技术日益发展，深度假动作技术(即基于人工智能的人体影像合成技术)也在人们的生活中更为常见和滥用。

最近，喜欢拍照的王洛奇(化名)迷上了AI照片。 “为了拍自己的照片，丈夫怎么训练也练不出来。 使用AI生成软件后，《喂》训练了约50张自己之前拍的照片，照片不再担心没有好的摄影师。 ”

王洛奇告诉记者，AI生成的照片相似度应该在95%以上。 “我拿着AI生成的照片，女儿照片中的人是谁？ 孩子说这是妈妈，问我是什么时候拍的。 ”

因为在王洛奇训练AI照片时，使用的照片大多是在泰国旅行时拍的，也有几张穿泰国服的结果，AI生成的照片具有非常异质的色彩。 当被问到

生成的照片是否有明显的缺点时，王洛奇说：“其实AI照片的近景和中景是无敌的。 要说缺点，那就是远景全身照的脸有点塌陷不知道是训练素材的数量不够，还是生成照片的像素太低。 ”

制作真实人物的虚假视频技术越来越容易获得。 产生人工智能的进步意味着，虚假但视觉上令人信服的内容很快就会在互联网上激增造成了信息生态系统的混乱。

近日，一位女网友在网上晒出一张乘坐地铁列车的照片，被一位别有用心的网友下载，用AI技术“一键脱衣”，制造谣言照片在网上广泛传播这件事被提交到了热搜部。

更严重的是，如果AIGC (生成式AI )的内容被不断训练，生成的视频和图像可能会成为难以理解的伪证，损害当事人的利益和名誉。

加入水印可以保护用户的隐私吗？

专门从事影像取证的计算机科学家、伯克利计算机科学教授Hany Farid主张，是时候给这些数码照片贴上可识别的标签了。 Hany Farid在接受记者采访时表示：“我认为解决这个问题的有效方法之一是添加水印。”

标记文档和其他物品以证明其真实性，表明所有权和防伪历史由来已久。 例如，巨大的图像归档Getty Images为目录中的所有数字图像添加可见水印，使客户可以在保护公司资产的同时自由浏览图像。 [ xy 002 ] [ xy001 ]根据open ai公开的内容该公司尝试了在ChatGPT的创作中添加水印的系统，但是由于段落内的文字不能像数值一样调整，所以文本水印采用了不同的形式。 防止滥用

是一场“持久战”

高水准的“AI画师”Stable Diffusion为自己设置了自动审查图像安全性的程序，但监控到生成的图像涉嫌违规也就是说，内容政策中明确记载的“不能用于生成令人不快的色情、仇恨、暴力等图像”，机器就会停止该图像。

据外媒报道，C2PA联盟(内容来源和认证联盟)最近发布了一个开放的规范，以验证视听内容可以人工生成。 通过adobe、微软、英特尔、BBC等众多技术公司参与此项工作，C2PA已经做好了充分的准备使用生产性、有效且广泛部署的身份验证技术。 通过对由人类生成的内容和由人工智能生成的内容进行联合签名和水印处理，虽然不能防止所有形式的滥用，但是可以提供某种程度的保护任何安全措施都要不断调整和完善因为“对手”会找到将最新技术武器化的新方法。

近日，江苏首例“人脸解禁”侵犯公民个人信息案公开审理，郑某在被害人不知情的情况下向他人购买了姓名、身份证号码、照片、视频等个人信息并操作照片制作视频，进行人脸核检测，开封他人账号，帮助诈骗团伙实施犯罪。

被告人郑某因侵犯公民个人信息罪被判处有期徒刑八个月，缓刑一年，并处罚金人民币40000元，犯罪工具被没收。 这个案件的判决现在生效了。 [ xy 002 ] [ xy001 ]“遏制AI合成乱象，需要政府监管部门、平台、网民多方配合，多方治理。 ”北京航空航天大学法学院副教授、北京科技创新中心研究基地副主任赵精武曾表示，作为服务的提供者，AI合成平台应承担主体责任。 [ xy 002 ] [ xy001 ] Shuming hao123 @ QQ.com对AI合成的服务提供者做出了一些规定，例如，AI合成平台必须要求内容创作者的实名认证，导演创作者应注明“这是AI合成的”等标识，以免误导公众； 提供“变脸”技术前，必须征得“能变脸”者的同意； 完善数据管理，保障个人信息安全。 [ xy 002 ] [ xy001 ] Shuming hao123 @ QQ.com请求深度合成服务提供者和技术支持者应当加强训练数据管理和技术管理。

随着互联网的诞生，为了防止垃圾邮件、钓鱼网站变得难以清除，在AIGC逐渐普及的现在，防止使用生成AI的各种形式的滥用AI产生的“真伪讨论”是什么？ 似乎也是一场“持久战”。

华西都市报-封面新闻记者边雪3