美国参议员提跨党派提案:打击有害深度伪造,禁止篡改 AI 生成内容来源信息

来自共和民主两党的三位美国联邦参议院议员于当地时间 7 月 11 日宣布推出一项名为《保护内容来源和完整性,防止编辑和深度伪造媒体法案》的提案。AI在线注:这一法案英文全称为 Content Origin Protection and Integrity from Edited and Deepfaked Media Act,首字母简称为 COPIED ACT,后文以“COPIED 提案”代指。该提案旨在打击正在兴起的有害深度伪造,目标在美国联邦层面建立一个检测、标记与认证 AI 生成内容的透明度准则,保护记者、演

来自共和民主两党的三位美国联邦参议院议员于当地时间 7 月 11 日宣布推出一项名为《保护内容来源和完整性,防止编辑和深度伪造媒体法案》的提案。

AI在线注:这一法案英文全称为 Content Origin Protection and Integrity from Edited and Deepfaked Media Act,首字母简称为 COPIED ACT,后文以“COPIED 提案”代指。

该提案旨在打击正在兴起的有害深度伪造,目标在美国联邦层面建立一个检测、标记与认证 AI 生成内容的透明度准则,保护记者、演员、艺术家免受 AI 剽窃的影响,并对剽窃者追究责任。

具体来看,该提案包含以下四大项要求:

创建透明度标准

COPIED 提案要求美国国家标准与技术研究院 (NIST) 制定内容出处信息、水印和合成内容检测的指南和标准。这些标准将提高识别内容是否由 AI 生成或篡改以及 AI 内容来源的透明度。

该提案还指示 NIST 制定网络安全措施,防止 AI 生成内容的出处和水印被篡改

让记者、艺术家和音乐家掌控自己的内容

COPIED 提案要求生成式 AI 工具提供方允许素材内容所有者附加出处信息,并禁止删除这些信息。

该提案禁止未经授权使用附有出处信息的内容来训练 AI 模型或生成 AI 内容。

赋予个人起诉违法者的权利

如果 COPIED 提案通过,美国联邦贸易委员会 (FTC) 和各州总检察长将获得执行法案要求的授权。

该提案还将赋予包括报社、广播公司、艺术家在内的全体内容所有者向法院起诉未经许可使用其内容的平台或个人的权利。

禁止篡改或禁用 AI 生成内容的出处信息

美国目前还没有法律禁止删除、禁用或篡改内容出处信息。COPIED 提案禁止包括互联网平台、搜索引擎和社交媒体公司在内的任何相关方以各种方式干扰内容出处信息。

美国参议院商务委员会主席、民主党参议员玛丽亚・坎特威尔表示:

COPIED 提案将为 AI 生成的内容提供亟需的透明度。

这一提案还将使包括本地记者、艺术家和音乐家在内的创作者重新掌控他们的内容,并提供我认为非常必要的出处和水印程序。

美国参议院商务委员会成员、共和党参议员玛莎・布莱克本表示:

AI 让坏人有能力制造每个人(包括创意界人士)的深度伪造,在未经其同意的情况下模仿他们的肖像,并从假冒内容中获利。

COPIED 提案迈出了重要的一步,以更好地保护艺术家和表演者等普通目标群体免受深度伪造和其他不真实内容的侵害。

相关资讯

美国监管机构公布新提案:规范 AI 电话 / 短信,遏制诈骗行为

美国联邦通信委员会(FCC)公布了新的提案,希望规范 AI 生成的电话和短信,明确其定义并构建完善的消费者保护机制,并要求运营公司披露关于在电话和短信服务中使用 AI 的报告。AI在线使用 Designer 生成FCC 表示:“这为消费者提供了一个机会,可以识别并避免那些欺诈风险的电话或短信。该机构还希望确保合法使用人工智能,保护和帮助残疾人正常交流”。FCC 希望推动该提案落地,切实保护消费者安全,遏制 AI 诈骗电话和短信,并呼吁电信公司打击这种做法。

做研究无人咨询、与学生不交心,UNC助理教授两年教职挣扎史

当助理教授是怎样一种体验?来自北卡罗来纳大学教堂山分校的Colin Raffel谈了谈他自己的感受。

可检测 AI 模型中“版权内容”,Patronus 推出 CopyrightCatcher API

专门开发大语言模型(LLM)评估工具的 Patronus AI 日前发布了一款名为“CopyrightCatcher”的 API,可用来检测大语言模型的输出结果中是否含有侵权内容,目前相关工具 DEMO 已经放出,感兴趣的小伙伴可以点此访问下载。▲ 图源 Patronus AI 官方新闻稿Patronus AI 表示,市面上常见的大语言模型的训练数据中经常含有受到版权保护的内容,因此这些模型很容易输出相应版权内容,从而为部署相关模型的企业带来重大法律风险,因此他们推出了 CopyrightCatcher API,旨