美国总统特朗普已签署一项法案，将非自愿人工智能生成的深度伪造色情内容定为刑事犯罪，该法案还要求网站在48小时内删除任何非法图像。
特朗普于5月19日将该法案正式签署成法律，这项名为TAKE IT DOWN法案的立法，全称为"通过制止网站和网络上的技术深度伪造来解决已知剥削的工具"。
这项由第一夫人梅拉尼娅·特朗普大力支持的法案，明确将发布或威胁发布成人或未成年人非自愿亲密图像（包括深度伪造）的行为定为联邦犯罪，特别是当行为人意图造成伤害或骚扰时。违法者将面临从罚款到监禁等不同程度的处罚。
根据法案规定，网站、在线服务或应用程序必须在48小时内删除非法内容，并建立完善的内容下架流程。
特朗普在白宫玫瑰园的讲话中指出，并随后在社交媒体平台Truth Social上发布表示，该法案涵盖范围还包括"由人工智能生成的伪造内容"，即通常所说的深度伪造。
梅拉尼娅·特朗普曾亲自游说国会议员支持该法案，并在一份官方声明中称，这项法律的通过是"全国性的胜利"。
她表示："人工智能和社交媒体是下一代的数字糖果——甜美、令人上瘾，并且精心设计用来影响我们孩子的认知发展。"
她进一步强调："但与糖不同，这些新技术可以被武器化，能够塑造信念，更令人担忧的是，还会影响情绪，甚至可能产生致命后果。"
参议员Ted Cruz和Amy Klobuchar 于2024年6月共同提出该法案，并于今年4月成功通过两院表决。
美国成为最新禁止露骨深度伪造内容的国家
近年来，深度伪造技术被用于有害目的的案例日益增多。其中一个引起广泛关注的事件发生在2024年1月，流行歌手泰勒·斯威夫特的深度伪造生成的不当图像在X平台上迅速传播。
作为紧急应对措施，X平台暂时禁止用户使用Taylor Swift的名字进行搜索，同时立法者积极推动立法，将制作深度伪造图像的行为定为刑事犯罪。
在国际范围内，英国等国已经先行一步，在2023年的《在线安全法》中明确将分享深度伪造色情内容认定为非法行为。
安全科技初创公司Security Hero发布的2023年研究报告揭示了一个令人担忧的事实：网络上发布的深度伪造内容绝大多数属于色情性质，且99%被这类内容针对的个体是女性。