莫莉・凯利（Molly Kelley）在 6 月时震惊地发现，有人利用广泛使用的 “裸体化” 技术，依据她发布在社交媒体上的家庭照片，制作出了高度逼真且露骨的她的视频和图像。
凯利表示：“当我得知同一个人还针对了大约 80 到 85 名其他女性时，我最初的震惊变成了恐惧。这些女性大多住在明尼苏达州，其中一些我还认识，她们都与那个作案者存在某种关联。”
在凯利证词的支持下，明尼苏达州正考虑一项打击深度伪造色情内容的新策略。一项获得两党支持的法案，将针对那些运营允许用户上传照片，并能将其转换成露骨图像或视频的网站和应用程序的公司。
美国各州以及国会都在思索监管人工智能的策略。多数措施都禁止传播露骨的性深度伪造内容或报复性色情内容，无论其是否由人工智能制作。明尼苏达州这项立法背后的理念是，在这些材料在网上传播之前就阻止其被创建。
不过，人工智能法律专家警告称，该提案可能因涉嫌侵犯言论自由而违宪。
倡导者认为该法案必要的原因
这项研究的主要作者、民主党参议员艾琳・梅耶・夸德（Erin Maye Quade）指出，鉴于人工智能技术发展迅猛，有必要实施额外的限制措施。她提出的法案要求 “裸体” 网站和应用程序的运营商对明尼苏达州的用户关闭服务，否则将面临最高 500,000 美元的民事处罚，且是 “每次非法访问、下载或使用” 都要受罚。开发者需要想办法为明尼苏达州的用户关闭该功能。
她表示，对受害者造成伤害的不仅仅是传播行为，更在于这些图像本就不该被创作出来。
凯利上个月向记者透露，任何人都能在几分钟内快速制作出 “超逼真的裸体图像或色情视频”。
到目前为止，大多数执法人员的关注点都集中在深度伪造内容的分发和持有上。
国会、其他州和城市的相关举措
旧金山在 8 月对几个访问量颇高的 “裸体” 网站提起了史无前例的诉讼，指控这些网站违反了该州禁止欺诈性商业行为、未经同意的色情内容以及儿童性虐待的法律。目前，该案仍在审理中。
美国参议院上个月一致通过了由明尼苏达州民主党人艾米・克洛布查尔（Amy Klobuchar）和德克萨斯州共和党人特德・克鲁兹（Ted Cruz）提出的一项法案，该法案将发布未经同意的性图像（包括人工智能生成的深度伪造图像）定为联邦犯罪。社交媒体平台在接到受害者通知后，需在 48 小时内删除相关内容。梅拉尼娅・特朗普（Melania Trump）周一在她再次成为第一夫人后的首次单独露面中，敦促共和党控制的众议院通过该法案，目前该法案正等待表决。
堪萨斯州众议院上个月批准了一项法案，该法案扩大了对儿童非法性剥削的定义，将拥有人工智能生成的图像纳入其中，条件是这些图像 “与真实儿童难以区分，由真实儿童的图像演变而来，或者在没有任何实际儿童参与的情况下生成” 。
佛罗里达州立法机构提出的一项法案，将使用人工智能等技术生成裸体图像的行为定为新的重罪，并将拥有由此生成的儿童性虐待图像认定为犯罪。根据美联社使用账单跟踪软件 Plural 的分析，伊利诺伊州、蒙大拿州、新泽西州、纽约州、北达科他州、俄勒冈州、罗德岛州、南卡罗来纳州和德克萨斯州也提出了类似的法案。
梅耶・夸德表示，她会将自己的提案分享给其他州的立法者，因为很多人并不清楚这项技术如此容易获取。
“如果我们无法让国会采取行动，那或许可以让尽可能多的州行动起来。” 梅耶・夸德说道。
受害者讲述经历
受害者权利组织 RAINN（强奸、虐待和乱伦全国网络）的高级立法政策顾问桑迪・约翰逊（Sandi Johnson）称，明尼苏达州的这项法案将追究网站的责任。
“一旦这些图像被创建出来，它们就可能被匿名发布，或者迅速广泛传播，而且几乎不可能被彻底删除。” 她最近作证时说道。
梅根・赫尔利（Megan Hurley）也惊讶地发现，有人利用 “裸体化” 网站生成了她的露骨图像和视频。她觉得特别屈辱，因为她是一名按摩治疗师，而这个职业在一些人眼中已被过度性化。
“一个人用手机或电脑就能轻易创建出关于你、你的家人、朋友、孩子甚至孙子孙女的逼真、合成且私密的图像，这实在太容易了。” 赫尔利说，“我不明白为什么会存在这样的技术，而且有些公司靠这种方式盈利，我觉得这很可恶。”
AI 专家呼吁谨慎
然而，两位人工智能法律专家 —— 昆尼皮亚克大学法学院的韦恩・昂格尔（Wayne Unger）和斯坦福大学以人为本的人工智能研究所（Institute for Human-Centered Artificial Intelligence）的瑞安娜・普费弗科恩（Riana Pfefferkorn）认为，明尼苏达州的法案涵盖范围过广，难以经受住法庭的挑战。
普费弗科恩表示，若将范围限定在真实儿童的图像上，或许有助于该法案经受住第一修正案的审查，因为这类图像通常不受法律保护。但她也指出，这仍可能与一项联邦法律相抵触，该法律规定不能因用户生成的内容而起诉网站。
“如果明尼苏达州想推进这项立法，他们需要让法案更加清晰明确。” 昂格尔说，“他们必须明确界定‘裸体’和‘裸露’的含义。”
但梅耶・夸德认为，她提出的立法有着坚实的宪法基础，因为它规范的是行为，而非言论。
“这种情况不能再持续下去了。” 她说，“这些科技公司不能在不承担任何后果的情况下，不断向世界推出这项技术，它本质上就是有害的。”
