一年前，西班牙南部社区被人工智能生成的高中女生裸照所震惊，15名同学被少年法庭判处一年缓刑。
然而，互联网上仍然容易获取用于制造有害深度造假的人工智能工具，它承诺在几秒钟内“为上传至网站的任何照片脱衣”。
加利福尼亚州目前正在采取行动，关闭这种应用及其他类似应用。旧金山本周首次提起诉讼，专家认为这可能会开创先例，但也会面临许多挑战。
“这些图片的泛滥利用了全球范围内数量惊人的妇女和女孩，”旧金山当选市检察官大卫·邱(David Chiu)表示。他提起诉讼的是一组被广泛访问的网站，这些网站与加利福尼亚州、新墨西哥州、爱沙尼亚、塞尔维亚、英国等地的实体有关。
“这些图片被用来欺负、羞辱和威胁妇女和女孩，”他在接受美联社(The Associated Press)采访时说。“对受害者的影响是毁灭性的，对她们的声誉、心理健康、自主权造成严重影响，甚至导致某些人自杀。”
代表加州人民提起的诉讼称，这些服务违反了许多反对欺诈商业行为、未经同意传播色情内容和对儿童性虐待的州法律。然而，确定这些应用程序的运营者却十分困难，尽管这些应用在手机应用商店中不可用，但在互联网上却很容易找到。
去年底，美联社联系了一家服务公司，该公司通过电子邮件声称其“首席执行官在美国各地工作”，但拒绝提供任何证据或回答其他问题。美联社没有具体指明被起诉的应用程序，以免宣传它们。
他说:“我们目前还不清楚有很多网站的运营者是谁，他们在哪里操作，但我们有调查工具和传票权来深入调查。”“我们肯定会在诉讼过程中动用我们的权力。”
许多工具被用来制作逼真的假照片，未经同意对穿着衣服的成年女性(包括名人)进行“裸体”拍摄。从澳大利亚到加州比佛利山庄，世界各地的学校也出现了这种现象，通常是男生制作女同学的照片，然后在社交媒体上传播。
去年9月，在西班牙阿尔门德拉莱霍(Almendralejo)发生的第一起被广泛报道的案件中，一名医生在她的女儿成为受害者后，帮助将此事引起了公众的注意。她说，在今年夏初的法庭判决后，她对同学们面临的严厉判决感到满意。
但Miriam Al Adib Mendiri博士在周五的一次采访中说，这“不仅是社会、教育、家长和学校的责任，也是从这些垃圾中获利的数字巨头的责任”。
她对旧金山的行动表示赞赏，但表示还需要更多的努力，包括总部位于加州的meta Platforms及其子公司WhatsApp等大公司的努力。WhatsApp被用来在西班牙传播这些图片。
尽管学校和执法机构试图惩罚那些制作和分享深度造假的人，但当局一直在努力解决如何处理这些工具本身的问题。
今年1月，欧盟行政部门在给欧洲议会(European Parliament)一名西班牙议员的一封信中解释说，在阿尔门德拉莱霍使用的应用程序“似乎”不属于欧盟加强网络安全的全面新规定的管辖范围，因为它的平台不够大。
一直在追踪人工智能生成的儿童性虐待材料增长的组织将密切关注旧金山案。
该诉讼“有可能在这一领域开创法律先例，”致力于打击儿童性剥削的组织Thorn的政策主管艾米丽·斯利弗(Emily Slifer)说。
斯坦福大学的一名研究人员说，由于很多被告都在美国以外，将他们绳之以法将会更加困难。
斯坦福大学的Riana Pfefferkorn说，Chiu“在这个案件中有一场艰苦的战斗，但如果经营这些网站的被告无视诉讼，可能会让一些网站下线。”
她说，如果市政府在他们缺席的情况下胜诉，并获得影响域名注册商、网络主机和支付处理商的命令，“即使这些网站的所有者从未出现在诉讼中，也会有效地关闭这些网站”，就有可能发生这种情况。
对本文的评论本文来自作者[望跃岭]投稿，不代表机制号立场，如若转载，请注明出处：https://jzwrb.cn/wiki/202508-2100.html
评论列表（4条）
我是机制号的签约作者“望跃岭”！
希望本篇文章《旧金山加大力度打击制作虚假女性裸体图像的人工智能网站》能对你有所帮助！
本站[机制号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 一年前，西班牙南部社区被人工智能生成的高中女生裸照所震惊，15名同学被少年法庭判处一年缓刑。 然而，互联网上仍然容易获取用于制造有害深度造假的人工智能工具，它承诺...