新泽西州一高中生人工智能生成传播女同学色情照片

【华e生活大唐编译】一些新泽西州的高中学生被指控分享了用人工智能生成的同学裸照。

这一事件发生在今年夏季,但最近才引起了西菲尔德高中(Westfield High School)管理员的关注。

该校一名14岁女生的母亲Dorota Mani计划为她的女儿辩护。她的女儿是这些深度伪造裸照的受害者。

“我女儿给我发了条短信,‘妈妈,我的裸照正在传播。’ 就这样。‘我找到校长办公室。’”Mani说。

Mani说,她的女儿开始哭泣,看到走廊上也有其他哭泣的同学。

2023年11月8日星期三,多洛塔·马尼(Dorota Mani)在新泽西州泽西城的办公室里接受采访。Mani是一名14岁的新泽西州高中生的父母,这名高中生被人工智能生成的深度伪造图像所伤害。ABCNEWS

随后,学校校长给家长发了一封邮件,其中部分内容如下:

“学生们向我们反映,一些同学使用人工智能从原始照片中创建了色情图片。这种在网上称为深度伪造的篡改图片。”

校长的邮件继续警告家长:

“新技术使得可能伪造图像,学生们需要了解这些行为对他人可能造成的影响和危险。”

该邮件还鼓励受害者报警,Mani说她确实报了警。

学区表示他们不能评论有多少学生受到影响或正在采取何种纪律行动。

国会正在考虑纽约州代表Joe Morelle提出的一项法案,该法案将使在线分享非自愿深度伪造图像成为非法行为。

Mani和她的女儿计划倡导制定法律来保护人们免受深度伪造照片的侵害。

“这是我们需要学习的事情,我们的孩子们需要意识到这一点,”Mani说。

与此同时,在美国西西海岸,官员们正在调查一起事件,涉及一名十几岁的男孩,据称他使用人工智能制作并传播其他学生的类似图像。这些学生也是十几岁的女孩,他们在华盛顿州西雅图郊区的一所高中就读。

这些令人不安的案件再次让人们关注到人工智能生成的露骨照片或视频,并以前所未有的速度在网上发展。

根据独立研究员吉纳维芙·吴(Genevieve Oh)与美联社分享的一份分析报告,今年网上发布了超过14.3万个新的深度假视频,超过了其他任何一年的总和。

迫切需要解决方案的受影响家庭正在敦促立法者为受害者实施强有力的保障措施,因为他们的图像被新的人工智能模型或大量公开宣传其服务的应用程序和网站操纵。倡议者和一些法律专家还呼吁制定联邦法规,在全国范围内提供统一的保护,并向现有和潜在的犯罪者发出强有力的信息。

“我们在为我们的孩子而战。”Dorota Mani说,“他们不是共和党人,也不是民主党人。他们不在乎。他们只是想被爱,他们想要安全。”

去年10月,美国总统乔·拜登(Joe Biden)签署了一项行政命令,其中包括禁止使用生成式人工智能制作儿童性虐待材料或未经同意的“真实个人的亲密图像”。该命令还指示联邦政府发布指导,对人工智能生成的内容进行标签和水印,以帮助区分真品和软件制作的材料。

以韦斯特菲尔德事件为例,代表该镇的共和党众议员小汤姆·基恩(Tom Kean, Jr.)提出了一项法案,要求开发商对人工智能生成的内容进行披露。在其他努力中,美国众议员、纽约民主党人乔·莫雷尔(Joe Morelle)提出的另一项联邦法案将把在网上分享深度伪造的色情图片定为非法。但由于国会陷入僵局,该法案已经几个月没有进展了。

报道原文链接:https://www.live5news.com/2023/11/03/high-schoolers-accused-making-ai-generated-pornographic-images-their-classmates/

Leave a Comment

您的电子邮箱地址不会被公开。 必填项已用 * 标注