美国中学生用AI伪造同学裸照,AI成新型校园霸凌工具,官员怒称将严惩

金羊网2月29日消息:上周,美国加州贝弗利山的一所中学,有学生利用人工智能(AI)技术伪造同学的裸照并在网络上散布。这起事件被认为是一种新型校园霸凌行为,引发当地教育官员的强烈谴责。目前,贝弗利山联合学区的官员正在对此事进行深入调查,并承诺将对涉事学生采取严厉的纪律处分,包括但不限于开除学籍。


贝弗利维斯塔中学


这起事件发生在贝弗利维斯塔中学,这所学校大约有750名6至8年级的学生。上周三,贝弗利山联合学区官员在致家长的一封电子邮件中表示,“贝弗利维斯塔中学收到学生的报告,称有学生利用人工智能技术,将同学的面孔拼接在裸体图像上,并进行传播。”


据一名八年级学生透露,老师们收到照片后,开始一对一与受害者谈话。学生伊芙琳·克鲁格说:“女孩子们被一个个叫出去。我们总是担心,下一个会不会是我?我会不会被叫进去?当然,这些照片是AI生成的,有的看起来不真实,但其中有一些看起来很真实。”


“这非常可怕,大家无法安心上学,”该校一名不愿透露姓名的学生说,“他们害怕看到那些裸照,害怕自己的照片被恶意利用。”


该校一位学生的母亲称,许多女孩成为这些深度伪造色情图片的目标。“我能想象这对受害者是怎样的毁灭性打击。”贝弗利维斯塔中学八年级学生的母亲杰基·克鲁格说,“这让人感到非常恐惧和可怕。虽然我的女儿这次没有受害,但她仍然感到恐惧。所有人都害怕霸凌有一天会发生在自己身上。”克鲁格希望肇事学生能受到应有的惩罚,并呼吁提供AI技术的公司承担相应责任。


学区官员表示对此类行为感到愤怒,并强调将根据《加利福尼亚教育法典》对涉事学生实施最严厉的纪律处分。任何被发现制作、传播或持有此类AI生成图像的学生都将面临严重后果,包括但不限于开除学籍。此外,学区官员还与贝弗利山警察局密切合作,共同展开调查。


贝弗利山警察安德鲁·迈尔斯证实,警方已接到报警,并正在对此事进行非刑事调查。由于涉及未成年人,他无法提供更多信息。


深度伪造色情内容泛滥 专家呼吁加强网络安全与道德教育


报道称,这起事件只是美国全国范围内日益增多的类似案例的冰山一角。网络安全专家皮特·尼科莱蒂称,“此类事件每天都在上演,频率高达数十次。我们只需浏览各地的新闻报道,便可见其普遍性。”随着人工智能技术的广泛普及和简化应用,越来越多的学生开始利用这些工具实施霸凌行为。


今年1月,美国华盛顿特区,一位来自新泽西州的十几岁受害者勇敢地站在联邦议员面前,详细叙述了自己所遭受的“深度伪造”色情制品侵害的经历。受害者强烈呼吁制定一项联邦法律,将所有深度伪造色情行为明确界定为犯罪,以保护更多潜在的受害者。截至目前,美国尚未填补这一法律空白。


报道揭示了一个令人不安的趋势:AI和其他新兴科技正在全球范围内演变成校园霸凌的新工具手段。在美国、加拿大、西班牙和巴西等地,已经出现了一系列与深伪技术(Deepfake)紧密相关的网络霸凌事件,凸显出低成本、易上手的深度伪造工具正在被滥用。据美国媒体报道,在2023年的前9个月里,35个深度伪造色情内容网站竟然上传了高达11.3万个相关视频。


为了应对这一问题,网络安全专家皮特·尼科莱蒂建议学生们尽量减少在社交媒体上公开个人照片和数字足迹;同时,家长们也需要与孩子们进行深入的沟通,让他们了解利用AI技术制作不当照片可能带来的严重后果。


来源:红星新闻


责任编辑:栗蓝


(声明:请读者严格遵守所在地法律法规,本文不代表任何投资建议)

本文来源:元宇宙头条 文章作者:元宇宙头条
收藏
举报
元宇宙头条
累计发布内容523篇 累计总热度10万+
523篇 10万+
FTX 后院起火,Binance 釜底抽薪
FTX 后院起火,Binance 釜底抽薪
FTX 后院起火,Binance 釜底抽薪

元宇宙头条现已开放专栏入驻,详情请见入驻指南: #

免责声明:
1、本文版权归原作者所有,仅代表作者本人观点,不代表元宇宙头条观点或立场。
2、如发现文章、图片等侵权行为,侵权责任将由作者本人承担。

评论 共0条
默认
|
点赞
说点什么吧
相关文章
您需要登录后才可以回帖 立即登录

元宇宙头条
个人认证
热门文章

下载APP

微信公众号