举报量翻倍！澳洲“AI脱衣”应用肆虐校园，多名学生受害，有人竟想自杀

【本文译自News.com.au仅代表原出处和原作者观点，仅作阅读参考，不代表本平台态度和立场】

在了解到“脱衣”应用（Nudify apps）后，Jenny Branch-Allen很快意识到这会给澳大利亚家长带来麻烦。

这位澳大利亚家长委员会主席后来才真正体会到其影响有多“可怕”——有家长找到她，称自己的孩子在课堂上成为这些应用的受害者后，竟产生了自杀念头。

“这些孩子之所以考虑自杀，是因为他们无法承受自己遭遇的一切，”她说。

这类应用在近几个月人气飙升，它们利用人工智能技术，通过一张他人的全身着装照片，“脱去”衣物或生成虚假的裸照。

但真正让家长、教师和政界人士感到恐慌的，是它们在校园里日益流行的趋势。

澳大利亚电子安全专员表示，过去18个月里，儿童关于“脱衣”应用的举报量增加了一倍多，其中五分之四的案例都是针对女性。

“我们发现学生之间在使用这类应用伤害彼此，这太具破坏性了。”

“这不仅仅是欺凌，更是对人格的侮辱。有些孩子甚至用这种恶劣行为对待自己的兄弟姐妹，这让我们所有人都感到痛心。”

今年9月，一家英国科技公司收到了电子安全专员的警告，原因是该公司的“脱衣”服务被发现可用于制作儿童性剥削材料。

这些服务每月吸引约10万名访客，还被用来生成澳大利亚学校学生的露骨深度伪造图像。

“收到相关举报后，我们发现这两项在线服务都被澳大利亚学生恶意使用，用于制作针对同学的深度伪造图像虐待内容，”电子安全专员Julie Inman Grant说。

“这些深度伪造图像的逼真度极高，几乎无法分辨其真伪。”

据称，悉尼西南部一名学生利用人工智能和社交媒体上的照片，制作了女同学的深度伪造色情图片；去年6月，维州西北部一所学校的一名学生据称制作了该校约50名女生的露骨裸照。

去年5月，墨尔本东南部另一所学校还流传着一名女教师的虚假色情图片。

本周，美国路易斯安那州一所中学因开除一名13岁女生而遭到律师追责，这名女生殴打了一名据称分享她人工智能生成裸照的男同学。

该事件发生后，拉福什教区学区于8月将这名女生开除，她的家人目前正在起诉学校董事会。

“脱衣”应用包含“被殴打”“被虐待”等生成指令

澳大利亚活动组织Collective Shout对20款“脱衣”应用、深度伪造应用和“虚拟女友”应用进行了分析，他们使用一张“不存在的年轻女性”的人工智能生成图像测试这些应用的功能。

部分应用不仅能给年轻女性的图像“脱衣”，还能生成色情场景，并可发布到公共在线图库中。

用于生成图像的部分指令包括“被虐待”“被殴打”“有瘀伤”“被强奸”“哭泣”等词汇。

还有几款应用曾向用户提供经济奖励，鼓励他们邀请朋友加入并“交易脱衣图像”。

今年9月，联邦政府宣布计划限制“脱衣”应用的访问权限。

然而，联邦独立议员Kate Chaney希望进一步推进这一问题的解决——她提出一项法案，将下载、访问、提供或允许他人访问“脱衣”应用及其他sole目的为制作儿童性虐待材料的工具定为刑事犯罪。

联邦政府尚未采纳该法案，而是希望直接打击这些科技机构本身。

“这是人工智能可能造成的一种非常具体的危害，迅速解决这一问题至关重要，”她说。

“这是显而易见的正确做法，我们现在就可以应对这一风险。”

今年9月，新州政府出台法律，禁止传播人工智能生成的露骨性深度伪造内容。

此前，“色情勒索”案件数量不断上升，施暴者威胁要发布更多露骨内容，除非受害者满足其要求，该州因此出台了这项法律。

新州女性安全专员Hannah Tonkin表示，这项技术“令人恐惧”。

“女性和女孩是深度伪造内容的主要目标，传播这类内容的影响可能是毁灭性的，”她当时说。

“这项立法传递了一个重要信息：基于图像的虐待行为是不可容忍的。”

对未来的警告

Chaney女士表示，国际失踪与受剥削儿童中心目前公布的数据“令人震惊”，该组织每年收到约6.5万起在线儿童性剥削举报。

“他们正在处理大量人工智能虐待材料，而所有这些材料的源头都是一个真实存在的孩子。”

她还表示，在美国，超过30%的儿童报告称与人工智能存在“亲密”关系，无论是浪漫关系、性关系还是友谊。

“专家表示，澳大利亚在这方面比美国落后约一年，这让我们得以预见事态的变化趋势，”她说。

编译：Renee

原文链接：

https://www.news.com.au/technology/online/social/kids-are-considering-suicide-the-terrifying-new-trend-in-aussie-schools/news-story/3186844defc71fa6aab634039f6e0046