X平台“AI 脱衣”乱象频发！大量非合意色情图片被生成，澳总理、英国王妃纷纷躺枪

【本文译自Perthnow仅代表原出处和原作者观点，仅作阅读参考，不代表本平台态度和立场】

澳大利亚网络安全专员表示，马斯克旗下平台X上非合意生成色情图像激增，这一现象令她“深感担忧”。

Julie-Inman Grant称，该互联网监管机构正密切监控此事，并透露自2025年末以来，平台X上与有害人工智能内容相关的举报量已翻倍。

X平台内置人工智能工具Grok被频繁用于生成不良内容，儿童和女性成为主要目标，相关指令会让目标人物被置于色情姿势或换上比基尼形象。

此前澳大利亚网络安全专员办公室曾严厉打击各类专门用于“数字脱衣”的应用程序，但Grok图像生成功能的滥用，让这类不良行为蔓延至X平台超5亿月活跃用户中，逐渐成为主流乱象。

Grok的人工智能脱衣功能针对女性和儿童生成不良图像，已在国际社会引发公愤。英国首相Keir Starmer称这种行为“令人不齿”，并表示正考虑“所有可行方案”以终结此类技术滥用行为，其中包括封禁这款应用。

“这种行为令人不齿，令人作呕，绝对不能容忍。X平台必须对此严加管控。”他表示，已要求英国通信管理局着手调查此事。

“这是违法行为，我们绝不姑息。我已下令将所有应对方案纳入考量范围。英国通信管理局采取相关行动时，将获得我们的全力支持。这种行径是完全错误的。”

Starmer本人就曾成为深度伪造技术的受害者，有人将他的形象合成到比基尼造型中。除此之外，其他内阁大臣、议员、名人乃至Wales王妃，都未能幸免。

欧盟委员会以及日本、法国、加拿大等多国均对此表示强烈愤慨。

欧盟数字事务发言人Thomas Regnier称，Grok的“辣度模式”属于“非法且令人震惊”的功能，并强调“此类功能在欧洲绝无容身之地”。

加拿大人工智能与数字创新部长Evan Solomon将这类深度伪造图像称为一种“暴力行径”，并表示Mark Carney领导的政府正制定多项立法措施，以杜绝这类技术滥用行为。

“平台方和人工智能开发者有责任防范此类伤害事件的发生。本国政府正持续推进人工智能技术的负责任应用，其中包括提出《C-16法案》即《保护受害者法案》，对《刑法典》进行修订。我们将通过修订刑法、追究施暴者责任的方式，保障加拿大民众的安全。”Solomon说。

科廷选区独立议员Kate Chaney也谴责这类图像属于违法行为，并呼吁政府推进她于去年向议会提交的私人议员法案。该法案旨在将滥用人工智能制作虐童内容的相关应用列为刑事犯罪。

“Grok的‘辣度模式’正被用于制作儿童性虐待材料。而澳大利亚政府并未对此采取有效应对措施。”她于周五在X平台发文称。

尽管澳大利亚总理尚未就此公开发表评论，但通信部长办公室发言人承诺，政府正致力于限制公众获取各类“脱衣”工具的途径。

此前已有不良分子利用人工智能技术，生成艾博年赤裸上身的形象，以及他以变装皇后身份参加性少数群体游行的伪造图像。

“利用生成式人工智能技术，在未经当事人同意的情况下对其进行性剥削或色情化处理，是令人发指的行为，尤其是当受害者涉及儿童时。澳大利亚政府致力于保护本国民众免受此类网络危害。”Anika Wells办公室的一名发言人表示。

澳大利亚网络安全专员办公室已与国际虐童热线以及网络安全监管机构展开合作，各方正共同监控暗网论坛和主流平台上出现的生成式人工智能不良内容。

“我对此深感担忧。自2025年末以来，我们收到的举报量已翻倍。”Inman Grant说。

“部分举报涉及成人图像相关内容，我们会依据基于图像的滥用相关法规进行评估；另一些举报则涉及潜在的儿童性剥削材料，这类内容将依据非法及受限内容相关法规开展评估。”

“澳大利亚具有强制约束力的行业准则与标准明确要求，网络服务提供商必须建立相应制度与流程，保护澳大利亚民众免受非法及受限内容的侵害。”

“我们将动用手中所有可用的监管工具，对此事展开调查并采取恰当行动。”

X平台已就生成色情内容一事发表正式道歉声明，表示正在“加强安全防护措施”。但值得注意的是，该声明发布前，马斯克本人曾在网络上对相关争议不屑一顾，甚至在看到公众人物的比基尼伪造图像时，还发布了大笑表情予以回应。

此前澳大利亚网络安全专员办公室曾针对各类“脱衣”应用采取整治行动，尤其是在澳大利亚学生群体受害事件频发后，多项整治措施于2025年末落地，数款相关应用已退出澳大利亚市场。

编译：Renee

原文链接：

https://www.perthnow.com.au/news/technology/australias-esafety-commissioner-deeply-concerned-by-sexual-images-created-by-grok-on-elon-musks-x-c-21242884