首页 > 澳洲 >

不可思议!澳洲儿童隐私遭AI大规模侵犯!图像、姓名、位置和年龄等被曝光

收藏

不可思议!澳洲儿童隐私遭AI大规模侵犯!图像、姓名、位置和年龄等被曝光

新石器留学移民 新石器留学移民 9天前 17:20

1

澳洲儿童隐私遭侵犯


在维州 Bacchus Marsh Grammar School 发生了深度伪造该校女生裸照事件后,研究人员开始调查人工智能供应链。



人权观察的研究人员在著名的数据集LAION-5B中发现了这些图像,其中包括一名仍与脐带母亲相连的新生儿、演奏乐器的学龄前儿童以及学校体育嘉年华上身着泳衣的女孩。


这是一个包含58.5亿张图像的免费在线数据集,用于训练许多可生成超现实图像的公开AI生成器。


“童年的一般性时刻被捕捉、抓取并放入这个数据集中,”人权观察儿童权利和技术研究员韩惠珽(Hye Jung Han)说。


“这真的非常可怕,且令人震惊。”



人权观察研究了5850幅图像样本,涵盖了从土豆到行星再到人类等广泛主题,发现了来自澳大利亚各州和领地的190名儿童的照片。


“从我查看的样本来看,儿童似乎在这个数据集中占了很大比例,这确实很奇怪,”韩惠珽女士说。


“这可能为我们提供了线索,让我们了解这些人工智能模型如何能够制作出极其逼真的儿童图像。”


这些图像是使用一种称为“网络爬虫”(web crawler)的常见自动化工具收集的。人权观察认为这些图像来自受欢迎的照片和视频共享网站,包括YouTube、Flickr和博客平台。


“其他照片是由学校或家庭聘请的摄影师上传到 [他们自己的网站上] 的,”韩惠珽说,她补充说这些图片无法通过搜索或在其来源网站的公共版本上轻易找到。


一些图片还附有非常具体的说明,通常包括儿童的全名、住址、他们就诊的医院以及拍摄照片时的年龄。


(配图来源网络)


2

AI正处于“狂野”阶段?


阿德莱德大学(University of Adelaide)澳大利亚机器学习研究所所长 Simon Lucey 教授表示,这些发现会给该行业敲响警钟。


他说人工智能正处于“wild west”(即毫无约束的发展)阶段。


“如果那里有数据集,人们就会使用它。”


韩惠珽女士说:“人工智能模型已经了解了孩子的特征,并将以未来无人能预见的方式使用它。”


此外,人工智能图像模型可能会重现其训练数据的元素,例如儿童的脸部,这种风险虽然很小,但却是真实存在的。


目前尚无关于儿童图像被无意重现的已知报告,但 Lucey 教授表示确实存在这种能力。


他认为某些模型应该被关闭。


3

删除照片有用吗?


数据集LAION-5B已用于训练许多世界领先的人工智能模型,例如Stable Diffusion和Midjourney,全球数百万人都在使用。


它是由一个名为LAION的德国非营利组织创建的。


LAION发言人在给澳大利亚广播公司(ABC)的一份声明中表示,其数据集“只是公共互联网上可用图像链接的集合”。


他们说,“提高安全性的最有效方法是从公共互联网上删除儿童的私人信息”。


2023年,斯坦福大学的研究人员在LAION-5B数据集中发现了众多已知的儿童性虐待材料图像。



早在 2021 年 10 月,认知科学家 Abeba Birhane(现任 Mozilla 人工智能高级研究员)就发表了一篇研究早期图像数据集 LAION-400M的论文。研究发现,该数据集包含“令人不安的露骨图像和文本对”。


此外,LAION还被卷入两场诉讼之中。


LAION的发言人告诉ABC,“不可能根据人权观察分析的少量数据得出结论”。


“我们可以确认,我们删除了人权观察报告的所有私人儿童数据。”


4

引发担忧


随着人工智能(AI)在课堂上的渗透,保护学生隐私成了一个亟待解决的问题。尤其在商业利益的驱动下,这引发了人们对学生数据安全和隐私的极大担忧。


以下是一些具体的建议,帮助家长在AI时代更好地保护孩子的照片隐私。

1. 教育孩子隐私的重要性

2. 设定分享照片的规则


家庭协议:制定家庭内部的照片分享规则,明确哪些照片可以公开分享,哪些不可以。


社交媒体管理:限制孩子在社交媒体上发布照片的权限,确保家长有最终审核权。


(配图来源网络)


3. 使用安全的照片存储和分享平台

加密存储:选择具备加密功能的照片存储服务,确保照片不会被未经授权的人访问。

私密分享:利用安全的分享平台或应用,避免通过不安全的渠道分享照片。


4. 定期审查隐私设置,包括社交媒体设置和应用权限


5. 与孩子保持沟通,建立信任并定期讨论,包括与孩子定期讨论网络隐私问题,了解他们在网上的行为和担忧。


6.了解法律和政策,包括隐私法规和举报机制。


7. 保持技术更新。学习新技术:家长应保持对新技术的关注,了解最新的隐私保护工具和方法。


在AI时代,保护孩子的照片隐私需要家长的积极参与和持续关注。通过教育、技术手段和法律知识,家长可以有效地保护孩子的隐私,减少潜在的风险。建立一个安全的网络环境,让孩子在享受科技带来便利的同时,免受隐私泄露的困扰。


而为了保护隐私,澳洲已经宣布禁止长日托、学前班和幼儿园员工用个人手机为孩子拍照。



包括“任何能够拍摄图像或视频的设备,如手机、数码相机、平板电脑、智能手表”以及其他具备拍摄图像或录制视频功能的新兴技术。除此之外,还涉及个人储存设备的使用,如SD卡、USB驱动器、硬盘,以及可以存储图像或者视频录制的云端应用程序。


这里也再次提醒各位父母们,在分享孩子照片等涉及隐私问题的信息时,一定要谨慎,以免被滥用。

本文为转载发布,仅代表原作者或原平台态度,不代表我方观点。澳洲印象仅提供信息发布平台,文章或有适当删改。对转载有异议和删稿要求的原著方,可联络 [email protected]

0 条评论
网友评论仅供其表达个人看法,并不表明网站立场

你需要登录后才能评论 登录

    推荐阅读