首页 > 科技 >

AI革命脚步快 法令跟不上

收藏

AI革命脚步快 法令跟不上

世界新闻网 世界新闻网 03-31 16:12

微信图片_20240331160600.png微信图片_20240331160600.png

像ChatGPT这样的人工智能(AI)工具已经成为主流,在背后推动这种科技的公司正投入数十亿美元,看好它们将改变我们的生活和工作方式。


但伴随这项承诺而来的是不断出现的令人担忧的头条新闻,其中一些强调AI在回答问题或命令时可能会产生偏见或不准确。 包括ChatGPT在内的生成式AI工具被指控侵犯版权。 令人不安的是,有些已被用来产生未经同意的亲密图像。

「深伪」侵权频传


最近,当泰勒丝(Taylor Swift)的AI生成色情图片在社群媒体上传播时,「深伪」概念成为人们关注的焦点,凸显出主流AI技术带来的破坏性潜力。


拜登总统在2024年国情咨文演讲中,敦促国会通过立法来监管AI,包括禁止「AI语音模仿等」。 他表示,立法者需要「利用AI的承诺,保护我们免受其危险」,并警告如果不加以控制,这项技术将给美国人带来风险。


在他发表声明之前,最近发生一场模仿他的声音并针对数千名新罕布夏州初选选民的虚假机器人电话活动,当局指称这是一次AI干预选举的尝试。 即使虚假资讯专家警告AI对民意调查和公共话语的威胁,但很少有人预计国会会在分裂的选举年通过立法控制AI产业。


但这并不能阻止大型科技公司和AI公司继续吸引消费者和企业的新特性和功能。


最近,ChatGPT创作者OpenAI推出了名为Sora的新AI模型,据称该模型可以根据快速文本提示创建「现实」和「富有想像力」的60秒影片。 微软已将AI助理Copilot加入其产品套件中,其中包括Word、PowerPoint、Teams和Outlook等全球许多企业都在使用的软件。 该AI助理是以ChatGPT的技术为基础。 谷歌也推出AI聊天机器人Gemini,它已经开始取代一些Android设备上的Google Assistant功能。


AI研究人员、教授和法律专家对监管机构有能力或愿意控制AI之前的大规模采用感到担忧。 数百名专家签署一封公开信,要求AI公司做出政策改变,并同意遵守AI安全原因和责任的独立评估。


构成巨大风险


公开信中指出,「生成式AI公司应该避免重蹈社群媒体平台的覆辙,其中许多平台实际上已经禁止了旨在追究其责任的研究类型,并威胁采取法律行动、发出停止函或其他方法来施加关于研究的寒蝉效应。 」


它补充说,一些生成式AI公司已经暂停了研究人员的帐户,并改变了服务条款,以阻止某些类型的评估,并指出「剥夺独立研究人员的权力不符合AI公司自身的利益」。


不到一年前,包括马斯克在内的一些科技巨头呼吁AI实验室至少六个月内停止训练最强大的AI系统,理由是「对社会和人类构成巨大的风险」。 但研发工作从未停止。

催生通用规则

布朗大学计算机科学家兼教授文卡塔苏布拉马尼安(Suresh Venkatasubramanian)表示:「我在AI领域看到的最令人担忧的事情是承诺与实践之间持续存在的差距。 」他也是签署信件的专家之一;他于2021年被任命为白宫科技政策办公室成员,协助就AI政策提供建议。


他表示:「广泛使用的主要生成式AI系统的访问权限由少数公司控制。 」这些系统很容易出错,并可能产生破坏性内容,「如果没有独立评估AI的能力,并且担心法律威胁,研究人员将继续很难完成评估生成式AI系统的安全性和可信度,以便政策制订者充分了解情况采取行动。 」


他期待政策制订者和白宫管理和预算办公室正在进行的工作,以澄清和制订「通用规则」。 白宫管理和预算办公室负责监督拜登总统在整个行政部门的愿景。


普林斯顿大学计算机科学教授纳拉亚南 (Arvind Narayanan)也签署了这封信,他也支持前者的看法;他特别担心AI加速发展的速度,因为这远快于我们的适应能力。


他表示:「科技公司通过商业模式致富,靠新科技的好处获取利润,而成本则由社会承担。 」他承认早在生成式AI出现前就已经出现这种情况。


他补充说:「针对特定危害设置围篱是必要的,但它们不会修复潜在的商业模式。 」


他认为更大胆的改革可能也是必要的,例如对AI公司征税以资助社会安全网。


当今的生成式AI用户必须了解使用与所需目标相距甚远产品的局限性和挑战。



本文为转载发布,仅代表原作者或原平台态度,不代表我方观点。澳洲印象仅提供信息发布平台,文章或有适当删改。对转载有异议和删稿要求的原著方,可联络 [email protected]

0 条评论
网友评论仅供其表达个人看法,并不表明网站立场

你需要登录后才能评论 登录

    推荐阅读

    • 箭在弦上!华为Pura 70系列开售时间曝光:定好闹钟蹲点守候吧 箭在弦上!华为Pura 70系列开售时间曝光:定好闹钟蹲点守候吧

      日前,华为终端官方微博宣布P系列将升级为Pura系列,终于揭开了该系列的预热序幕,而Pura 70就将是该系列的首款产品。而自从官宣之后,很多网友就在10:08、12:08、18:08这三个华为惯用的新品开售时间蹲守官网,以防错失第一时间抢购的机会,然而截至目前为止大家都还在望眼欲穿中。不过现在有最新消息,近日余承东似乎带来了关于该机亮相的时间细节。

      搜狐网

      搜狐网

      华为

      pura

      前天 16:27
    • 特斯拉裁员主要针对美国和中国:销售已收到被裁通知 特斯拉裁员主要针对美国和中国:销售已收到被裁通知

      特斯拉全球裁员包括削减美国和中国的员工数量,这是特斯拉在销售、技术和工程方面最大的两个市场。

      凤凰网

      凤凰网

      特斯拉

      汽车

      前天 15:53
    • 鹊桥二号中继星任务取得圆满成功 鹊桥二号中继星任务取得圆满成功

      4月12日,据中国国家航天局网站消息,鹊桥二号中继星已完成在轨对通测试。经评估,中继星平台和载荷工作正常,功能和性能满足任务要求,可为探月工程四期及后续国内、外月球探测任务提供中继通信服务,任务取得圆满成功。

      俄罗斯卫星通讯社

      俄罗斯卫星通讯社

      卫星

      国际

      7天前 15:13
    • 搞笑!AI无人技术背后全是人!亚马逊雇1000廉价劳动力伪装AI?! 搞笑!AI无人技术背后全是人!亚马逊雇1000廉价劳动力伪装AI?!

      世界零售巨头亚马逊近期宣布,停用“Just Walk Out”系统。 该系统是一款先进的无人超市购物系统,可让顾客无需自助付款,直接取货出门。

      悉尼见闻

      悉尼见闻

      AI

      技术

      9天前 15:50
    •  Temu在澳大受欢迎,数据安全引忧虑! Temu在澳大受欢迎,数据安全引忧虑!

      澳洲新闻集团4月9日报道,在线零售巨头Temu自一年前在澳洲推出以来迅速走红,但也引发一些人士对客户数据的巨大担忧。

      澳洲红领君

      澳洲红领君

      澳洲

      信息

      9天前 13:58