澳洲老板的惨痛教训：用AI写封邮件，结果亏了2000澳元！

随着澳大利亚各行各业探索生成式人工智能在工作中的好处——从提升生产力到改善员工体验——数百万职场人士正在使用这些工具，却未必完全了解潜在的风险。

谷歌与市场研究公司IPSOS在今年1月的调查显示，几乎一半的澳大利亚人正在使用生成式AI，而其中约四分之三表示会在工作中使用。

另一项由人力资源平台Workday进行的调查则发现，大约65%的澳洲员工证实所在公司已引入AI技术。

但即使是使用AI撰写一封简单的工作邮件，也可能带来意想不到的后果。

墨尔本“租约结束清洁”公司（End Of Lease Cleaning Melbourne）负责人Michael，就因AI代笔的失误损失了2000澳元。他的经历也给所有使用AI办公的人敲响了警钟。

Michael告诉9News，他的团队原本需要花大约五小时来逐一回复客户的邮件，因此他们开始使用生成式AI工具来加快回信流程。

“我们当时是想省下重复打字列出清洁服务的时间。”

他们只需输入一段简单的提示，告诉AI客户需要哪些清洁项目，AI就会自动生成一封包含服务项目、价格以及报价的完整邮件。

的确，他们的回复时间从5小时缩短到了1小时，但Michael承认，这项工具并不总是靠谱。

有几次，AI错误地把“局部墙面清洁”写成了“整面墙清洁”，但却没有相应地修改报价，导致他们不得不以“局部清洁”的低价提供“全墙清洁”的高价服务，每次损失高达500至700澳元。

而真正让他下定决心放弃AI的，是今年3月发生的一次重大失误：他用AI生成了一封给客户的报价邮件，内容涉及一个“非常脏乱”的房产，清洁费用应约2000澳元。

他只粗略浏览了一下AI生成的邮件便直接发送出去，一周后才发现邮件中充满错误，而此时客户已选择另一家公司。

“我们损失了一笔很大的订单，”Michael表示。

Michael并不是唯一一个因AI误发邮件而遭受损失的澳洲职场人士。

一些受访者告诉9News，AI曾在邮件中把客户、同事或合作方的称呼写错或搞混，不仅让人尴尬，还可能影响合作关系与商业机会。

而风险不仅限于“写错名字”这么简单。

律师事务所Dentons的知识产权与信息技术律师Robyn Chatwood与Michael Park表示，生成式AI还有“幻觉”问题，也就是编造不实信息。

这种“胡编乱造”若出现在正式邮件中，可能会让发送人承担责任。

此外，AI工具有时还会侵犯版权或错误处理敏感信息，在职场中可能引发严重后果。

Chatwood强调：“即使是AI的错误，责任仍在使用者身上，你不能把锅甩给机器。”

Park建议，澳洲员工最好的自我保护方式就是严格遵守公司关于AI的使用政策。

“如果公司的规定是不许用，那你就不要用。你这是在保护自己，避免惹上麻烦。”

对于没有AI使用规定的个体经营者或小企业员工，他建议宁可保守一点。

自从那封邮件导致损失后，Michael和他的团队已经不再使用生成式AI进行客户沟通。

虽然这意味着他们的回复时间又回到了5小时，但Michael认为：“总比因为AI再出一次代价昂贵的错误要好。如果你要用AI写邮件，那一定要至少检查两三遍之后再发。”