紧急预警！隐形黑客入侵Gmail，18亿用户受影响！AI助手反成帮凶

【本文译自Dailymail，仅代表原出处和原作者观点，仅供参考阅读】

据报道，一种新型电子邮件攻击正悄然瞄准18亿Gmail用户，受害者往往毫无察觉。

黑客正在利用Gmail和Workspace内置的AI工具Google Gemini，诱骗用户交出账户凭证。

网络安全专家发现，攻击者通过发送含有隐藏指令的邮件，诱导Gemini生成虚假钓鱼警告，欺骗用户分享账户密码或访问恶意网站。

这些邮件被精心设计成紧急事务样式，有时甚至伪装成企业邮件。

攻击者将字体大小设为零、文字颜色设为白色，从而插入用户不可见但能被Gemini识别的指令。

GenAI漏洞赏金项目经理Marco Figueroa演示了这种恶意指令如何虚假警告用户邮箱账户已遭入侵，并诱导其拨打伪造的“谷歌客服电话”解决问题。

为防范这类指令注入攻击，专家建议企业配置邮件客户端以检测并清除邮件正文中的隐藏内容。

此外，可通过实施后处理过滤器来扫描收件箱，识别“紧急消息”、可疑链接或电话号码等风险元素，从而强化防御体系。

这一骗局由Mozilla旗下0Din安全团队牵头的研究揭露，上周他们提供了相关攻击的实证。

报告展示了黑客如何诱骗Gemini显示虚假安全警报，谎称用户密码已泄露。该警告看似真实，实则为窃取信息而精心构建的陷阱。

攻击手法是将指令设置为与邮件背景同色的白色文字。当用户点击“邮件摘要”功能时，Gemini便会处理这些隐藏指令而非可见文本。

这种被称为“间接提示注入”的操纵手段，利用了AI无法区分用户提问与黑客隐藏指令的缺陷。

IBM指出，AI会将两者都视为普通文本，因此会优先执行最先出现的指令——即便其带有恶意。

Hidden Layer等安全公司证实，攻击者能构造看似正常的邮件，却在其中嵌入专门欺骗AI的隐藏代码和网址。

其中一例中，黑客发送了伪装成日历邀请的邮件。但邮件内藏的指令迫使Gemini警告用户“密码泄露”，诱导其点击恶意链接。

谷歌承认此类攻击自2024年起就存在，并表示已新增防护工具，但该骗术目前仍能得逞。

在一项案例中，安全研究人员向谷歌报告的重大漏洞显示，攻击者能在邮件中隐藏虚假指令，诱骗Gemini执行用户从未要求的操作。

然而谷歌并未修复该问题，反而将报告标记为“不予修复”，表明其认为Gemini当前运作方式符合预期。

这一决定令部分安全专家震惊，因为这意味着谷歌将“无法识别隐藏指令”视为正常功能而非缺陷。

这相当于为黑客敞开了大门——他们仍可植入AI可能无条件执行的恶意指令。

专家担忧，既然AI无法区分真实信息与隐藏攻击，而谷歌又拒绝修正该机制，风险将持续存在。随着AI在快速决策和邮件摘要领域日益普及，威胁范围已超出Gmail，正蔓延至Google文档、日历乃至第三方应用。

网络安全专家指出，部分攻击甚至由其他AI系统自主发起，不再局限于人类黑客。

谷歌已提醒用户：绝不会通过Gemini摘要发送安全警报。若摘要中出现“密码风险”警告或可疑链接，应视作钓鱼邮件立即删除。

在最新博客中，谷歌表示Gemini在执行高风险操作（如发送邮件或删除内容）前将要求二次确认。这一步骤即使用户AI受骗，也能提供拦截机会。

当系统检测并拦截攻击时，会显示黄色警示横幅。若在摘要中发现可疑链接，会自动替换为安全警告。但部分漏洞至今仍未彻底解决。

编译：Jayne
原文链接：

https://www.dailymail.co.uk/sciencetech/article-14911151/Urgent-warning-Gmail-users-new-wave-threats.html