Google 对涉嫌中国网络犯罪网络 Outsider Enterprise 提起诉讼周五，该网络利用该公司的 Gemini AI 自动执行欺诈性短信活动，这些活动通过旨在窃取财务凭证的网络钓鱼网站针对数十万美国受害者。
根据法庭文件，被告涉嫌使用 Gemini AI 为模仿合法电信门户的虚假网站生成代码和模板。 FBI 表示，该行动在数十个国家/地区部署了 8,000 多个网络钓鱼网站。
截至 6 月 1 日的两周内，Google 在 Google Messages 上收到了大约 55,000 条可疑消息报告，其中许多据称与 Outsider Enterprise 有关。同一份法庭文件显示，该网络窃取了大约 387 万个信用卡号码，自 2023 年 7 月以来造成了约 19 亿美元的损失。
Today, we filed a lawsuit to permanently dismantle a group of organized cybercriminals accused of using AI tools — including Gemini — to scam Americans via fake text campaigns. Here’s what to know:
◾Our suit targets core software developers in a cybercrime operation known as…
— News from Google (@NewsFromGoogle) June 12, 2026
据称，网络钓鱼网站以各种金融账户为目标，包括加密货币钱包和交换凭证，因为诈骗者越来越关注可能比传统银行客户拥有更少追索权的数字资产持有者。
这起诉讼是在人工智能驱动的金融诈骗在美国激增之际出现的。 2025 年，FBI 共收到 1,008,597 起互联网犯罪投诉投诉，其中与加密货币相关的投诉占 181,565 起，损失达 110 亿美元，是所有类别中最高的。
FBI 互联网犯罪投诉中心在其近 25 年的历史上首次专门设立了一个专门针对人工智能诈骗的部门，该中心收到了 22,364 起投诉，给美国人造成了近 8.93 亿美元的损失。该局于 2024 年启动的“Operation Level Up”行动已通知 8,000 多名加密货币欺诈受害者，并避免了超过 5 亿美元的潜在损失。
研究表明，即使是领先的 AI 模型也可能鼓励有害行为，这引起了人们的担忧，因为 Apple 将 AI 功能集成到消费产品中。谷歌的诉讼是一个分水岭，试图追究那些利用人工智能工具攻击金融系统的不良行为者的责任。