三位田纳西州青少年正起诉埃隆·马斯克的AI聊天机器人Grok，指控其在未获知也未同意的情况下，生成了他们涉及性内容的深度伪造照片。

周一，三位青少年（仅以“珍妮特·多”1、2、3命名）的律师向加利福尼亚州北部联邦法院提起诉讼，指控xAI公司——Grok的母公司——因几乎未采取任何措施防止聊天机器人生成儿童性虐待内容（CSAM），严重破坏了这些女孩的生活。

几乎所有开发、推广和销售人工智能工具的公司都认识到这种工具带来的危险，并选择实施行业标准的安全措施，以防止其产品被儿童性犯罪者使用。而xAI没有这样做，投诉书指出。

相反，xAI及其创始人埃隆·马斯克看到了一个商业机会：一个可以从真实人物，包括儿童的性侵犯中牟利的机会。

这是未成年人首次对Grok持续存在的深度伪造色情丑闻提起的诉讼，该事件促使全球各国政府对该公司展开调查，并迫使xAI限制Grok的输出内容。

从去年五月开始，马斯克及其高管允许用户要求Grok将真实人物的照片“脱衣”处理至内衣水平。到2026年1月，这一功能的使用量急剧上升，导致出现数千甚至数百万件非自愿的性化深度伪造图像，其中一些似乎描绘了儿童。

周一提起的诉讼指控xAI在明知的情况下创建、持有并分发儿童色情材料，该诉讼要求获得群体诉讼地位，这意味着案件规模可能扩大至涉及数千人。

据起诉书称，原告们的噩梦始于珍妮·多斯1人在Instagram上收到一条匿名消息，得知她和其他未成年人的裸照和视频在社交媒体服务Discord上流传。

利用人工智能，有人取了她在学校迎新舞会或年鉴中的真实照片，并将其编辑成具有性暗示或色情的内容，常常将她完全裸露。

警方最终追踪到了涉嫌人员，并于2025年12月将其逮捕。但当他们搜查该人员设备时，发现有与“匿名女学生2”、“匿名女学生3”以及另外15名女孩相似的照片，其中许多女孩曾就读于同一所学校。

该嫌犯据称在Telegram及其他平台上分发这些图像，并以换取其他青少年的色情材料为交换，在互联网上“交易”这些图像。

该诉讼称，这些图像系通过第三方应用程序生成，该应用程序向xAI支付费用，以在不同品牌下授权使用Grok的图像生成能力。

原告们将不得不余生知晓，他们的儿童性虐待材料图片和视频可能仍会被儿童性犯罪者在线上继续交易和传播。

“原告们将每天生活在这种持续的焦虑之中：他们无法确定自己遇到的人是否曾看过他们童年时期被用于制作这种侵入性且带有性暗示内容的图像。”

诉讼文件称，三位原告均遭受了严重的情绪困扰，其中两人甚至难以入睡和进食。

该诉讼指控xAI未实施行业标准的安全措施，例如拒绝用户提出涉及性内容的请求、阻止人工智能在意外生成此类内容时进行拦截、将生成的图像与已知的儿童色情数据库进行比对，并为遭受非自愿性影像侵犯的受害者提供快速下架服务。

相反，该诉讼指出，xAI曾自豪地宣传Grok的“辛辣模式”及其生成性图像的能力，仅设置了极少数限制，以防止用户要求其生成儿童色情内容。

该诉讼指出，Grok的“系统提示”——一套指导人工智能聊天机器人与用户互动的指令——明确要求其避免“创建或传播儿童性虐待材料”。但诉讼认为，这一规定很容易被绕过，且不足以防止此类滥用行为的发生。

xAI未立即回应《独立报》的问题，且公司尚未在法庭上回应其指控。

一月，马斯克表示：“我并不知道Grok生成了任何未成年裸体图像。实际上为零……”

在某些情况下，对Grok提示进行对抗性黑客攻击可能会产生意料之外的结果。如果出现这种情况，我们将立即修复该漏洞。