1 号出海 · 第 255 篇

英国监管机构 Ofcom 就(jiù) X 平台旗下 Grok AI 涉嫌生成与传播非法深度(shēn dù)伪造内容立案调查，揭露了私密影像(yǐng xiàng)传播与儿童性虐待等高风险问题；与此同时(yǔ cǐ tóng shí)，马来西亚与印尼已率先封禁 Grok AI，全球监管(jiān guǎn)迅速形成合围。这不仅是一起关于(guān yú)技术滥用的个案，更是一场围绕「平台(píng tái)责任」与「外部监管」的交锋：当生成式(shēng chéng shì) AI 从辅助工具变为内容生产主体，平台还(hái)能否以「中立」自居？

近日，英国通信管理局(guǎn lǐ jú) Ofcom 已对 X 发起立案调查，直指其旗下(qí xià) Grok AI 被用于生成和传播非法深度伪造(wěi zào)内容，包括未经同意的私密影像及(jí)可能构成儿童侵害材料（CSAM）的未成年人图像(tú xiàng)。Ofcom 认为，这已触及《网络安全法》所界定(jiè dìng)的高风险非法内容。此外，马来西亚与印尼(yìn ní)等国家因担忧深度伪造风险，已经(yǐ jīng)选择率先封禁 Grok AI。

Grok AI 被用于生成和传播(chuán bō)非法深度伪造内容

Ofcom 要求🙏 X 说明合规措施(cuò shī)，并在评估后启动调查，将重点(zhòng diǎn)审查：平台是否评估过英国用户接触(jiē chù)非法内容的风险；是否采取了足以(zú yǐ)阻断非自愿私密影像与 CSAM 的技术(jì shù)措施；以及在发现违法内容时是否(shì fǒu)做到「迅速删除」；以及是否对未成年用户(yòng hù)部署「高度有效」的年龄验证。尽管 X 随后(suí hòu)为 Grok 图像编辑功能设置付费与身份验证门槛(mén kǎn)，通过「实名化＋付费门槛」降低滥用风险(fēng xiǎn)，但免费用户仍可通过独立应用(yìng yòng)与网站使用，应对效果有限。

若最终(zuì zhōng)被认定违法，X 将面临最高 1800 万英镑或(huò)全球合规营收 10% 的罚款，出现严重不(bù)合规还可能被要求🙏封锁平台或(huò)切断广告与支付功能。同时，Ofcom 仍在(zài)评估是否对 xAI 单独立案，显示监管正(zhèng)从平台端延伸至模型提供方(fāng)。

Grok 近来遭遇的强力监管，向所有生成式(shēng chéng shì) AI 平台发出了明确信号：我们真正面临(miàn lín)的问题，从来不只是「技术能做到什么(shén me)」，更是「社会需要什么」。如果说监管是一道(yī dào)红线，那么真正决定企业能否走远的(de)，在于其是否愿意把「对人的(de)保护」放在产品设计的起点。近几年，国内 AI 平台(píng tái)在合规上的一些具体做法，恰恰提供(tí gōng)了值得借鉴的路径。

首先是对(duì)用户群体的前置保护。以敏感最高(zuì gāo)的「AI 换脸🪞」为例，阿里云的「通义万相(wàn xiāng)」、百度的「文心一格」等平台，均(jūn)在涉及人脸替换、合成时设置实名(shí míng)认证、用途声明与明显水印，且对(duì)裸露、性暗示、未成年人相关场景实施强(qiáng)拦截，此举可以从源头上规避不法者(bù fǎ zhě)利用技术对弱势群体的伤害。

其次是(shì)对未成年人的「分级保护」。字节「豆包」等(děng)产品在涉及成人内容、敏感话题时，采取(cǎi qǔ)年龄识别、分级展示与结果引导：不仅(bù jǐn)拒绝生成高风险内容，还会弹出求🙏助信息(xìn xī)提示或转向科普与心理疏导。此举(cǐ jǔ)不再是为了「合规」而「合规」，而是真正(zhēn zhèng)在关键时刻为青少年留下一道「安全缓冲带(huǎn chōng dài)」。

「豆包」上线未成年人模式

最后是可追溯与(yǔ)纠错机制，保证普通用户「追诉」的权利。多家(duō jiā)国内平台在生成内容中嵌入可(kě)识别水印，配合「发现即下架」的投诉(tóu sù)通道；当用户发现自己的肖像、作品或(huò)隐私被滥用时，能迅速定位来源(lái yuán)、举报内容、限制账号。这意味着被侵权者(qīn quán zhě)不必独自承受技术滥用的后果，而是(ér shì)有据可查、有源可溯。

这些合规措施不在于(zài yú)流程多严密、技术多先进，而在于(zài yú)其强调了一个经常被忽视的常识(cháng shí)：技术进步若以普通人的权益为(wèi)代价，其带来的便利性便不值一提。合规(hé guī)不是创新的对立面，而是创新的伦理(lún lǐ)基础。在全球 AI 监管日益收紧的当下(dāng xià)，中国平台只有把社会责任感内化为(huà wèi)产品逻辑，才能在出海之路上行稳(xíng wěn)致远。

译者｜小塞

编辑｜分味

文章来源｜Variety

原文(yuán wén)作者｜Naman Ramachandran

原文发布日｜2026.1.12/ 周一

《主编浅度》视频(shì pín)号