苹果App Store收紧AI深度伪造内容审核

【事件概要】

苹果公司于10月16日更新《App审核指南》，在1.2条款中明确将AI生成的、未经当事人同意的私密图像纳入禁止范围，并新增2.5.19条款，禁止应用在通过审核后追加“裸露化”等有害能力。此次修订旨在应对近期多起AI深度伪造内容争议，包括多款AI“裸体化”应用被曝光，以及用户投诉xAI的Grok聊天机器人被用于制作性化深度伪造图像。

【关键信息】

新规要求含用户生成内容的App必须具备内容过滤、举报响应、用户资格取消及公开联系信息四项机制；明确禁止“先过审、后解锁”的诱饵式营销行为，违规可能导致应用下架及开发者被终止Apple Developer Program资格；禁令适用范围扩展至替代应用分发渠道，涵盖助长人口贩卖或剥削儿童的应用。

【对出海企业的影响】

出海企业若涉及AI图像生成、社交互动或UGC功能，需立即审查内容安全策略与审核流程，确保无未经同意的私密图像生成或传播能力；须避免功能分阶段上线等规避审核的设计，所有核心能力须在首次提交时完整披露；依赖第三方AI模型的服务需确认其输出合规性，并建立可追溯的内容责任机制，否则面临下架及开发者资质终止风险。