近日，美国旧金山市检察官办公室向苹果和谷歌发出正式法律函件，要求两家公司从各自的应用商店中移除13款能够“脱衣”或“换脸”的AI应用。这些应用利用深度学习技术，将普通照片转换为非自愿的露骨图像，严重侵犯了个人隐私权和肖像权。

旧金山市检察官David Chiu在致函中明确指出，苹果和谷歌多年来从这些应用的订阅费和应用内购买中抽取分成，实际上是在“协助和教唆”非法深度伪造内容的传播。据估算，这两大科技巨头通过这些有害应用获得了数百万美元的收入。

这已经不是旧金山第一次对深度伪造技术采取法律行动。此前，该市检察官办公室已经对16个流行的深度伪造网站提起了诉讼。此次针对应用商店的警告，意味着监管层开始从分发渠道入手，切断非法AI工具的生命线。

AI换脸技术的社会危害 并非新鲜话题。自2024年以来，大量针对女性、未成年人的深度伪造图像在网络上泛滥，受害者不仅承受心理创伤，还面临职业和社会声誉的毁灭性打击。西班牙、英国等国家已出台专门法律，明确禁止非自愿的深度伪造图像生成和传播。

然而，科技平台作为中间环节，一直试图以“技术中立”为由逃避责任。旧金山的行动打破了这一惯性。法律函件中引用加利福尼亚州法律，认为支持或协助提供深度伪造服务的应用属于违法行为，平台有义务及时消除这些服务。

对此，苹果和谷歌尚未公开回应。但业内分析认为，两家公司将面临两难选择：要么全面清理应用商店，可能引起开发商不满；要么继续放任，面临法律诉讼风险。事实上，谷歌在2025年已经更新了开发者政策，禁止“欺骗性或有害的深度伪造应用”，但执行力度明显不足。

科技巨头的监管困境 不仅体现在应用审核上。律师指出，即便苹果和谷歌下架了这批应用，开发者也可以换个名称重新上架。更深层的问题是，AI技术的快速发展远远超过了法律和审核机制的更新速度。旧金山检察官办公室呼吁，苹果和谷歌应该投入更多资源进行主动筛查，而不是等到外部压力才动手。

从用户角度看，普通消费者也需要提高警惕。任何要求上传照片并声称“一键生成真实照片”的应用，背后很可能就是AI换脸工具。专家建议，在应用商店下载应用前，应仔细阅读隐私政策，避免将个人照片上传给不明来源的开发者。

未来走向 令人关注。旧金山的要求可能引发连锁反应，其他州或国家也可能效仿，要求平台对深度伪造内容承担更大责任。对于苹果和谷歌来说，这次法律行动或许是一个转折点——不是要不要管，而是必须管。

更多关于AI安全和法律法规的讨论，请关注我们的AI工具新手入门教程。