“AI 换脸”色情 App 营销引发争议：Meta 下架广告、苹果移除应用

IT之家 8 月 19 日消息，据外媒 WIRED 报道，近期一款名为 Kromix 的 App 在 Meta 平台投放争议广营销，该应用允许用户利用 AI 生成真实人物的色情“换脸”内容，其中一则广告甚至使用了与美国一名知名女性政治人物高度相似的 AI 生成形象。广告配音将 Kromix 宣传为“真正男人使用的 AI”，并声称工具“没有限制”，随后展示该女性形象从普通场景转为色情视频的画面。

外媒 WIRED 联系 Meta 和苹果后，两家公司均采取了行动，其中 Meta 下架了相关广告投放活动，苹果则将 Kromix 从 App Store 下架。

苹果表示，Kromix 可能是在通过 App Store 初始审核后才加入违规内容和功能。苹果强调，公司一直禁止用于生成、传播或消费色情内容的应用，并会持续寻找并移除试图规避审核机制的相关应用及开发者账号。

同时，这并非苹果近期首次处理类似的“脱衣”应用问题。就在上个月，旧金山市检察官 David Chiu 曾要求苹果下架 8 款能够利用 AI 对照片进行“脱衣”处理的应用，苹果随后采取了相关措施。