OpenAI揭露俄伊利用AI在真实媒体植入虚假故事

OpenAI 披露并封禁了来自俄罗斯和伊朗的两次影响力行动，其核心特征是利用虚假身份将伪造内容植入正规新闻媒体，而非传统的社交媒体投放。其中俄罗斯“Dark Clark”行动通过虚构人物控制智库，在拉丁美洲传播虚假信息以破坏乌克兰形象；伊朗“Bogus Bylines”行动则雇佣七名假记者在全球在线媒体发布近 100 篇关于美伊冲突的文章。 这两次行动均主要利用 AI 进行内部报告撰写和多语言宣传材料的适配。根据 OpenAI 的 Breakout Scale 评估体系，俄罗斯行动被定为第 5 类（突破至政治家/名人），因为政客对相关内容做出了反应，这是该评估体系运行两年半以来首次出现此类案例。图表数据显示，外部出版物是造成高破坏性影响的主要渠道，此前仅有 3 例进入第 4 类，而此次事件直接跃升至第 5 类。 事实层面确认了攻击手段向传统媒体渗透的趋势及 AI 在其中的辅助角色。推断显示，针对内容验证机制的攻击重心正在发生转移，单纯依靠社交平台的监控可能无法覆盖此类风险。猜测的是，随着生成式 AI 降低伪造成本，未来针对权威媒体的定向虚假信息投放可能会进一步增加，这对现有的事实核查基础设施提出了新的压力。