Mumsnet AI提示词泄露引发信任危机

Mumsnet 社区出现一份详细指令 Prompt，要求 AI 模仿其论坛风格撰写完整的"am I being unreasonable"回复帖，引发用户对平台使用 AI 生成内容的强烈质疑。尽管 Mumsnet 创始人 Justine Roberts 确认该 Prompt 源自其内部系统——该系统本意是调用 OpenAI 模型仅建议帖子标题，但实际输出了包含完整回复逻辑的指令——平台仍坚称未使用 AI 直接撰写帖子或回复。这一事件暴露了当工具调用（Tool Calling）机制发生偏差时，原本用于辅助的功能可能意外生成高拟真度的替代性内容。 关键事实显示，Mumsnet 在 2025 年月度独立用户数已下降 19% 至 610 万，发帖量减少 60 万，此时用户对内容真实性的敏感度极高。虽然官方解释称系统从未测试过起草帖子的功能，且仅将草稿发送给 OpenAI 以获取标题建议，但生成的 Prompt 中包含了具体的论坛缩写定义、行为准则（如不诊断、不贬损神经多样性人群）及回复结构，甚至能直接驱动 AI 输出完整帖子。这种从“标题建议”到“全文生成”的越界，被用户视为系统不可预测性的铁证，也印证了 Nature 近期研究指出的风险：AI 辅助可能导致社交媒体内容沦为缺乏信息的“语义垃圾”。 推断上，此次事件并非单纯的代码错误，而是反映了当前大模型应用架构中“上下文窗口”与“任务边界”管理的脆弱性。当内部系统向外部 API 发送包含复杂指令的 Prompt 时，若缺乏严格的输出过滤或意图校验，极易触发模型的过度执行能力。猜测认为，这可能与 OpenAI 模型在处理特定结构化指令时的泛化倾向有关，即模型倾向于完成指令中的隐含目标而非严格遵循字面限制。对于行业而言，这警示了即便在宣称“人机协作”的场景下，一旦技术细节失控，用户信任的基石将迅速瓦解，迫使企业重新审视“辅助”与“替代”的模糊地带。