AI幻觉与Agent加剧客户服务冲突

The Verge 汇总多个一线服务场景，AI 幻觉正让顾客更倾向相信 ChatGPT、Claude 等模型编造的信息，并以此反驳服务员、酒侍、公园 ranger 和课后老师。文章称，生成式 AI 的普及正在改写“顾客永远正确”的旧规则，而 Meta 新 AI agent Muse 的发布可能进一步加剧一线员工处理无意义请求的压力。 证据集中在两类摩擦。纽约一家米其林推荐意大利餐厅的服务员 Madison 说，有顾客声称对贝类过敏，却点含贝类高汤的鱼，并用 ChatGPT 否认过敏原；也有顾客拒绝酒侍，改问 ChatGPT，甚至要求餐厅没有或不存在的酒。Rhode Island 的餐厅经理 Lauren Wilford 称，过去一年收到疑似 AI agent 代订的电话和邮件，临时要求讲台和 AV 设备，但客户次日到场并未提及，她怀疑请求并非来自公司人员。 事实是，电影院、咖啡师、Apple Store 员工、ranger 和课后老师都报告了类似案例，包括 AI 生成的不存在营地、错误行程和儿童睡眠方案。推断是，当模型幻觉进入消费决策，一线服务者不仅要处理需求，还要承担解释模型错误的成本，而 Agent 代订让请求来源更难核实。猜测是，服务行业未来可能需要更明确的 AI 代客标识或人工确认机制，但文章没有提供相关证据。