Google Research·· 3 小时前精选AI 评分68
Google Research 发布 Agile Deliberation 框架以解决主观视觉分类中的边界模糊问题
Agile Deliberation: How AI helps humans define the gray areas
AI 导读
Google Research 推出名为 Agile Deliberation 的新框架,旨在通过人机协作的迭代对话来解决主观视觉分类任务中类别边界模糊的问题,而非依赖人类作为拥有完整定义的静态标注器。该框架在 18 场持续 1.5 小时的真人现场实验中验证,针对“健康食品”和“付费内容(Pay-to-Play)”等高度主观领域,其生成的分类器性能显著优于零样本、自动建模及人工手动 deliberation 三种基线。
核心机制分为概念范围界定与概念迭代两个阶段:系统首先引导用户将宽泛概念分解为子概念层级并明确排除项,随后利用视觉语言模型(VLM)主动挖掘挑战当前文本定义的语义边缘图像,迫使人类反思并更新政策规则,这些反馈直接输入自动提示词优化循环。实验数据显示,该方法大幅降低了用户在手动提示词工程中的认知疲劳与焦虑感,参与者报告压力减轻且更倾向于使用该工具,同时模型在处理最具挑战性的主观图像时表现提升最为明显。
事实层面,该工作已开源代码并在 GitHub 提供交互式 Colab/Jupyter 演示;推断层面,这标志着人机回环(human-in-the-loop)范式从单向学习转向双向共同进化,特别适用于信任与安全团队构建内容审核过滤器或策展人塑造数字收藏等场景;猜测层面,这种基于边缘案例发现盲点的方法可能成为未来处理复杂社会性 AI 任务的标准流程,但具体单位经济效应尚未披露。
推荐理由
材料揭示主观概念定义需人机双向迭代,校正了将人类视为静态标注器的传统假设。
来源:Google Research · research.google