哥大论文：AI应视为普通技术，反对对齐幻想与快速奇点

该论文由哥伦比亚大学学者撰写，核心论点是应将人工智能视为“普通技术”而非具有自主性的超级智能体。文章认为，尽管AI方法进步迅速，但其在经济和社会层面的影响将因创新扩散的滞后性而缓慢显现，这一过程通常跨越数十年而非数年。作者强调，高后果领域的扩散受到安全、组织变革和制度适应速度的严格限制，因此所谓的“快速起飞”或“奇点”在短期内发生的可能性极低。 在风险控制方面，文章对当前主流的“对齐”（Alignment）路径提出了尖锐批评。作者指出，由于恶意使用往往取决于上下文而非模型本身的能力，试图通过微调让模型拒绝所有有害指令是徒劳的。真正的防御必须位于模型之外，即依赖下游的工程控制手段，如审计、监控、故障安全机制以及最小权限原则。文章建议，与其追求无法实现的完美对齐，不如建立类似电力或航空业的安全标准体系，通过监管和市场力量迫使部署者承担事故责任，从而内化安全风险。 最后，文章预测未来的人机协作模式并非人类被替代，而是人类工作重心向“AI控制”转移。随着自动化程度提高，更多岗位将涉及任务规范、系统监控和异常处理。这种转变将由市场驱动，因为失控的AI会导致高昂的错误成本。对于政策制定者，建议应减少不确定性并提升系统的韧性，而非实施基于“超级智能”假设的激进干预措施。