跳到正文
原文
Hacker News · AI· echohive42·· 5 小时前AI 评分42

如果 AI 以每秒 100 万 token 运行会怎样?

What if AI worked at 1.000.000 tokens per seconds?

AI 摘要

文章探讨若 AI 生成速度达到每秒 100 万 token,将如何改变工作流。虽然生成 100 万 tokens 仅需 1 秒,但受限于串行瓶颈与固定检查步骤,整体效率提升远小于理论值。例如增加 60 秒检查后,总耗时仅缩短约 132.57 倍而非 10,000 倍。

来源:Hacker News · AI · echohive.ai