生成式AI进入推理时代，开启智能应用新篇章

Sequoia刚刚发布的关于生成式 AI 的年度报告, 报告指出随着生成式 人工智能（AI）技术的飞速发展，我们正迎来一个全新的时代——推理时代。在这个时代，AI将不再仅仅依赖于快速的模式匹配，而是能够进行深入的思考和推理，解决更复杂的问题。

过去两年，生成性AI市场的基础层已经稳定下来，形成了以微软/OpenAI、亚马逊/Anthropic、Meta和谷歌/DeepMind等为主要玩家的市场结构。这些巨头的竞争仍在继续，但他们的稳定为AI的进一步发展奠定了基础。

现在，焦点转向了推理层的开发，这一层的目标是让AI在推理时能够进行深思熟虑的推理和问题解决。OpenAI的最新模型o1（也称为Strawberry Fields Forever）就是这一领域的突破，它能够像人类一样在推理时“停下来思考”，这需要在推理时进行更多的计算。

这种新的推理能力让人联想到了AlphaGo在围棋比赛中的表现。AlphaGo通过在推理时进行搜索和模拟，评估各种可能的未来场景，然后选择预期价值最高的方案。o1模型也采用了类似的策略，尽管它在逻辑密集型领域（如编程、数学和科学）表现更强，但在更开放和无结构的领域（如写作）则相对较弱。

AI的这种新能力不仅仅是对已知知识的简单回忆，而是能够生成一系列可能性，考虑潜在的结果，并基于推理做出决策。这对于解决数学或生物学等领域的复杂问题至关重要。

随着AI推理能力的提高，我们可能会看到一个新的扩展法则：给予模型更多的推理时间，它的推理能力就会越好。这将推动我们从大规模预训练集群转向推理云环境，这些环境能够根据任务的复杂性动态扩展计算能力。

在应用层，AI公司正在开发定制的认知架构，以解决具体问题。这些公司不仅仅是在基础模型上添加用户界面，而是包含了多个基础模型、路由机制、数据库和合规性保障的复杂系统。

AI的转型不仅仅是软件的转型，而是服务的转型。软件公司正在将劳动力转化为软件，这将打开一个数万亿美元的服务市场。例如，Sierra这样的AI客户支持代理，通过解决客户问题来获得报酬，而不是传统的按座位收费模式。

随着生成性AI推理能力的发展，新的代理应用正在出现，这些应用通过降低服务的边际成本来扩大和创造新市场。例如，XBOW正在开发AI“渗透测试员”，这种测试员能够模拟网络攻击，评估公司的安全系统，而且成本远低于传统的人类渗透测试员。

投资者也在关注这一领域，尤其是在应用层。在云转型期间，大约有20家应用层公司的收入超过了10亿美元，预计在AI转型期间也会出现类似的情况。

总的来说，生成性AI的下一个阶段将看到推理研发的影响渗透到应用层，这些影响将是快速而深远的。我们期待着AI系统能够像AlphaGo在围棋比赛中那样，给我们带来惊喜，展现出超越人类的推理能力。这可能不是AI的“觉醒”，而是我们模拟的感知、推理和行动过程，AI可以在真正新颖和有用的方式中探索。这可能就是通用人工智能（AGI）的下一个阶段。

报告要点

1. 生成性AI的推理时代开启：生成性AI技术正在从快速响应（“快速思考”）转向推理能力（“慢速思考”），这将解锁新的应用领域。

2. 市场基础层稳定：生成性AI市场的基础层正在稳定，主要玩家包括微软/OpenAI、亚马逊/Anthropic、Meta和谷歌/DeepMind等。

3. 推理层成为新前沿：重点转向开发和扩展推理层，这一层强调在推理时进行深思熟虑的推理、问题解决和认知操作。

4. OpenAI的o1模型：2024年最重要的模型更新是OpenAI的o1（原名Q*，也称为Strawberry Fields Forever），这是首个具有真正通用推理能力的模型。

5. AlphaGo与LLMs：AlphaGo的成功启发了LLMs的发展，o1模型通过在推理时进行搜索或模拟，评分潜在的未来场景，并响应预期价值最高的场景。

6. 系统1与系统2思维：AI的下一个前沿是从预训练的本能反应（系统1）转向更深层次、深思熟虑的推理（系统2）。

7. 新的扩展法则：o1论文提出了一个新的扩展法则，即模型在推理时给予更多的计算能力，其推理能力就越好。

8. 应用层的机会：尽管基础模型很强大，但它们在实际应用中也存在局限性。因此，应用层的AI公司通过开发定制的认知架构来解决具体问题。

9. 服务即软件：AI转型是服务即软件，软件公司将劳动力转化为软件，这将打开数万亿美元的服务市场。

10. 新的代理应用：随着生成性AI的推理能力的发展，一类新的代理应用开始出现，这些应用通过降低服务的边际成本来扩大和创造新市场。