纽约时报对Anthropic CEO 一个半小时的采访

在2018年，Dario Amodei 还在 OpenAI 工作时，他开始探索随着数据量的增加，人工智能系统会经历怎样的变化。他发现，AI的能力并非线性增长，而是以指数级的速度提升。起初增长缓慢，随后迅速增加，形成了所谓的“曲棍球杆效应”。如今，Amodei 已经成为他的AI公司 Anthropic 的CEO，其公司推出的 Claude 3 AI 模型被认为是目前市场上最强大的。Amodei 认为AI正遵循规模法则，沿着指数增长的曲线前进，我们正处于这一曲线的快速上升阶段。

Amodei 在与AI开发者交流时发现，之前认为遥不可及的科技愿景在两年内就有可能实现。他在节目中分享了对未来技术突破的预见，最令人担忧的问题，以及适应能力较弱的社会和反应迟缓的政府应如何应对即将到来的快速变革。他的分析预测了AI系统能力的指数级增长，以及AI对社会的影响可能会以阶跃式的变化出现，如2022年chatGPT的爆红就是一个例子。

随着AI能力的提升，执行复杂任务（如编写代码、规划生日派对）的技术挑战也在增加。这些任务需要提高每个步骤的完成质量，并且需要大量的常识性知识和对不确定性的适应能力。同时，AI在互联网上搜索信息时还需要辨别可靠信息的能力。

预计未来几年内，AI能力在某些行业中达到特殊节点会引发广泛关注，甚至颠覆性变化。例如，在制药领域，AI可能达到人类专家的水平，加速新药研发。但这些进步也带来了担忧，如AI可能被滥用于操纵舆论、散布假新闻等。因此，需要开发更安全可控的AI系统以避免潜在的滥用，并在AI能力提升的早期阶段树立行业规范。

AI的发展需要大量计算资源，这可能引发地缘政治问题，因为AI芯片产能和数据中心的分布和控制权可能成为影响未来AI发展和国际地位的重要因素。此外，AI系统的能耗问题也日益凸显，未来AI的能耗增长可能相当于新增一个小国家的能耗。因此，AI企业和社会各界应该优先考虑将AI用于节能减排的领域。

AI系统的训练数据涉及知识产权问题，因为训练数据中包含了受版权保护的内容。这给AI企业带来了法律风险，并引发了关于AI训练数据“合理使用”界限的争议。同时，AI技术的发展对个人，尤其是孩子的教育带来了挑战。父母需要帮助孩子培养持续学习的能力、开放包容的心态和独立思考的意识。

最后，AI技术的发展将对整个社会经济结构产生深远影响，可能导致就业市场的变革和贫富分化的加剧。社会需要探索新的经济组织形态，确保所有人的生活保障，并采取措施防止财富集中在科技寡头手中，例如征收更高的税率并进行财富再分配。AI将成为重塑社会的核心力量，我们需要为新时代的到来做好准备。