Machines ofLoving Grace 慈爱机器
Machines of
Loving Grace 慈爱机器
2024年10月15日修改
本文阅读时长约 25～50 分钟
How AI Could Transform the World for the Better
人工智能如何让世界变得更美好
我经常思考和谈论强大人工智能的风险。我担任首席执行官的公司 Anthropic 对如何降低这些风险进行了大量研究。正因为如此，人们有时会得出结论，认为我是一个悲观主义者或“末日论者”，认为人工智能主要是坏的或危险的。我根本不这么认为。事实上，我关注风险的主要原因之一是，风险是我们与我所看到的根本积极的未来之间的唯一障碍。我认为大多数人都低估了人工智能可能带来的巨大好处，就像我认为大多数人都低估了风险可能带来的严重性一样。
在本文中，我试图勾勒出这种好处的轮廓——如果一切顺利，一个拥有强大人工智能的世界会是什么样子。当然，没有人能够确切或准确地知道未来，而强大人工智能的影响可能比过去的技术变革更加难以预测，因此，所有这些都不可避免地将由猜测组成。但我的目标是至少做出有根据的、有用的猜测，即使大多数细节最终都是错误的，这些猜测也能捕捉到将会发生什么。我之所以包含大量细节，主要是因为我认为具体的愿景比高度含糊和抽象的愿景更能推动讨论。
不过，首先我想简单解释一下为什么我和 Anthropic 没有过多谈论强大人工智能的优势，以及为什么我们总体上可能会继续谈论很多风险。具体来说，我做出这个选择是出于以下愿望：
1.
最大限度地发挥杠杆作用。
人工智能技术的基本发展及其许多（并非全部）好处似乎是不可避免的（除非风险破坏了一切），并且从根本上来说是由强大的市场力量驱动的。另一方面，风险并不是预先确定的，我们的行动可以极大地改变其发生的可能性。
2.
避免被误认为是宣传。
人工智能公司谈论人工智能的所有惊人好处，可能会让人觉得他们是在宣传，或者试图转移人们对其弊端的注意力。我还认为，从原则上讲，花太多时间“谈论自己的书”对你的灵魂是有害的。
3.
避免夸大其词。
许多 AI 风险公众人物（更不用说 AI 公司领导人）谈论后 AGI 世界的方式常常让我感到反感，就好像他们的使命就是像先知带领他们的人民走向救赎一样独自实现它。我认为将公司视为单方面塑造世界是危险的，将实际技术目标视为宗教术语也是危险的。
4.
避免“科幻”包袱。
虽然我认为大多数人都低估了强大人工智能的优势，但确实讨论激进人工智能未来的少数人经常以过度“科幻”的语气进行讨论（例如，上传思维、太空探索或一般的赛博朋克氛围）。我认为这会导致人们不太认真对待这些说法，并给它们注入一种不现实的感觉。需要明确的是，问题不在于所描述的技术是否可能或可能（主要文章详细讨论了这一点）——而更多的是“氛围”隐含着一堆文化包袱和未说明的假设，关于什么样的未来是理想的，各种社会问题将如何发展，等等。结果往往最终读起来像是狭隘亚文化的幻想，同时让大多数人感到反感。