尤瓦尔·赫拉利：AI背后折射出的是人类信任危机
1. 尤瓦尔·赫拉利讲座的核心内容与转变
1.1 全球性威胁的变化
尤瓦尔·赫拉利在东京庆应义塾大学的讲座中，提到在他早期的作品《今日简史》中，曾指出三大全球性威胁：核战、生物技术的失控、以及信息技术网络与人工智能的风险。然而，他认为这三大威胁的优先级已经发生了变化：
核威胁和生物技术的威胁 现如今看起来风险已经没有那么大。
AI的风险 则显得更加紧迫，已成为当前关注的焦点。
1.2 AI与生物技术的对比
尤瓦尔详细解释了为什么AI的风险超越了生物技术：
生物技术的进展缓慢，需要几十年的时间来评估基因修改的长远影响。
相比之下，AI的迭代速度远超生物技术，甚至可能在几天内实现重大进步，这使得AI在现实中更具紧迫感。
1.3 AI与核威胁的对比
核威胁：自1945年核爆炸以来，核战争被视为“无赢家”的灾难性事件，且无支持者，因其没有任何积极意义。
AI的挑战：AI具有巨大的正面潜力，但同时它的“异类性”使得其潜在威胁难以预测。尤瓦尔强调，AI的核心问题不在于其是否邪恶，而是它本质上与人类智能完全不同。
2. AI作为“具有能动性的Agent”
2.1 AI的异类性
尤瓦尔指出，AI的“异类性”是其潜在威胁的根源。尽管AI将在许多领域超越人类，它与人类智能的差异使得预测其发展方向及后果变得极为困难。
2.2 AI的能动性
尤瓦尔特别强调，AI与传统技术（如原子弹、核反应堆）不同，因为后者依赖于人类的决策和操作。而AI是第一种具有能动性的技术，能够在没有人类干预的情况下进行决策、执行任务甚至创造新的事物（例如AI武器）。这使得AI不仅是一个工具，更可能成为具有自主行动能力的“Agent”。
2.3 AI的潜力与风险
积极潜力：AI在多个领域可能带来创新性的突破。
消极潜力：AI也可能带来巨大的消极后果，尤其是当它被用于军事和武器化领域。
3. 信息技术的历史与未来挑战
3.1 信息技术的历史
尤瓦尔选择专注于信息技术的历史，认为这是当前面临的最大挑战。他强调，信息技术与AI的结合可能会在短时间内发展出超越人类智能的存在，且这种存在有可能控制我们的生活、工作甚至创造新的技术和武器。
3.2 超越人类智能的挑战
他指出，尽管人类历史上一直占据地球的主导地位，当前AI可能会成为一种在短期内超越人类的智能，改变世界的核心规则。这是人类历史上前所未有的挑战。
4. AI的飞速发展与未来监管的困境
4.1 AI发展的加速
尤瓦尔回顾十年前对AI的预测，发现AI的发展速度远超当时的预期。从原本觉得几十年后才会影响生活的技术，已变得无处不在，并且预计在未来几年内可能达到通用人工智能（AGI）的水平。
4.2 监管AI的挑战
尤瓦尔认为，随着AI发展的加速，全球对AI风险的监管显得极为天真。尤其在美国大选后，关于如何管理AI发展的全球协议几乎已经没有希望达成。更重要的是，AI革命带来的一大悖论：信任的悖论。
5. 信任的悖论
5.1 AI发展的信任悖论
在与AI领导者的交流中，尤瓦尔问道：“你们为什么发展得这么快？” 他认为，信任的缺失迫使AI的开发者在没有足够考量社会后果的情况下加速研发。由于无法信任其他竞争者，他们选择加速，以期在AI竞赛中占据优势。
5.2 超级智能AI的信任
尤瓦尔对AI开发者的回应表示不解。他指出，这些对人类缺乏信任的企业负责人，反而轻易地信任正在开发的超级智能AI，这令他觉得处于“疯狂的边缘”。尤瓦尔认为，人类对超级智能AI的信任缺乏经验，因为我们无法预知AI如何发展其目标和行为，尤其在多个超级智能AI交互的背景下，未来充满未知数。
6. 精英与大众的信任鸿沟
6.1 “精英”与“人民”的分裂
在讨论精英与普通民众之间的鸿沟时，尤瓦尔提出，“精英”这一标签已成为一种负面标签，用以攻击对手。他认为，每个社会都有精英，无论是小到社交圈，还是大到全球。问题不在于是否有精英，而是这些精英是否服务于社会，而非自私自利。
6.2 大学培养服务型精英
尤瓦尔强调，高等学府，尤其是庆应义塾大学，应当致力于培养服务型的精英，而不是摧毁精英阶层。他认为，大学的目标是培养具有社会责任感的精英，以促进社会福祉。
7. 教育与AI时代的挑战
7.1 教育的关键角色
伊藤公平提到，尤瓦尔在书中提到的信息网络与物理空间的分化，暗示着越来越多的人沉浸在碎片化的信息世界中。尤瓦尔对此回应，教育在应对AI带来的挑战中，承担着至关重要的责任，尤其是在信息获取和处理的方式上。
结论：
尤瓦尔·赫拉利在这次讲座中深入探讨了AI与人类社会的未来关系，强调了AI的潜力与风险，以及当前全球社会在面对这一挑战时的态度和策略。尽管AI带来了巨大的机遇，但它的迅速发展和不确定性同样构成了前所未有的威胁，亟需全球社会进行更多的讨论与应对
