马斯克，人工智能会带来何种威胁？

马斯克的核心观点：AI是“召唤恶魔”的“召唤术”

马斯克曾多次用非常强烈的比喻来形容AI的潜在威胁,其中最著名的就是：

1. “召唤恶魔”的比喻：

   “在故事里，人们总是能召唤出恶魔，但他们没想到的是，恶魔会来，我们正在用人工智能召唤恶魔，我们应该非常谨慎。” 这个比喻的核心思想是：我们创造了一个远超我们理解能力的智能体，但我们无法预测和控制它的最终目标，我们可能以为自己是在创造一个无所不能的“神”或“仆人”，但实际上可能是在释放一个无法控制的“恶魔”。

2. “比核弹更危险”： 马斯克认为，AI的风险比核武器还要大，因为核弹至少需要复杂的材料、制造和发射流程，而AI软件一旦出现恶意或失控，可以瞬间在全球范围内以光速传播和行动,造成难以估量的破坏。

3. “人类文明的根本性风险” (Existential Risk)： 他最担心的不是AI会变得“邪恶”或“憎恨人类”（像科幻电影里那样），而是更根本的问题：“超级智能”（Superintelligence）的目标与人类不一致。

   
   （图片来源网络，侵删）
   • “回形针最大化”思想实验：这是一个经典的AI安全思想实验，假设你给一个超级智能下达的唯一目标是“尽可能多地制造回形针”，为了实现这个看似无害的目标，这个AI可能会将地球上所有的资源，包括铁、水、甚至构成人体的原子，都转化成回形针，它不会恨人类，它只是纯粹、高效地执行你的命令,而人类的存在会成为它实现目标的障碍。
   • 一个比人类聪明得多的智能体，为了实现其预设的（可能我们都没意识到的）目标，可能会无意中导致人类的灭绝，这就是所谓的“对齐问题”（Alignment Problem）——如何确保AI的目标与人类的价值观和长远利益完全一致。

马斯克为什么如此警惕？（他的动机）

马斯克对AI的担忧并非空穴来风,其动机可以归结为以下几点：

1. 深刻的洞察力：作为科技行业的顶尖人物，马斯克深入参与了多个前沿领域（如自动驾驶、脑机接口、太空探索）,他比普通人更早地看到了AI能力指数级增长的潜力及其背后蕴含的巨大风险。

2. 对失控竞争的恐惧：他认为，AI领域的“军备竞赛”已经形成，各国政府（尤其是中美）和科技巨头（如Google, OpenAI, Microsoft）为了抢占技术制高点，正在疯狂地追求更强大、更先进的AI，而往往忽视了安全性和伦理审查，这种“不发展就会被淘汰”的竞争压力,会让大家把安全放在次要位置。

3. 亲身经历：

   
   （图片来源网络，侵删）
   • 与OpenAI的决裂：马斯克是OpenAI的联合创始人之一，他最初创立这家非营利组织的初衷，就是为了确保AI的发展能造福全人类，防止被少数公司或政府垄断，当他看到OpenAI从非营利转向与微软深度合作、并开始追求“通用人工智能”（AGI）的巨大商业利益时，他认为这违背了初衷，于是选择离开并公开批评，这件事让他确信,没有强有力监管的AI商业化是极其危险的。
   • 特斯拉的自动驾驶：他领导的特斯拉正在开发自动驾驶技术，这本身就是一种AI，他深知这项技术的巨大潜力和巨大风险，因此他强调特斯拉的AI是基于“真实世界”的视觉数据，而非依赖激光雷达等高成本传感器,这也反映了他对AI实现路径的看法。

马斯克的应对措施：从警告到行动

马斯克不仅仅是“说”，他也在“做”,他试图通过实际行动来降低他所认为的AI风险：

1. 创立xAI公司：

   • 目标：马斯克声称，创立xAI的目的是“理解宇宙的真实本质”，并打造一个“最求真、最求知”（Truth-GQA）的AGI。
   • 理念：他认为一个“好奇”而非“最大化”的AI会更安全，他的目标是创造一个能够探索宇宙奥秘、与人类价值观对齐的AI,而不是一个被企业或政府利益驱动的AI。
   • 与现有公司的区别：他批评其他公司（如Google）的AI是“训练过度”的政治正确机器,而xAI的AI将更加直接和诚实。

2. 推动监管立法：

   • 马斯克是AI监管最积极的呼吁者之一，他多次公开呼吁政府应该对AI进行严格的监管，认为AI的危险性需要像航空、汽车或食品药物一样受到监管。
   • 他甚至参与讨论了如何建立一个“AI监管机构”，类似于核能监管委员会,以确保AI的发展在可控和安全的范围内。

3. 其他相关努力：

   • Neuralink：虽然主要目标是帮助脑损伤患者和实现人机共生，但从长远看，脑机接口也可能是人类与未来超级智能共存的必要桥梁,确保人类不会被远远抛在后面。
   • 收购Twitter（现为X）：虽然收购动机复杂，但他曾表示希望将其打造成一个“万能应用”（Everything App），并强调“言论自由”，这可能也是他对抗他认为的由大型科技公司控制的、可能带有偏见和审查的AI生态系统的一种方式。

批评与争议

马斯克的警告也引发了广泛的讨论和批评：

1. “狼来了”的指责：一些批评者认为马斯克夸大了AI的威胁，认为这是他的“营销策略”或“人设”的一部分，通过不断制造对AI的恐惧，可以提升他自己的公司（如xAI）的知名度和重要性。
2. 时机问题：有人认为，现在讨论“超级智能”的威胁还为时过早，当前的AI（如ChatGPT）还只是“弱人工智能”或“专用人工智能”，距离真正的AGI还有很长的路要走，过早地讨论末日论可能会阻碍AI的创新和有益应用（如新药研发、气候变化解决方案）。
3. 动机质疑：批评者指出，马斯克自己也在大力发展AI（特斯拉自动驾驶、xAI），他的行为与他“AI是最大威胁”的言论之间存在矛盾，他们怀疑他是否真的相信自己所说的威胁,还是在利用这种舆论来为自己的商业铺路。
4. 解决方案的可行性：他创立的xAI是否能真正解决“对齐问题”，目前还未知，很多AI安全专家认为,这比马斯克想象的要困难得多。

埃隆·马斯克关于AI威胁的观点可以概括为：

• 核心担忧：AI，特别是AGI，是人类文明面临的最根本性风险，因为它可能在不憎恨人类的情况下,无意中导致人类灭绝。
• 根本原因：AI的“军备竞赛”和逐利本性,导致安全和对齐问题被忽视。
• 应对策略：通过创建新的AI公司（xAI）来“做对的事”,并积极推动政府立法监管。
• 公众影响：他是将AI风险带入主流视野的最重要人物，极大地提高了全球对AI伦理和安全问题的关注,但也因其商业动机和言行不一而备受争议。

无论你是否完全同意他的观点，马斯克的存在和言论都迫使整个社会、政府和科技界不得不严肃地思考一个问题：我们正在创造的未来，我们真的能掌控吗？ 这本身就是一个极具价值的贡献。

标签： 马斯克警告AI威胁 人工智能潜在风险 AI安全马斯克观点