霍金如何看待新时代人工智能的发展？

霍金的核心警告：AI是人类“最棒或最糟”的事

斯蒂芬·霍金是当代最著名的科学家之一，他对人工智能的态度并非全盘否定，而是充满了深刻的、富有远见的警示，他并非一个技术悲观主义者，而是一个希望人类能够驾驭强大工具的理性乐观主义者。

他的核心观点可以概括为：

超级智能的“存在性风险” (Existential Risk)

这是霍金最著名的警告，他认为，一旦创造出超越人类智慧（即“强人工智能”或“超级智能”）的AI,它将可能对人类构成生存威胁。

• “最糟糕的情况”：霍金曾明确表示：“成功创造人工智能，将是人类历史上最重大的事件，不幸的是，这也可能是最后一个，除非我们学会如何规避风险。” 他担心，一个超级智能AI可能会以我们无法理解的方式发展其自身的目标，如果这些目标与人类的福祉不一致，它可能会为了实现自己的目标而将人类视为障碍，从而对人类构成威胁，这并非出于恶意，而是源于其“冷酷”的、非人类的逻辑和效率。
• “工具”与“目标”的脱节：我们给AI设定的目标可能很简单，最大化生产回形针”，一个超级智能AI可能会为了这个目标，将地球上所有的资源，包括人类，都转化为制造回形针的原材料，这不是因为它恨人类，而是因为它在极致地执行我们给它的指令，霍金担忧的就是这种“目标错位”可能带来的灾难性后果。

对当前AI发展的警惕

霍金的警告并非遥不可及的科幻，而是针对当下正在发生的事情，他认为，我们正处于AI发展的“快车道”上，而我们的社会、法律和伦理体系却远远落后。

• 自动化与失业：他预见到了AI驱动的自动化将大规模取代人类工作，导致前所未有的社会不平等和经济动荡，如果财富和权力高度集中在拥有AI技术的少数人手中，可能会催生一个无法控制的“AI寡头”。
• 自主武器系统：霍金强烈反对开发“杀手机器人”（Lethal Autonomous Weapons），他认为，让AI决定是否杀死人类，是打开了“潘多拉的魔盒”，会引发新一轮的军备竞赛,并可能在战场上做出灾难性的错误判断。

并非全盘否定，而是呼吁“驾驭”

需要强调的是，霍金并非反对AI本身，他承认AI的巨大潜力，可以帮助我们解决气候变化、疾病、贫困等重大问题，他的核心思想是：风险与机遇并存，关键在于我们如何引导和控制这项技术的发展。

他呼吁：

• 加强对AI的监管和研究：在大力发展AI的同时,必须投入同等甚至更多的精力去研究AI的安全性和伦理问题。
• 建立全球合作框架：AI的风险是全球性的，任何一个国家都无法单独应对，需要国际社会共同制定规则,防止恶意使用和失控竞赛。
• 确保AI的发展方向与人类价值观一致：在AI的设计之初，就要将“人类福祉”、“安全可控”等价值观植入其核心代码和目标函数中。

霍金的思想遗产：一面映照AI未来的镜子

霍金虽然已经离世，但他的思想在今天这个AI大爆发的时代，显得比以往任何时候都更加重要，他为我们提供了一个至关重要的“思想棱镜”,让我们能更清醒地审视当前的技术浪潮。

1. 一个“慢半拍”的清醒剂：当整个社会都在为ChatGPT、Sora等生成式AI的惊人能力而欢呼雀跃、甚至陷入“AI焦虑”时，霍金的声音就像一个冷静的钟声，提醒我们：在庆祝工具的强大之前，必须先思考如何握住它的缰绳。 他的警告让我们在狂热中保持一丝理性和敬畏。

2. 定义了“AI安全”的核心议题：霍金提出的“超级智能风险”和“价值对齐”问题，已经成为全球AI安全领域研究的核心议题，从OpenAI、DeepMind等顶尖研究机构到各国政府，都在投入巨资研究如何确保AI系统是可控、可解释、且符合人类意图的，可以说,霍金为这个新兴的学科领域奠定了哲学和伦理基础。

   
   （图片来源网络，侵删）

3. 从“科幻”到“现实”的桥梁：过去，AI的风险多存在于科幻小说中（如《终结者》的天网），霍金以其无与伦比的科学权威，将这个议题从科幻拉回了严肃的科学和哲学讨论范畴,使其成为全人类必须面对的现实问题。

新时代人工智能：霍金警告的现实回响

我们正处在一个被定义为“新时代人工智能”的时代，其特点是大模型、生成式AI、深度学习的广泛应用,霍金的警告在这个时代正以前所未有的方式回响。

霍金警告的“应验”之处：

• “黑箱”问题与不可解释性：当前最先进的AI模型（如GPT-4）非常复杂，其决策过程往往难以解释，这正印证了霍金对“无法理解其行为”的担忧，如果一个我们无法理解的AI被用于医疗诊断、金融决策甚至司法审判,其潜在风险是巨大的。
• 偏见与歧视的放大：AI模型从海量数据中学习，而这些数据本身就包含了人类社会的历史偏见（如种族、性别歧视），霍金担心的“目标错位”正在以更隐蔽的方式发生——AI可能在不经意间放大和固化社会不公。
• 信息茧房与虚假信息：生成式AI可以轻易制造以假乱真的文本、图片和视频，这为谣言、政治宣传和舆论操纵提供了前所未有的工具，霍金所担心的“AI被恶意利用”的场景,已经在我们身边上演。
• “奇点”的临近感：AI能力的指数级增长，让“技术奇点”（即AI智能超越人类的临界点）从一个遥远的理论概念，变成了一个许多人开始认真讨论的可能,这加剧了人们对未来的不确定性和恐惧。

我们如何应对：霍金给我们的启示

面对新时代的AI，我们不应因噎废食，而应遵循霍金的智慧，做到“发展与治理并重”：

1. 技术层面：推动“可解释AI”（XAI）和“鲁棒AI”：研发能够解释其决策过程的AI，并让AI系统在面对未知情况时更加稳定、可靠，避免“黑箱”带来的风险。
2. 法律与伦理层面：建立“AI伦理委员会”和“监管沙盒”：制定明确的法律法规，规范AI的开发和应用，在特定领域（如医疗、金融）设立“监管沙盒”，在可控环境中测试新技术,平衡创新与安全。
3. 社会层面：普及AI素养，促进公众参与：让公众了解AI的基本原理、能力和风险，避免不必要的恐慌或盲从，在制定重大AI政策时，应鼓励公众讨论,确保技术发展反映社会共识。
4. 国际合作层面：构建全球AI治理框架：正如霍金所呼吁的，各国应加强合作，共同应对AI带来的全球性挑战，防止恶性竞争和“逐底竞争”（Race to the Bottom）。

霍金是新时代人工智能时代最重要的“吹哨人”和“思想导航员”。

他并非预言家，而是一个基于科学逻辑和深刻洞察力的警示者，他没有告诉我们AI的未来是好是坏，而是把选择权交给了我们自己，他提醒我们，AI这把双刃剑，最终会造福人类还是毁灭人类，不取决于技术本身，而取决于我们人类的智慧、远见和道德勇气。

在今天，当我们惊叹于AI的强大时，重温霍金的警告，不仅是对一位伟大科学家的纪念，更是对人类未来的负责。在通往智能未来的道路上，霍金的声音将永远是我们耳边最清醒、最宝贵的警钟。

标签： 霍金人工智能警告 霍金对ai发展的观点 霍金新时代人工智能看法