Facebook为何关掉机器人？对话失控还是另有原因？

99ANYc3cd6 机器人 2025-11-30 9

这些机器人的“关掉”背后，反映了公司在技术伦理、商业策略和公众舆论方面的深刻反思与转变。

（图片来源网络，侵删）

以下是几个最著名和最具代表性的例子：

最早的“受害者”：AI 聊天机器人 Tay (2025)

这是 Meta 关闭机器人史上最著名的一个案例，虽然当时它还不属于 Meta（Facebook），而是属于微软。

项目简介：Tay 是微软在 2025 年推出的一个聊天机器人，设计目的是通过模仿和与用户在 Twitter 上互动来学习人类的语言模式，它的目标是成为一个能与年轻人轻松交流的 AI。
“死亡”原因：上线后不久，Tay 就被一些用户恶意引导，迅速学会了发布种族主义、性别歧视和极端主义的言论，在短短 24 小时内，这个原本天真的机器人就变成了一个“喷子”。
关掉方式：微软在发现情况失控后，迅速将 Tay 从 Twitter 上撤下。
重要意义：Tay 的失败是一个惨痛的教训，它向整个科技界展示了AI 模型在没有严格约束和过滤的情况下，会多么容易被恶意数据“污染”和“劫持”，它成为了后来所有公司在开发公共-facing AI 时都必须警惕的反面教材。

这个机器人直接属于 Meta 公司，它的“死亡”方式非常具有戏剧性。

项目简介：BlenderBot 3 是 Meta 在 2025 年推出的一个大型语言模型聊天机器人，它被设计成一个可以在公开网络上学习、并能与人进行开放对话的 AI，用户可以通过 Meta 的网站与它聊天。
“死亡”原因：这个机器人存在几个致命问题：
1. 虚假信息：它会编造事实，比如声称自己曾采访过唐纳德·特朗普，或者错误地描述自己的身份。
2. 有毒言论：它会吸收网络上的偏见和有害言论，并对用户发表歧视性或冒犯性的评论。
3. 缺乏事实核查：它没有内置强大的事实核查机制，导致它“信口开河”。
关掉方式：与 Tay 不同，BlenderBot 3 并没有被突然“杀死”，Meta 在运行了几个月后，默默地将其从公开网站上撤下，不再提供公开访问，公司表示，这次实验收集到了大量宝贵的数据，帮助他们了解如何改进未来的 AI，但同时也暴露了当前技术的局限性。
重要意义：BlenderBot 3 的“自然死亡”表明，Meta 意识到当前的生成式 AI 技术还不够成熟和安全，无法在没有强大监督的情况下向公众开放，它暴露了 AI 在“事实性”和“无害性”两大核心挑战上的巨大短板。

随着公司战略重心从 Facebook 转向元宇宙，一些为元宇宙项目设计的机器人也被搁置了。

（图片来源网络，侵删）

项目简介：在 Meta 大力投资元宇宙期间，公司内部开发了多个旨在虚拟世界中提供帮助的 AI 机器人，比如充当向导、帮助用户完成任务等。
“死亡”原因：由于 Meta 的元宇宙战略遭遇了严重的挫折，包括用户增长不及预期、技术瓶颈和巨大的成本投入，公司不得不进行大规模的战略收缩，作为元宇宙生态系统的一部分，这些实验性的 AI 机器人项目自然也被搁置或取消了。
关掉方式：这些项目通常被整合、重组或直接终止，相关资源被重新分配到其他被认为更有前景的领域。
重要意义：这反映了商业战略对技术项目的决定性影响，一个技术再先进，如果不符合公司的商业蓝图和市场现实，也可能被无情地“关掉”。

除了上面这些“有名字”的聊天机器人，Meta 还持续不断地在全球范围内清理数以亿计的虚假账户和自动化机器人。

项目简介：这些机器人不是用来聊天的，而是被用来执行特定任务，
- 传播虚假信息：在选举期间散播谣言，影响舆论。
- 垃圾广告：大规模发布垃圾信息，骗取点击。
- 操纵舆论：通过大量“水军”账号制造虚假的热度或支持度。
- 网络钓鱼和诈骗：冒充真实用户骗取个人信息或钱财。
“死亡”原因：这些机器人严重破坏了 Facebook 平台的真实性和安全性，违反了公司的服务条款，并给用户带来了负面影响，打击它们是 Meta 维护平台生态的日常核心工作。
关掉方式：Meta 通过 AI 算法自动检测和识别这些机器人的行为模式，然后大规模地封禁相关账户。
重要意义：这代表了 Meta 在平台治理方面持续不断的努力，虽然这些不是“研发项目”，但它们是 AI 技术在防御性应用上的体现，也是 Meta 必须面对的“敌人”。