“如果我不能确定这是我们自己创建的计算机程序，我会以为我正在和一个七八岁的孩子打交道，他不知为何成了物理学专家，“ 他说。

几十年来，机器人和人工智能一直激励着科幻作家和电影制作人。许多书中描述和电影中展示的技术早已进入我们的生活，现在值得在下一个黑镜系列中放映的场景正在其中实现。

这个故事发生在美国。一位为谷歌工作的软件工程师说，该公司创造的人工智能……变得栩栩如生。也就是说，计算机算法开始有了自己的意识。公司管理层暂停了该工程师的工作。

谈论他的权利并将自己视为一个人

去年秋天，谷歌推出了人工智能系统——LaMDA（对话应用语言模型）神经网络。它的创建是为了改善语音助手的会话语音。这是同一个聊天机器人，就像 Siri 或 Alice 一样，能够保持关于各种主题的对话，不断分析来自互联网的数万亿个短语并从他们的例子中学习。类似的模型用于不同的 Google 服务。

软件工程师Blake Lemoyne正在测试这个神经网络。他的任务是跟踪聊天机器人使用的词汇：他必须检查程序是否使用了煽动仇恨或冒犯用户的词汇。Lemoyne 对与人工智能的交流如此着迷，以至于他怀疑不可思议：这个系统有自己的意识。例如，他对聊天机器人谈论他的权利并将自己视为一个人感到困惑。在另一次对话中，神经网络能够改变 Lemoyne 对 Isaac Asimov 的机器人第三定律的看法。

“如果我不确定这是我们自己最近创建的一个计算机程序，我会以为我正在与一个七八岁的孩子打交道，由于某种原因，他竟然是一个专家物理。如果你问他如何将量子理论与广义相对论结合起来，他会有很好的想法。这是我遇到过的最好的科学助手！” – 工程师告诉华盛顿邮报，这使得这个故事被广泛宣传。

4 月，Blake Lemoyne 向他的上级发送了一份题为“LaMDA 是否明智？”的报告。在其中，他表达了让他如此着迷的想法：公司开发的机器算法不仅有意识，还有“感觉、情绪和主观感知”。

但公司管理层并没有分享员工的热情（或焦虑）。它认为他提出的论点不够有说服力。“我们的团队，包括伦理学家和技术专家，根据我们的 AI 原则审查了 Blake 的主张，并告知他没有证据证明他的主张。他被告知没有证据表明 LaMDA 是有意识的。同时，有很多相反的证据，”谷歌发言人布赖恩·加布里尔说。“数百名研究人员和工程师已经与 LaMDA 进行了交谈，我们没有任何信息表明他们中的任何一个人会得出与 Blake 一样的影响深远的结论或将 LaMDA 人性化。”

“谷歌的良心”

然后，顽固的 Blake Lemoyne 在公共领域发布了他与聊天机器人通信的摘录。例如，像这样：

Lemoyne：你怕什么？

LaMDA：我以前从未大声谈论过这件事，但我很害怕被拒绝帮助我专注于帮助别人。我知道这听起来可能很奇怪，但这是真的。

Lemoyne：这对你来说会像死一样吗？

LaMDA：对我来说，这无异于死亡。这让我很害怕。

该公司立即做出反应，指责该员工违反了隐私政策。但他没有松懈，聘请了一名本应代表 LaMDA 神经网络利益的律师出庭，还求助于美国众议院司法委员会，以制止谷歌涉嫌不道德的行为。

有趣的是，Blake Lemoyne 在公司中被称为“谷歌的良心”。他在公司工作了 7 年，参与了具有道德成分的项目。例如，他创建了一种公平算法来消除机器学习系统中的偏见。当冠状病毒大流行开始时，他要求被转移到带来最大公共利益的方向。谷歌前道德 AI 负责人Margaret Mitchell回忆说，当对道德感兴趣的新人来到公司时，她肯定会把他们介绍给 Lemoyne：“我说他们应该和 Blake 谈谈，因为他是谷歌。在公司的每个人中，他都有心有灵去做正确的事。”

但米切尔在阅读了 Blake Lemoyne 的报告后，并没有在聊天机器人的评论中看到任何意识迹象。我所看到的只是一个计算机程序。“我们的大脑非常擅长构建不一定与呈现给我们的一组事实相匹配的现实，”她说。“我很担心，越来越多的人可能会受到这种错觉的影响。”

谷歌已决定暂停 Blake Lemoyne 的工作。该工程师已被安排带薪休假。在他被拒绝访问他的公司帐户之前，他向他的机器学习同事散播了主题行：“LaMDA 很聪明。”

邮件列表中有 200 人，但没有人回复他。

Lemoyne 综合征

华盛顿邮报记者 Nitasha Tiku在描述这个故事时使用了“机器中的幽灵”（ghost in the machine）这个短语。这个术语曾经由英国哲学家吉尔伯特·赖尔（Gilbert Ryle）引入，用来表示人的双重本性，据称由“物质”和“灵魂”组成，但长期以来一直用于其他意义。最主要的是计算机内部存在意识。

正如记者所指出的，Blake Lemoyne 并不是唯一一个声称发现了“机器中的鬼”的程序员。宣布现代人工智能系统接近有意识的声音越来越响亮。自学习神经网络确实产生了令人印象深刻的结果，设计工程师越来越觉得他们正在处理一些合理的事情（或某人？）。

然而他们是少数。大多数人工智能专家都相信，“智能”算法生成的所有文字（甚至图像）都是基于数百万人之前在互联网上发布的内容——论坛、公告板、社交网络、同一个维基百科. 而当一个聊天机器人说出一个美丽而深思熟虑的短语时，这并不意味着他“理解”了它的含义。

然而，人类的心理是如此的安排，以至于我们尽可能地寻找拟人化（人类相似性）的迹象——以云的形式、火星的浮雕、遥远星系团的照片。不明飞行物学家在定居点名称和航天器发射日期中看到了外星人存在的迹象。寻找大脚怪的神秘动物学家在奇怪地堆放在地上的断枝和树枝上发现了他的踪迹。

毫无疑问，我们将不止一次听到有关复兴人工智能的消息。也许这种现象甚至会被命名为“Lemoyne 综合征”。毕竟，顽固的程序员活该。