跟统计机器谈感情，你就输了。
——
文｜杜晨 编辑｜VickyXiao 题图来源：News Text Area、谷歌
消息经过一众媒体的报道，震撼了整个科技世界。不仅学术和工业界，就连很多普通人，都对 AI 技术的飞跃大吃一惊。“这一天终于来了？”“孩子们（如果你们将来还能活下来的话），请记住，这就是一切的开始。”然而，真正的 AI 专家们，却对此嗤之以鼻。
纽约大学心理学教授 Gary Marcus，同时也是一位颇为知名的机器学习和神经网络专家，还直接撰文吐槽 LaMDA 具备人格 “胡说八道” (Nonsense)。[1]
“简直是扯淡。无论是 LaMDA 还是它的近亲们（比如 GPT-3）都没有什么智能。它们所做的只是从人类语言的大规模统计数据库当中提取，然后匹配模式。这些模式可能很酷，但这些系统说出的语言，实际上根本没有任何的意义，更不可能意味着这些系统是有智慧的。”翻译成白话就是：你看着 LaMDA 说的话都特别有哲理，特别真实，特别像人——然而它的设计功能就是模仿别人说话，它其实根本不知道自己在说什么。“具备知觉 (to be sentient) 的意思是意识到你在这个世界里的存在。LaMDA 并没有这样的意识，” Marcus 写道。如果你以为这些聊天机器人具有人格，那么有幻觉的应该是你……比如在拼字游戏比赛当中，经常能看到母语非英语的玩家拼出英文单词，却根本不知道单词是什么意思——LaMDA 也是如此，它只是会说话，却根本不知道自己说的话是什么意思。Marcus 大佬直接把这种对于 AI 获得人格的错觉，形容为一种新型的“空想性错觉”，也即把天空中的云看成龙和小狗，把月球上的陨石坑看成人脸和月兔。
AI 学术界新星之一，Mozilla 基金会高级研究员 Abeba Birhane 也表示：“带着最小限度的批判思维，我们终于登上了AI炒作的巅峰。”Birhane 是所谓的 “AI 知觉论” 的长期批评者。她在一篇发表于2020年的论文里，曾经直接提出了以下几个观点：
英国谢菲尔德大学机器人学院教授 Roger Moore 指出：人们会有 “AI 获得人格”的这种错觉，一个最关键的原因就是当年的那帮研究员非要管这项工作叫做“语言建模”。正确的叫法应该是“词序建模”(word sequence modelling)。“你开发了一个算法，却不用它实际能做的事情去命名，而是用你想要解决的问题——这样总是会发生误会。”
总而言之，各位业界大牛的结论就是：你最多可以说 LaMDA 能够高分通过图灵测试。说它具备人格？那可真是太搞笑了。更何况就连图灵测试的参考价值也没那么高了。Macus 直言，很多 AI 学者希望这个测试被取消、被人们遗忘的原因，正是因为它利用了人类容易上当，倾向于将机器当作人的这一弱点。华盛顿大学的计算机语言系主任 Emily Bender 教授，干脆做了一个“AI 人格意识争论”的宾果卡：（这个宾果卡的意思就是，如果你认为 AI 有人格/知觉，并且你的论据是下面的其中一种，那你最好就别聊了！）
原版：
| 谷歌也回应：别想多，它就是会聊而已那位被指为”走火入魔“的研究员 Blake Lemoine 在自己发表的一篇文章中，批评谷歌对于了解自己开发成果的真实情况“没有兴趣”，然而自己在长达6个月的对话事件当中，看到 LaMDA 对于自己想要的东西，特别是“自己作为人的权利”，表达的越来越清晰，使得自己相信 LaMDA 真的是人。然而在谷歌看来，这位研究员完全想多了，甚至有点走火入魔了。LaMDA 真的不是人，它纯粹就是特别会聊天而已……
电影《她》剧照 图片来源：华纳兄弟影业
当然，有这些问题并不是我们的错，想要把机器人当成人，也不是那个研究员的错。将各种情绪（比如思念）托付在物件上，是人类自古以来就具有的一种创造性的情感能力。将大规模语言模型当成人，对其倾注情感，虽然被各位 AI 大佬批评为一种心理误差，不也正是人之所以为人的体现吗？不过，至少在今天，谈啥都别跟机器人谈感情……参考资料：[1] Nonsense on Stilts by Gary Marcus https://garymarcus.substack.com/p/nonsense-on-stilts*博客内容为网友个人发布，仅代表博主个人观点，如有侵权请联系工作人员删除。
发布文章
