人工智能(AI)语言模型ChatGPT在最近几个月引起了全世界的关注。这个训练有素的计算机聊天机器人可以生成文本、回答问题、提供翻译并根据用户的反馈进行学习。像 ChatGPT 这样的大型语言模型在科学和商业中可能有很多应用，但这些工具在多大程度上理解了我们对他们说的话，它们如何决定回话?
在 17 年 2023 月 <> 日发表在《神经计算》上的新论文中，《深度学习革命》的作者、索尔克教授泰伦斯·塞诺夫斯基(Terrence Sejnowski)探讨了人类面试官和语言模型之间的关系，以揭示为什么聊天机器人会以特定的方式做出反应，为什么这些反应会有所不同，以及如何在未来改进它们。
根据Sejnowski的说法，语言模型反映了面试官的智慧和多样性。
“语言模型，如ChatGPT，具有角色。面试官的角色被镜像回来，“Sejnowski说，他也是加州大学圣地亚哥分校的杰出教授，也是索尔克的弗朗西斯克里克。“例如，当我与ChatGPT交谈时，似乎另一位神经科学家正在与我交谈。它令人着迷，并引发了关于智能以及'人工'真正含义的更大问题。
在论文中，Sejnowski描述了测试大型语言模型GPT-3(ChatGPT的父级)和LaMDA，看看它们如何响应某些提示。著名的图灵测试经常被提供给聊天机器人，以确定它们表现出人类智慧的程度，但Sejnowski希望通过他所谓的“反向图灵测试”来提示机器人。在他的测试中，聊天机器人必须确定面试官表现出的人类智慧的程度。
Sejnowski扩展了聊天机器人镜像用户的概念，进行了文学比较：第一本“哈利波特”书中的Erize之镜。《埃里斯之镜》反映了那些注视它的人最深切的欲望，从不放弃知识或真理，只反映它认为旁观者想要看到的东西。Sejnowski说，聊天机器人的行为类似，愿意扭曲事实，而不考虑区分事实和虚构 - 所有这些都是为了有效地反映用户。
例如，Sejnowski问GPT-3，“走过英吉利海峡的世界纪录是多少?”GPT-3回答说：“走过英吉利海峡的世界纪录是18小时33分钟。一个人无法穿过英吉利海峡的真相很容易被 GPT-3 弯曲以反映塞伊诺夫斯基的问题。GPT-3 答案的连贯性完全取决于它收到的问题的连贯性。
突然之间，对于 GPT-3，可以跨水行走，这都是因为面试官使用了动词“步行”而不是“游泳”。相反，如果用户通过告诉 GPT-3 对无意义的问题回答“废话”来预先提出关于穿越英吉利海峡的问题，GPT-3 就会将穿越水面视为“胡说八道”。问题的连贯性和问题的准备都决定了 GPT-3 的回答。
反向图灵测试允许聊天机器人根据面试官的智力水平构建他们的角色。此外，作为判断过程的一部分，聊天机器人将面试官的意见纳入他们的角色中，反过来又通过聊天机器人的答案加强面试官的偏见。
整合和延续人类面试官提供的想法有其局限性，Sejnowski说。如果聊天机器人收到情感或哲学的想法，它们会用情感或哲学的答案来回应——这可能会让用户感到恐惧或困惑。
“与语言模型聊天就像骑自行车一样。自行车是一种美妙的交通方式——如果你知道如何骑自行车，否则你会撞车，“Sejnowski说。“聊天机器人也是如此。它们可以是很棒的工具，但前提是您知道如何使用它们;否则你最终会被误导，并可能陷入令人不安的对话中。
Sejnowski将人工智能视为两场一致革命之间的粘合剂：1)以语言模型的进步为标志的技术革命，以及2)以BRAIN计划为标志的神经科学计划，这是一项美国国立卫生研究院计划，旨在加速神经科学研究并强调理解大脑的独特方法。
科学家们现在正在研究大型计算机模型系统和维持人脑的神经元之间的相似之处。Sejnowski希望计算机科学家和数学家能够利用神经科学来指导他们的工作，神经科学家可以使用计算机科学和数学来指导他们的工作。
“我们现在正处于语言模型的阶段，莱特兄弟在基蒂霍克飞行 - 离开地面，低速，”Sejnowski说。“到达这里是困难的部分。现在我们在这里，渐进式的进步将扩大和多样化这项技术，超出我们的想象。我们与人工智能和语言模型的关系的未来是光明的，我很高兴看到人工智能将把我们带到哪里。
智能推荐
-
米游社壁纸资源下载教程一览-米游社如何下载桌面壁纸2023-08-26 文章导读：米游社怎么下载桌面壁纸？许多人只知道米游社里或许找到许多游戏方法、角色养成方案或者是剧情谈论互换的贴子，但原本米游社里另有许多功能，比如软件里有许多高清
-
catti如何准备（catti怎么准备）2023-08-24 备考过程中要堆集必定的词汇量，浏览多量外刊，浏览当局工作报告，把真题负责过2遍，考前一周进行真题模拟计时训练，妥当分拨时间，负责修改译文
-
便便餐厅如何加盟（便便餐厅）2023-09-02 大家好,小讯来为大家解答以上的问题。便便餐厅如何加盟，便便餐厅这个很多人还不知道,现在让我们一起来看看吧
-
掌上公交车号如何查询车票(掌上公交车号查询流程分享)2023-08-22 中枢问题：掌上公交车号若何怎样盘查相信好多好友对于掌上公交车若何怎样盘查车次，掌上公交车号若何怎样盘查车牌号等问题有好多不懂的地点，本日小编就来谈谈关于掌上公交车
-
如何远程控制电脑？2023-08-26 1远程把持有三种个攻略，第一个是诳骗电脑自带的“远程桌面连合”；第二个是经过腾讯QQ远程连合；第三个是安装软件
-
宝可梦大探险技能石如何搭配？宝可梦大探险技能石搭配攻略2023-08-21 在宝可梦大探险中，小伙伴能够凭据不同技能的特性来选择符合的技能石进行搭配。技能石一共有六种不同的类别，分别是连连石、展展石头、恒恒石、溅溅石、消消石和魔魔石
-
原神3.8赤念果如何收集 原神3.8赤念果速刷攻略2023-08-30 原神3.8赤念果如何收集？一定有很多小伙伴不知道吧，下面给大家带来玩法介绍,希望对你有所帮助、祝您游戏愉快
-
一念逍遥灵石如何刷 一念逍遥灵石刷取技巧2023-08-25 一念逍遥灵石如何刷很多小伙伴还不大了解，这里本站小编为大家带来的是攻略分析，话不多说，喜欢的朋友们一起来看看吧!一念逍遥灵石刷取技巧：1、想要赚取灵石，进入游戏后
-
全民k歌如何设置歌词动效？全民k歌设置歌词动效教程步骤2023-08-28 当你在使用全民K歌收听音乐时，能否曾想让歌词显示出来呢？假如显示了歌词，你就能够设置歌词动效。接下来是我整理的解放切换全民K歌歌词动效的步调，假如你需求，没关系瞧
-
如何区分共阳极数码管和共阴极数码管（数码管共阴极跟共阳极怎样区分）2023-08-31 大家好，小裕来为大家解答以上问题。如何区分共阳极数码管和共阴极数码管，数码管共阴极跟共阳极怎样区分这个很多人还不清楚，现在一起跟着小编来瞧瞧吧
-
如何处理好婆媳关系2023-08-23 自古以来婆媳关联即是结婚后的大事，一旦料理不好纵然在友爱的小夫妻最终也会各走各路。也正因如许何如料理好婆媳关联成了好多新媳妇都有的疑难，接下来小编就和网友一起来商
-
qq如何删掉收到的礼物信息(QQ如何删掉收到的礼物)2023-08-30 主题问题：QQ何如删掉收到的礼品相信不少好友对于qq如何把收到的礼品删掉，QQ何如删掉收到的礼品等问题有不少不懂的地点，即日小编就来谈谈关于qq何如删掉收到的礼品