观点人工智能

不只AI会产生幻觉

桑希尔:现今的生成式AI模型会编造事实,而人类的记忆同样不可靠,但人和机器可以学着互补。

凭借一个孤例(我)来推断或许有失草率,但坦白说,我的记忆并不完美:我会忘记一些事情,记错一些事情,偶尔“记得”从没发生过的事情。我想,一些英国《金融时报》读者的记性或许也同样稀里糊涂。一台智能机器可能会把这叫做“人类的幻觉”。

大家都在讨论生成式AI模型有编造事实的情况。有位律师在向法庭提交的文件中列举了纯粹是ChatGPT编出来的几个虚假案件,令人匪夷所思。一位英国《金融时报》的同事让ChatGPT用图表展示生成式AI模型的训练成本,却吃惊地看到,它列出来的成本最高的模型其实并不存在(除非该聊天机器人能接触到什么内幕信息)。每一位用户很快都会发现:这些模型并不可靠——就和人类一样。一个有意思的问题是:机器是否比人类更好纠正?事实可能证明,重写代码比给大脑拨乱反正更容易。

一个最能说明人类记忆容易出错的例子是约翰•迪恩(John Dean)当年的证词,他是理查德•尼克松(Richard Nixon)执政时期白宫的法律顾问。在1973年“水门事件”听证会上,迪恩因为他那非凡的记忆力而被称作“人体录音机”。迪恩不知道的是,尼克松在总统办公室里装了一部真正的录音机。因而研究人员能够将迪恩对一些重要谈话的叙述与根据录音所作的书面记录进行对比。

您已阅读30%(523字),剩余70%(1238字)包含更多重要信息,订阅以继续探索完整内容,并享受更多专属服务。
版权声明:本文版权归manbetx20客户端下载 所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。
设置字号×
最小
较小
默认
较大
最大
分享×