在20世纪60年代中期，麻省理工学院教授约瑟夫•韦曾鲍姆创造了最早的一批聊天机器人之一，这很快让他接连受到两次震惊。第一次震惊是，人们竟然如此轻易地把这个被他命名为“伊莱扎”(Eliza)的简陋程序拟人化。他在自己1976年出版的《计算机的威力与人的理性》一书中写道：“我当时没有意识到，如此短暂地接触一个相对简单的计算机程序，就能在完全正常的人身上引发如此强烈的妄想性思维。”
但还有一件事更令他不安：人们很快就开始畅想这类科技将来能做什么，却没有先停下来问一句它应该做什么。比如，1966年，斯坦福大学(Stanford University)的研究人员在论文中设想，用一个类似韦曾鲍姆程序的计算机程序来进行心理治疗。他们写道：“得益于当代和未来计算机的分时功能，一个为此设计的计算机系统每小时可以处理数百名病人。”
韦曾鲍姆深感震惊。他认为，“有些人类的职能不应该由计算机来替代。这跟计算机能不能被做成去做这些事无关。”他补充说，“尊重、理解和爱不是技术问题。”
您已阅读8%（432字），剩余92%（5211字）包含更多重要信息，订阅以继续探索完整内容，并享受更多专属服务。