如果我挥舞着赶牛棒朝你走去，你刚开始可能会觉得搞笑。但如果我脸上挂着僵硬而癫狂的笑容朝你越走越近，你很可能会吓得后退，心中充满震惊、困惑和愤怒。当电极触碰到肉体，可以想见，你会猛地往后缩，嘴上咒骂连连。
当你对一个人做了什么事，对方会做出什么反应往往是可以预测的。当今最智能的机器却不是这样。AlphaGo是谷歌(Google)下属的DeepMind开发出的计算机程序，它在围棋对弈中击败世界最顶尖的棋手。但AlphaGo的创造者们承认，他们无法推测它会走出什么胜招。这种不可预测性——同样可见于Facebook的两个聊天机器人，它们因为发展出自己的语言而被关闭了——引起了人工智能界的不安。
随着我们迈入自主系统的时代、把更多决策工作交给人工智能，技术专家们开始敦促我们要更深入地理解“输入”(input)和“输出”(output)之间的神秘地带。上月在萨里大学(Surrey University)举办的一次会议上，来自巴斯大学(Bath University)的一个编程团队提交了一篇论文，透露就连“设计者，要仅凭观察来破译他们所研发的机器人的行为也有困难”。
您已阅读31%（481字），剩余69%（1081字）包含更多重要信息，订阅以继续探索完整内容，并享受更多专属服务。