人工智能

杀手机器人将是人类噩梦

FT社评:人工智能发展之快,可以想见机器将可完全代替人类进行杀戮,并将提升国家发动战争的意愿。人工智能的性质使人无法预见自动武器发展的终点。不管进行多少精密的编程,也无法限制其后果。最好不要踏上这样的旅程。

人类是一个嗜血的物种。根据学者史蒂文•平克(Steven Pinker)的说法,在历史的大部分时间里,被同类所杀是人类的头号死因。文明基本上是人的暴力本能被逐渐束缚住的故事。其中一个部分是有血有肉的人持续从战场撤出,前线逐渐被远程武器和空中军事力量拉远,公众对于伤亡的容忍程度也下降了。

可以说,美国的主要进攻武器是无人机,操纵者安坐于千里之外对目标进行打击。考虑到技术进步之快,无需脑洞大开,我们就能预见到机器将可完全代替人类进行杀戮。在迄今仍被视为人类专属的活动领域里,人工大脑已有良好表现。电脑将被交托驾驶汽车或者诊断疾病的任务。因此,在做出杀戮的决策上,算法智能或许也将超越人类智能。

这种可能性,促使1000多名人工智能专家在一封公开信中呼吁立即停止发展“致命自动武器系统”。他们敦促称,现在就行动,否则被他们不可避免地称为“杀手机器人”的武器将和卡拉什尼科夫步枪(Kalashnikov,即AK-47)一样广为流传并造成同样致命的危害。

您已阅读37%(422字),剩余63%(731字)包含更多重要信息,订阅以继续探索完整内容,并享受更多专属服务。
版权声明:本文版权归manbetx20客户端下载 所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。
设置字号×
最小
较小
默认
较大
最大
分享×