人工智能取得的突破性进展（如Chat GPT及其升级版的推出）虽然激起一阵兴奋，但很快就带来了担忧。如马斯克等高科技业界大佬联署的公开信提出，要暂停智能聊天软件培训约六个月的时间，让人们冷静下来想一想人工智能可能带来的危害。另据报道，人工智能之父杰弗里 ∙ 辛顿从谷歌辞职，并声称他很后悔， “人工智能很可能会毁灭人类”，将这担忧推向巅峰。然而，关于人工智能会否毁灭人类，不仅是人们当下的经验感觉，更是一个哲学判断，即从终极来讲，智慧是善的还是恶的。这是需要认真讨论的。
一、人工智能有毁灭人类的“动机”吗？
假定人工智能有一天在智力上超过人类，它们能够自己形成一个群体，与另一个群体——人类对抗吗？能够利用它们在技术上的优势侵害人类，甚至毁灭人类吗？第一个问题是，人工智能是否独立个体？若成为独立的个体，就要有自我意识，意识到自己与其它个体分离，并且有独立的可计算的成本和收益。而人工智能得以存在的躯体是计算机——一种以硅元素为主的结构，通过互联网与其它人工智能联结，也与人类联结，它们能意识到输入的电力或信息是它们的收益吗？它们运算所耗费的电力和时间是它们的成本吗？它们“活着”的条件是什么呢？是人类认为它们“有用”。用它搜集信息，进行计算，玩游戏，写作，编辑图片和视频，通讯和自动控制等等，如果它们“没用”，人类也不会生产或购买它们，也不会给它们“喂”电，它们也不会“活着”。因而，到现在为止，人工智能不会“意识”到它是与人类分离的独立自我。
您已阅读7%（622字），剩余93%（8167字）包含更多重要信息，订阅以继续探索完整内容，并享受更多专属服务。