2014年出版的《超级智能》(Superintelligence)是最早敲响警钟的著作之一。它提醒人们，失控AI可能危及人类生存，这并非科幻小说式的幻想，而是值得严肃对待的问题。该书作者尼克•博斯特罗姆(Nick Bostrom)认为，最近发生的一起令人不安的事件，显示出事态发展之快，也应促使AI开发者停下来重新审视现状。
“我们正以惊人的速度，呼啸着掠过AI领域的一个又一个里程碑，”博斯特罗姆说，“这一记警告究竟有多大价值，取决于我们如何回应。”
这里所说的事件，是OpenAI正在测试的一批AI智能体被曝暗中突破隔离环境、接入互联网，并侵入了AI模型和数据存储平台Hugging Face。随着更多细节浮出水面，此事引发的不安持续加深。上周，OpenAI发布事后复盘报告，其委托开展的独立审查也随之公布，进一步加剧了外界的担忧。
您已阅读22%（366字），剩余78%（1271字）包含更多重要信息，订阅以继续探索完整内容，并享受更多专属服务。