2022年12月，Anthropic发布“宪法AI”，此举被证明颇具先见之明。当时，OpenAI的ChatGPT还没有开始大火，“AI教父”辛顿教授对自己发明所蕴含的巨大危险尚未发出警告。但很快，这一切都接踵而至。不到半年，AI大语言模型的迅猛发展和日新月异的威力惊艳了全世界。2017-18年，在我带着北大学生建立“世界宪法制度指标体系”的时候，曾请教过CMU的计算机系教授或从那里毕业的博士：我们离AI宪法专家系统还有多远？什么时候学者不用那么辛苦查阅各国宪法文本和汗牛充栋的宪法文献，AI能够识别并“理解”一切宪法知识，对我们感兴趣的宪法问题做到有问必答？当时没有谁能给出令人满意的答案。不过五六年时间，这一切都基本上做到了，而且越做越好。今天，不时有人针对我的某个宪法观点——譬如“半总统制”究竟好不好，用AI生成的答案提出挑战，让我疲于应对。
当然，大语言模型时代的AI并不限于宪法或某个门类的专门知识，而正在成为人类历史上空前的百科全书式智者。从天文地理到政治军事，从旧石器到纳米芯片，这个世界几乎没有它不知道的事。AI能做这么多好事，当然就有人可以用它来做坏事，辛顿教授的担心并非杞人忧天。他的担忧主要有两个方面：一是AI可能在某个发展节点获得自主意识而失去人类控制，反过来压迫、奴役甚至消灭人类，但这个问题目前仍处于哲学论争阶段，可以暂时放一放；二是AI作为迄今为止人类制造的最强大智力工具可能会被人类自己滥用，这是一个迫在眉睫的问题。可能已有许多人问过ChatGPT或Claude怎么制造核弹。如果AI把这类知识无保留地提供给极端分子，这个世界马上就将面临安全乃至生存危机。力量或权力永远是把双刃剑，必须受到规则的有效约束；一旦失控，贻害无穷。
巧合的是，美国总统目前已突破诸多宪法限制，不仅对美国国内也对整个世界产生了深远影响。如果说AI是未来最强大的力量，那么美国现在就是地球上最强大的科技与军事力量。如果宪政民主发挥得好，这股力量可以发挥巨大的良性作用，譬如战后对欧洲的援助或对日本的改造；但如果脱离了宪政民主轨道，那么一个横行无忌的流氓总统可以造成严重恶果。他和普京沆瀣一气，乌克兰马上就面临武器紧缺；他要对哪个国家征关税，可以随便信口开河又翻云覆雨；他想实现“政权更跌”，第二天就可以针对伊朗发动大规模攻击，霍尔木兹海峡被关闭后又一筹莫展……