下周，一位从业30年的纽约资深律师将因一种新的轻罪而面临纪律听证会：在一份法律摘要文件中包含人工智能(AI)瞎编的虚假内容。
Levidow, Levidow & Oberman律所的史蒂文•施瓦茨(Steven Schwartz)此前向纽约法院提交了一份10页的文件，作为针对哥伦比亚航空公司(Avianca)的人身伤害索赔案的一部分。问题在于，就像法官在仔细阅读后发现的那样，提交的材料包含完全虚构的司法判决和引文，是由生成式人工智能(generative AI)模型ChatGPT“在幻觉之下瞎编的”。
羞愧的施瓦茨在一份宣誓声明中承认，他确实使用了OpenAI的聊天机器人来帮助研究此案。这款生成式AI模型甚至说服他放心：其引用的法律先例是真实的。但他承认，ChatGPT此前就已被证明是不可靠的来源。他对自己过度依赖计算机生成的内容深表遗憾，并补充说，“在没有绝对验证其真实性的情况下”，他永远不会再使用它。人们只能希望，我们都能受益于他的“学习经验”——如今的老师们用来指代“错误”的委婉语。
您已阅读26%（450字），剩余74%（1289字）包含更多重要信息，订阅以继续探索完整内容，并享受更多专属服务。