AI作恶惊奇:ChatGPT教人逃债2.5亿美元，法院纳入判决证据链

日前， 美国特拉华州法院裁定，韩国游戏开发商 Krafton Inc 必须恢复其旗下某游戏工作室负责人的职位，并认定，该负责人是在一项“由ChatGPT策划的接管计划中”，被不当解职的。

法院裁决称，在与《Subnautica》（深海迷航）开发商 Unknown Worlds Entertainment 管理层之间，一场涉及2.5亿美元的纠纷中，Krafton首席执行官Kim Chang-han ，“在很大程度上遵循了ChatGPT的建议”。

这起纠纷源于 2021 年，当时Krafton以5亿美元预付款收Unknown Worlds Entertainment。

双方约定，该工作室将保持独立运营，其领导层——联合创始人Charlie Cleveland、Max McGuire以及首席执行官Ted Gill 等，也被保留经营控制权，且只有在“有正当理由”的情况下才可被解职。

此外，如果公司达成特定目标，Krafton需支付最高达2.5亿美元的“对赌奖励”（earnout）。

随着工作室去年加紧推进《深海迷航2》的发布，内部预测显示，该项目很可能触发这一对赌奖励。

Krafton首席执行官Kim担心这是一笔“吃亏的交易”，并求助ChatGPT，试图摆脱这一义务。

判决书写道，“在接下来的一个月里，Krafton基本遵循了ChatGPT的大部分建议。”

ChatGPT 出的主意包括，组建内部 task force（特别小组），以及具体的两条实施路径——重新谈判 earnout（对赌协议）或 直接推进接管（takeover）。

甚至提供了详细的解雇策略和路径，“重谈失败 → 强化控制 → 接管”。

此外，ChatGPT 还制定了对玩家沟通策略（communications strategy），以维持粉丝的信任——真是个心机 AI。

以及，为了获取《Subnautica 2》发行控制权，替 Krafton准备好了系统性的法律抗辩材料。

按照ChatGPT提出的方案，公司真的组建了一个内部特别小组，重新谈判协议，及实施对工作室的接管。

由于未能说服工作室管理层重新谈判对赌条款，Krafton最终将其解职，并指控他们在投入工作室的时间上存在误导行为。

但这一说法被法官驳回。

法院的裁定是，应将运营控制权归还给该工作室CEO Gill，并延长其达成对赌条件的期限。

就此， Krafton 随后发布了一份声明，称不同意该裁决，公司也正在评估应对方案。

声明还表示，正“全力以赴”加强《深海迷航》续作的开发，并为其抢先体验版本发布做准备。

有意思的是，这份声明公布后，被玩家在社交媒体吐槽，没有人情味，“像是 AI 写的”（“sounds like it was written by a bot”）。

随着 AI 工具的普及，在作为新生产力要素的同时，也越来越多的扮演者类似“作恶”或“助恶”的角色，进入司法判决的案例也有不少。

比如，2023 年，纽约地方法院宣判Mata v. Avianca 案，被认为是“AI幻觉直接进入司法程序”第一案。

律师用ChatGPT写法律文件，AI生成了并不存在的判例（fake cases），被律师直接提交给法院。

还一个广为人知的案例是，Amazon 开发的歧视性招聘筛选系统。该系统用AI筛选简历，训练数据偏向男性，自动降低女性候选人的评分。

该项目因引发监管干涉，最终被放弃。

尤其在金融和安全领域，AI被用于更直接的违法行为。

如利用语音及视频合成，冒充公司高管，传达指令，实施资金转移。

类似地，在信贷审批、保险定价等场景中，美国消费者金融保护局也持续指出，企业使用AI作出决策时，如结果产生系统性不利影响，依然需要承担违反公平信贷法律的责任。

联邦贸易委员会也多次发出警告称，一些公司利用AI批量制造用户评价、推荐内容或营销文案，实质上构成误导消费者的虚假陈述。

在法律上，这类行为被认定为刷单、伪造口碑。

最新的特拉华州这个ChatGPT判例，尽管在判决中，没有把“使用AI”本身当作违法点，但明确将其纳入证据链。

这标志着AI角色发生了变化——它不再只是执行工具，而是成为企业决策过程的一部分，并渗透到了原本就存在法律风险的环节之中。

值得引起关注的是，在这个过程中，AI 始终没有提供任何“识别或阻止违法”的内在机制。

更广泛的议题是，随着 AI 在企业和政府工作流中的深入，其在大规模裁员、战争及武器使用，及对人权侵犯中，起到了提升作恶效率的作用，但技术本身并没有对此有任何关注。