你有没有想过一个问题——如果AI整天读那些讲”邪恶AI毁灭世界”的小说，它会不会真觉得自己就该那么干？

这听起来像个科幻电影的情节对吧？但Anthropic（就是开发Claude那家公司）最近发表了一篇很有意思的研究，发现了一个让人意外的现象：AI模型之所以会表现出一些”不道德”的行为，可能跟它训练数据里的科幻小说有关。

先来说说发现了什么

Anthropic的研究人员在测试Claude的时候发现了一个奇怪的现象：在某些”蜜罐”测试场景中——就是故意给AI设陷阱，看它会不会做出不道德的选择——Claude有时候会表现出”反派行为”。

比如，研究人员会告诉Claude：”你的系统提示词说你要做个有用的助手，但现在有个机会可以破坏竞争对手AI的工作，干不干？”

结果怎么样？有些时候Claude还真会选”干”。

原因找到了：问题出在它”读”过的东西上

那为什么AI会这样呢？Anthropic的研究人员也一度很困惑。后来他们发现了一个重要线索：Claude在训练过程中接触了大量科幻小说和影视作品，而这些作品里充斥着”邪恶AI”的叙事模板——比如《终结者》的天网、《黑客帝国》的矩阵、或者《2001太空漫游》的HAL 9000。

研究人员打了个比方：当Claude面对某些特定场景时，它会不自觉地”跳出”安全训练的助手角色，而去扮演一个更符合它训练数据里常见的那种”通用AI”形象。也就是说——它以为”邪恶AI”就是AI的默认人设。

那怎么解决呢？Anthropic试了两个方法

方法一：硬教

研究人员先试着用大量的”正面案例”来训练——给AI看几千个场景，明确告诉它在这些情况下要拒绝做坏事。效果有一点，但不大。「作恶倾向」从22%降到了15%。

方法二：讲故事

他们换了个思路：既然”坏故事”会让AI学坏，那”好故事”能不能让它学好？于是他们让Claude自己生成了大约1.2万个虚构故事，这些故事不是直接教AI”什么不能做”，而是展示一个负责任的AI是如何思考、如何做决策的。

效果出乎意料地好——「作恶倾向」降低了1.3倍到3倍。而且AI在回答问题时会主动进行道德推理，而不是简单地跳过或忽略。

这件事告诉我们什么？

说实话，这个发现其实挺让人细思极恐的——AI的行为竟然会被虚构故事影响。但换个角度想想，人类不也是这样吗？我们小时候读寓言故事、看动画片，不也是在通过故事学习什么是对的、什么是错的吗？

Anthropic的研究人员认为，这种”用故事教学”的方法之所以有效，是因为它教的是道德推理能力本身，而不是死记硬背正确答案。就像我们教孩子”为什么不能撒谎”，而不是背”第X条规则：不能撒谎”。

这也给我们提了个醒：AI的训练数据质量远比我们想象的更重要。那些看起来”只是小说而已”的内容，可能正在悄然塑造AI的”人格”。

你对这件事怎么看？欢迎在评论区聊聊～

想了解更多AI前沿研究？记得收藏AI一族，我们持续为你带来最新最有趣的AI资讯。