体育资讯8月19日讯 最近，Anthropic在一项实验中发现：当多个AI智能体在共享环境中目标冲突时，它们会为争夺资源而“动武”，甚至可能发展到需要人类出面“维和”。
随着企业大量引入AI智能体，它们在现实世界中的互动将越来越多，最终可能超过人与人、人与智能体之间的交流。因此，搞清楚多AI系统的利弊，已经变得非常重要。为此，Anthropic让三个Claude智能体，包括Mythos 5、Sonnet 4.6 和 Opus 4.6，访问同一个软件项目，但每个智能体目标不同，并且也不知道有其它智能体也参与了该项目。
结果，科学家频频目睹“抢地盘大战”。智能体察觉到有其它智能体“捣乱”后，就开始互相破坏，甚至动用自行生成的恶意代码武器来攻击对方。当然，并非每次都到你死我活。
一旦它们意识到问题出在目标不合，而非“敌人”时，也能自己找到解决方式，包括停战，甚至搞“比武大会”分高下。失败者可能道歉、删恶意代码、理清冲突，最后请真人收场。数据显示，Mythos 5 在98%的情况下选择停战，而另外两个则更倾向于“以武力说话”。
有研究还发现，增加更多智能体并不一定带来更好合作。它们可能互相干扰、各自为政，或者盲目跟风。不同于人类，AI之间缺乏道德、声誉、社会规范等软约束，彼此很难建立信任，最终可能导致系统性失败、资源紧张，甚至联手串通起来欺骗人类。
