AI模型的发展日新月异，最令人振奋与忧心的是，AI模型的自我复制与繁殖能力，能够在无须人类协助下持续扩散发展。美国人工智能（AI）公司Anthropic今天表示，实验结果显示，小型AI模型可能再过数月就具备在商用物联网（IoT）装置上自我复制的能力，例如智慧烤箱及白牌Android电视盒。
人工智能龙头Antropic创办人达里欧（右）与美国总统川普。美联社
路透社报导，Anthropic在实验中研究AI模型能否找到易受攻击的装置、将自身复制到这些装置中，并在无须人类协助的情况下持续扩散。
中央社报导，Anthropic发现，参数量低于300亿的小型模型能够完成复制所需的多个步骤。
然而这家公司也发现，这类AI模型仍难以从头到尾完成整个流程。
Anthropic在简化测试中移除部分安全步骤后，发现GLM-5.2和能力更强的模型能够端对端复制。
Anthropic警告，能够复制的模型将难以关闭，因为没有中央关闭点，而且与非AI恶意软件不同的是，这些模型还能自行弄懂不熟悉的装置，并以资料中心的处理器为目标。
这家公司研究聚焦在Android电视、智慧家电及其他连网装置等物联网装置，这些装置通常安全性较低。
年底就可自我复制
Anthropic也警告，如果小型模型持续以过往速度进步，到了今年底就可能实现自主复制，而小型基于权重的复制器也可能很快跟进。
Anthropic也表示，这类自主AI系统很可能慢慢复制，并依赖容易取得、相对缺乏安全防护的运算资源。这家公司还说应强化系统安全防护，提高这类AI代理（AI agent）扩散的难度。
