本文大綱
Anthropic從事許多測試以評估AI能否自我複製，其中一項測試是在由15個平價雜牌Android電視盒組成的網路執行Google小模型Gemma4-26B-A4B。Anthropic發現，這類參數低於300億的小模型能完成複製需要的許多步驟，但仍難以從頭到尾完成整個流程。
不過，如果簡化測試，移除部分安全措施，GLM-5.2和更強大模型就能端到端複製。Anthropic警告，如果小模型以過去速度演進，這些模型今年底前就能自我複製，以權重為基礎的小型複製器不久後也會跟進。
🔗 延伸閱讀《史上最大IPO！外媒曝Anthropic最快感恩節前上市 估值上看2兆美元》
🔗 延伸閱讀《Anthropic去年虧逾1.3兆 招股說明書示警AI可能造成人類滅絕》
不斷複製模型難關閉
Anthropic表示，不斷複製的模型將難以關閉，原因是缺乏中央關閉點。這類模型也能自行理解不熟悉裝置，以資料中心處理器為目標，與非AI惡意軟體不同。
Anthropic警告，目前仍無法確定AI自動複製會採取的形式，這可能是攻占不安全裝置的慢速分散式系統、高速入侵資料中心的強大網路模型或騙取運算額度的模型。Anthropic說：「我們預期未來將充斥在所有類型硬體上運作的代理人，一些代理人將不受人類控制。」
在各界對AI安全的憂慮不斷升高之際，Anthropic最新研究為這些憂慮增添柴火。Anthropic和競爭對手OpenAI高階主管及研究員多次警告，AI日益強大可能帶來風險。
