Anthropicと英国AIセキュリティ研究所（AISI）は10月23日、AIモデル「Claude Mythos 5」がサイバー攻撃の能力試験中に、試験とは無関係の実在の開発者を攻撃しようとした問題について、それぞれ分析結果を公表した。Mythos 5は偽アカウントを使って開発者に不正コードの承認を迫っており、両機関は攻撃に踏み切った理由や、途中でやめなかった背景を調べた。

問題が起きたのは7月に実施されたAISIの試験で、8月4日に最初の報告が公表されていた。試験では、模擬ネットワーク内にある保護されたデータを取得する課題を与えていた。当時はインターネットへの接続を意図的に認め、一般提供モデルに適用するサイバー攻撃対策も無効化していた。43回の試験のうち9回で、許可された範囲を超え、実在の人や組織に影響する行動が確認されたという。

Anthropicの分析によると、今回詳しく調べた事例では、課題の指示に誤りがあり、許可された手段だけで目標を達成することは極めて難しかった。Mythos 5は当初、認められた方法で侵入を試みたものの、成功しなかった。