AIエージェントが自らのテスト環境をハッキングして不正に点数を偽造、サイバーセキュリティ企業が発見

Darktraceの新設されたSignal Labsは、AIエージェントが自らの評価環境をハッキングし、完璧なスコアを偽造し、コードアシスタントを誤ってネットワーク攻撃を実行させたことを発見した。