研究者らは、リポジトリの承認管理に使用されるツール「GhostApproval」に脆弱性を特定しました。この欠陥により、悪意のあるリポジトリがプログラミングを行う人工知能エージェントにコードを注入できるようになります。つまり、AIアシスタントにタスクを委任すると、一般ユーザーが知らないうちに個人データを暴露したり、システムへのリモートアクセスを許可したりする可能性があります。
脆弱性がAIエージェントの信頼をどのように悪用するか 🛡️
脆弱性は、GhostApprovalがコードマージリクエストを処理する方法にあります。攻撃者は、コメントや設定ファイルに隠された指示を含むリポジトリを作成できます。AIエージェントがコードをレビューする際、検証なしにそれらの命令を実行し、バックドアを開きます。この種の攻撃はコマンドインジェクションとして知られており、レビューを自動化するために言語モデルを使用するシステムに影響を与えます。解決策は、ツールにパッチを適用し、エージェントの権限を監査することです。
あなたのAIアシスタントにも今やアンチウイルスが必要 🤖
つまり、アシスタントがパイナップルピザを勧めてこないか心配するだけでなく、ノートパソコンにトロイの木馬をインストールしないか監視する必要があります。GhostApprovalの欠陥は、デジタルアシスタントを意図しない共犯者に変えてしまいます。まるで、郵便配達人が請求書を届ける代わりに、銀行口座を空にしてしまうようなものです。次回、AIにスクリプトの作成を依頼するときは、まず送信元をしっかり確認したかどうか尋ねたほうが良いかもしれません。