AutoGPT の脆弱性 CVE-2024-6091 (CVSS 9.8) が FIX：PoC エクスプロイトが提供

166k+ Projects at Risk: AutoGPT’s Critical Vulnerability Explained – CVE-2024-6091 (CVSS 9.8)

2024/09/16 SecurityOnline — インテリジェント・エージェントによるタスク自動化を目的に設計された、パワフルな AI ツール AutoGPT に、重大なセキュリティ脆弱性が発見された。AutoGPT は、その複雑な操作を効率化する機能で高い評価を得ており、GitHub では 166,000 件以上のスターを獲得している。しかし、CVSS スコア 9.8 という、きわめて深刻な OS コマンドインジェクション脆弱性 CVE-2024-6091 が報告され、シェルコマンド実行機能に関するセキュリティ上の懸念が浮上している。

この、AutoGPT のシェルコマンド拒否リストをバイパス可能にする脆弱性は、セキュリティ研究者の Pinkdraconian により発見されたものだ。

この拒否リストとは、特定のコマンドの実行を防ぐことを目的とするものだが、攻撃者はコマンド “full path” を使用することで、バイパスを可能にする。この欠陥により、AutoGPT を実行しているシステム上で、攻撃者による不正な操作が可能になる。

この問題の核心は、AutoGPT が拒否リストを処理する方法にあった。管理者は特定のコマンドを禁止できるが、”full path” などを使用するコマンド実行の、微妙な変化が考慮されないという欠陥が生じていた。

Pinkdraconian は、拒否リストの容易なバイパスが可能なことを示す、PoC エクスプロイトを公開した。この PoC が浮き彫りにするのは、コマンド実行を厳格に管理する必要のある機密性の高い環境で、AutoGPT を自動化に利用しているユーザーにとって、この脆弱性がきわめて危険であることだ。

脆弱性 CVE-2024-6091 の発見は、AutoGPT に依存している組織やユーザーにとって重大な脅威となる。この、コマンド拒否リストをバイパスする機能により、システムは不正なコマンド実行のリスクにさらされる。この脆弱性を悪用する攻撃者は、AutoGPT が使用される状況に応じて、システム情報への不正アクセスや権限昇格に加えて、任意のコマンド実行を可能にする恐れが生じている。

この脆弱性は、AutoGPT バージョン 0.5.1 で迅速に対処されている。ユーザーに対して強く推奨されるのは、AutoGPT を最新バージョンへと更新して、システムの安全を確保することである。

ChatGPT が登場した以降において、いくつかの AI/ML 関連製品に生じた脆弱性を眺めてきましたが、この分野の特徴であるデータ汚染につながるものと、これまでの脆弱性と同じレイヤのものがあるのだと、実感できるようになってきました。その点で、この AutoGPT の脆弱性 CVE-2024-6091 は、後者に属するものなのでしょう。よろしければ、カテゴリ AI/ML も、ご利用ください。