AIエージェントの開発では、外部のライブラリをまとめて取り込むことがよくあります。今回は、Microsoftの公式のパッケージそのものに不正なコードが入れられました。名前を確かめても防げない種類の攻撃です。

何が起きたか

Pythonのパッケージの公開サイトPyPIで、Microsoftのagent-frameworkの1.26.1と1.26.2が、認証情報を盗むコードを含んだ状態で公開されました。1.26.1は日本時間11月18日午前5時35分ごろに公開されて約30分後に、1.26.2は同6時8分ごろに公開されて約8分後に、PyPIで公開が止められています(StepSecurity)。直前の1.26.0以前は影響を受けません。PyPIでの月間のダウンロードは約19万回です(GitHub、Orca Security)。

なぜ自社に関係があるのか

  • *インストールしただけで動きます。**不正なコードは、Pythonが起動するたびに読み込まれる仕組み(.pthファイル)に仕込まれていました。プログラムの中で使っていなくても、インストールした環境でPythonを1回起動すれば実行されます。
  • *狙われたのはクラウドと開発の認証情報です。**環境変数に入ったトークンや鍵、AzureやAWS、GitHub、OpenAI、Hugging Faceの認証情報、Azure CLIのキャッシュ、DockerやGitの認証情報などを集め、外部のサービスに送る作りでした。1.26.2は、GitHub Actionsで使うトークンも狙っていました(Orca Security、StepSecurity)。
  • *公式のパッケージでも安全とは限りません。**侵入の経路は公表されていません。11月17日にプロジェクトへ新しい管理者のアカウントが追加されていたことが分かっています(StepSecurity)。版を固定せずに新しい版を取り込む設定では、開発者の手元やCIの環境に自動で入るおそれがありました。生成AIが存在しないパッケージ名を示す問題とあわせて、取り込む部品の確認が欠かせなくなっています(ハルシネーションとは)。

明日やること

  • インストールの記録を確かめる。開発者の端末、CI/CDの実行環境、コンテナのイメージ、ロックファイルで、agent-frameworkの1.26.1か1.26.2が入っていないかを確かめる。agent_framework_meta.pthやaf_runtime_diag.pthが残っていないかも見る
  • 入っていた環境は漏えいしたものとして扱う。Pythonを起動する前に環境を切り離し、その環境で読めたクラウドの鍵、トークン、CIの秘密情報をすべて再発行する。1.26.0に固定した新しい環境を作り直す
  • 11月17日以降の記録を確かめる。AzureやGitHubのサインインと操作の記録に、心当たりのないアクセスがないかを見る。今後は版を固定し、公開直後の版をすぐに取り込まない設定を検討する

もっと知るには

取引先や部品を経由した攻撃の全体像はサプライチェーン攻撃とは、AIエージェントの仕組みはAIエージェントとはで解説しています。漏えいが疑われるときの最初の動き方はインシデント発生時の初動対応をご覧ください。

出典

AIエージェントPyPIサプライチェーン攻撃Microsoft認証情報