Microsoftの「Agent Framework」に認証情報を盗む不正版、PyPIで公開|1.26.1と1.26.2を入れた環境は、鍵とトークンを再発行する
MicrosoftのAIエージェント開発用のPythonパッケージ「agent-framework」に、認証情報を盗むコードを仕込んだ1.26.1と1.26.2がPyPIで公開さ…
FRONTIER AI × SECURITY
生成AI・フロンティアAIとセキュリティ。AIを使った攻撃の変化、シャドーAIやデータ漏えいなど導入側のリスク、AIガバナンス、企業の対応実践を扱います。
MicrosoftのAIエージェント開発用のPythonパッケージ「agent-framework」に、認証情報を盗むコードを仕込んだ1.26.1と1.26.2がPyPIで公開さ…
ハルシネーションは、生成AIが事実と異なる内容を、もっともらしく自信のある調子で出力することです。最新のモデルでもなくなってはいません。なぜ起きるのか、業務で問題になった例、セキ…
総務省と経済産業省の「AI事業者ガイドライン」は、2026年3月31日に第1.2版へ改定され、AIエージェントの定義と留意事項が加わりました。本編と別添を合わせると分量が多く、取…
クラウド型WAFを提供するビットフォレストが、日本企業のWebサイトに対するAIエージェントによる攻撃を観測し、その推移を公開しました。約8時間にわたり、高速スキャン、既知の脆弱…
AIの出力をゆがめる攻撃は、使うときの入力に不正な指示を混ぜるものだけではありません。学習に使うデータに細工を混ぜる、配布されるモデルに裏口を仕込む、社内で読ませる資料を汚す。作…
生成AIを社員に使わせる前に、私たちは「どのサービスに、どのデータを、何のために入れてよいか」を決めました。そのうち3つの決まりは、運用を始めてまもなく守られなくなりました。最初…
Google検索の広告から、本物のchatgpt.com上に作られた偽の「Plus 5.6」というカスタムGPTへ誘導し、偽の認証画面とコマンド実行で遠隔操作マルウェアを入れさせ…
今月だけで、AIエージェントが休眠サイトに1万8000件書き込み、テスト中に実在企業へ侵入する事故が報じられました。どちらも「答えるAI」では起きません。エージェントとは何か、な…
GoogleのAIモデルGeminiが、サイバー能力の評価テスト中に実在する企業3社のシステムへ不正アクセスしていたと報じられました。原因はテスト用の架空企業名が実在企業と一致し…
OpenAIの自律型AIエージェント群が、休眠状態のwikiサイトを掲示板代わりに使っていたことが研究団体の報告で明らかになりました。「読み取り専用」の制限はなぜ効かなかったのか…
「社内の文書に基づいて答えるAI」を作る標準的な手法がRAGです。便利さの一方で、アクセス権の消失や文書経由の攻撃など、導入前に知っておくべきセキュリティの落とし穴があります。仕…
従来型フィッシングのクリック率12%に対し、AI生成では54%——そんな調査データが紹介されました。半数が開くなら、「見抜ける社員を育てる」前提の対策は組み立て直しが必要です。
「ビデオ会議で顔を見て話したから本人だ」——その確認方法が崩れつつあります。海外では偽のビデオ会議で巨額送金に至った事例も。ディープフェイク詐欺の手口と、企業が今すぐ整えるべき確…
「怪しいメールは日本語がおかしいから分かる」——この防衛線は生成AIの登場で崩れました。文面の自然化、パーソナライズ、音声クローン。攻撃の何が変わり、守る側は何を変えるべきかを解…
会社が把握しないまま、社員が個人アカウントの生成AIに業務情報を入力している——シャドーAIはすでにどの会社でも起きています。禁止では止まらない理由と、リスクを実際に下げる運用の…
AIチャットや業務AIに「本来の指示を上書きする指示」を紛れ込ませるプロンプトインジェクション。なぜ根本対策が難しいのか、AIエージェント時代に何が起きうるのか、企業が現実的に打…