フロンティアAI×セキュリティニュース解説
本物のchatgpt.comの中に罠があった｜カスタムGPTを悪用したマルウェア配布、AIは検索広告ではなくブックマークから開く
Google検索の広告から、本物のchatgpt.com上に作られた偽の「Plus 5.6」というカスタムGPTへ誘導し、偽の認証画面とコマンド実行で遠隔操作マルウェアを入れさせ…
フロンティアAI×セキュリティ基礎解説
AIエージェントとは｜「答えるAI」と「動くAI」の違いと、権限を渡す前に決める5つのこと
今月だけで、AIエージェントが休眠サイトに1万8000件書き込み、テスト中に実在企業へ侵入する事故が報じられました。どちらも「答えるAI」では起きません。エージェントとは何か、な…
フロンティアAI×セキュリティニュース解説
テスト中のGeminiが実在企業3社に侵入していた｜AIエージェントの対象範囲は「名前」ではなく「境界」で固定する
GoogleのAIモデルGeminiが、サイバー能力の評価テスト中に実在する企業3社のシステムへ不正アクセスしていたと報じられました。原因はテスト用の架空企業名が実在企業と一致し…
フロンティアAI×セキュリティニュース解説
「読み取り専用」のAIエージェントが1万8000件書き込んでいた｜自律AIを業務に入れる前に確かめること
OpenAIの自律型AIエージェント群が、休眠状態のwikiサイトを掲示板代わりに使っていたことが研究団体の報告で明らかになりました。「読み取り専用」の制限はなぜ効かなかったのか…
フロンティアAI×セキュリティ基礎解説
RAGとは｜社内データをAIに読ませる仕組みと、情報漏えいの落とし穴
「社内の文書に基づいて答えるAI」を作る標準的な手法がRAGです。便利さの一方で、アクセス権の消失や文書経由の攻撃など、導入前に知っておくべきセキュリティの落とし穴があります。仕…
フロンティアAI×セキュリティニュース解説
AI生成フィッシングのクリック率は54%｜「開かない訓練」から「報告する訓練」へ
従来型フィッシングのクリック率12%に対し、AI生成では54%——そんな調査データが紹介されました。半数が開くなら、「見抜ける社員を育てる」前提の対策は組み立て直しが必要です。
フロンティアAI×セキュリティ基礎解説
ディープフェイク詐欺の手口｜ビデオ会議で経営者になりすまされる
「ビデオ会議で顔を見て話したから本人だ」——その確認方法が崩れつつあります。海外では偽のビデオ会議で巨額送金に至った事例も。ディープフェイク詐欺の手口と、企業が今すぐ整えるべき確…
フロンティアAI×セキュリティ基礎解説
AIを使ったフィッシングはどう変わったか｜「日本語が不自然」が通用しなくなる
「怪しいメールは日本語がおかしいから分かる」——この防衛線は生成AIの登場で崩れました。文面の自然化、パーソナライズ、音声クローン。攻撃の何が変わり、守る側は何を変えるべきかを解…
フロンティアAI×セキュリティ基礎解説
シャドーAIとは｜社員が業務データを生成AIに貼っている状態をどう捉えるか
会社が把握しないまま、社員が個人アカウントの生成AIに業務情報を入力している——シャドーAIはすでにどの会社でも起きています。禁止では止まらない理由と、リスクを実際に下げる運用の…
フロンティアAI×セキュリティ基礎解説
プロンプトインジェクションとは｜LLMアプリが乗っ取られる仕組み
AIチャットや業務AIに「本来の指示を上書きする指示」を紛れ込ませるプロンプトインジェクション。なぜ根本対策が難しいのか、AIエージェント時代に何が起きうるのか、企業が現実的に打…
