AIに破られやすくなったセキュリティ対策ランキング——もう安全ではない7つの常識と対策

「画像認証を入れているから大丈夫」「秘密の質問で本人確認しているから安心」。こうした“安全の常識”の一部が、生成AIの普及によって急速に通用しなくなっています。これまで人間にしかできなかった作業——自然な文章を書く、声を真似る、画像を見分ける、断片から答えを推測する——を、AIが安く・速く・大量にこなせるようになったからです。

この記事は、攻撃のやり方を説明するものではありません。あくまで守る側として、「どの対策が弱くなったのか」「なぜ弱くなったのか」「代わりに何をすればよいのか」を整理します。情シス担当者だけでなく、経営者や現場のリーダーが、自社の足元を点検するためのチェックリストとして読んでいただける内容にしました。生成AIの社内利用そのもののルール整備については、中小企業のための生成AI安全運用ガイドもあわせてご覧ください。

なぜ「安全の常識」が崩れたのか

従来のセキュリティ対策の多くは、「これは人間にしかできない」「機械には難しい」という前提の上に成り立っていました。歪んだ文字は人間にしか読めない、自然な日本語は人間にしか書けない、声や顔はその人固有のもの——こうした前提が、生成AIによって次々と崩れています。

下の図は、生成AIが「人間にしかできなかったこと」をどう肩代わりし、それがどの対策を弱らせるのかを整理したものです。能力そのものは便利な技術ですが、悪用されると従来の防御をすり抜けてしまいます。

ここで強調しておきたいのは、これらが「いつか起こるかもしれない遠い話」ではない、という点です。海外では、偽のオンライン会議に映った“同僚”や“上司”がすべてディープフェイクで、担当者が指示どおりに巨額を送金してしまった事件が実際に発生しています。日本国内でも、自然な日本語のフィッシングや、実在する企業をかたるなりすましは年々巧妙になっています。特別な標的だけが狙われるわけではなく、対策が古いまま放置されている組織ほど、規模を問わず狙われやすくなります。

AIに破られやすくなった対策 ランキング

ここからは、生成AIの普及で特に弱くなった対策を、影響の大きさと身近さの観点でランキング形式にまとめます。順位は厳密な数値ではなく、「いま見直しの優先度が高い順」と捉えてください。全体像は次の図のとおりです。

第1位｜画像・文字CAPTCHA

「私はロボットではありません」のチェックや、歪んだ文字の入力、信号機の写真選択。これらは長らく、人間と自動プログラムを見分ける定番でした。しかし画像認識AIの精度向上で、こうした課題は人間と同等かそれ以上の正確さで処理されてしまうようになりました。従来の前提は「歪み文字や画像は機械には読めない」でしたが、その前提はすでに成り立ちません。代わりにすべきことは、見分けを一つの仕掛けだけに頼らず、操作の流れ全体を見る挙動分析型の仕組みへ移行し、重要な操作には後述の多要素認証を併用することです。

第2位｜秘密の質問（母の旧姓・出身校など）

「母親の旧姓は」「初めて飼ったペットの名前は」といった秘密の質問は、本人しか知らない情報という建前で使われてきました。ところが、こうした答えはSNSや過去の投稿、公開情報に断片的に残っていることが多く、AIがそれらを集めて推測する精度は高まっています。答えの候補が限られている（旧姓や出身地など）ことも、突破されやすさに拍車をかけます。代わりにすべきことは、知識ベースの本人確認そのものを段階的に廃止し、端末を使った認証へ切り替えることです。

第3位｜「不自然な日本語」でフィッシングを見抜く習慣

「怪しいメールは日本語が不自然だから見分けられる」。長く語られてきたこの見分け方は、もはや危険です。生成AIは、文脈に合った自然な日本語のメールを大量に作れます。誤字脱字や機械翻訳特有のぎこちなさを手がかりにする時代は終わりました。代わりにすべきことは、人の目の感覚に頼るのをやめ、送信元を技術的に検証する仕組み（メールのなりすまし対策の設定）を整え、リンク先やドメインを確認する習慣に切り替えることです。社員教育も、「日本語の不自然さで見分ける」という古い基準を更新する必要があります。AIエージェントを業務に組み込む際の安全設計は、AIコーディングエージェントのセキュリティとガバナンスも参考になります。

第4位｜電話の声による本人確認

「社長本人の声だから」「家族の声だから」と信用してしまう。この“声による本人確認”も、ボイスクローン（声の複製）によって揺らいでいます。ほんの数秒から数十秒の音声サンプルがあれば、本人そっくりの声を合成できる技術が一般化しました。海外では、ディープフェイクを使った偽のオンライン会議で巨額の送金をさせられた事例も報じられています。代わりにすべきことは、金銭や機微な情報が絡む依頼は、声だけで判断しないことです。あらかじめ決めた折り返し連絡（コールバック）や合言葉、別経路での確認をルール化し、「急いでいる」という圧力に流されない手順を組織で共有します。

第5位｜単純・使い回しのパスワード

短いパスワードや、複数サービスでの使い回しは以前から危険とされてきましたが、AIの普及でそのリスクはさらに高まりました。過去に漏洩したパスワードの膨大なリストと、AIによるパターン推測を組み合わせると、ありがちなパスワードほど早く突破されます。代わりにすべきことは、サービスごとに異なる長いパスワードをパスワードマネージャーで管理すること、そして可能な箇所からパスワードに頼らない認証へ移行することです。

第6位｜顔写真だけの簡易な本人確認

顔写真をアップロードするだけ、カメラに顔を映すだけ、といった簡易な本人確認は、生成画像やディープフェイクによってなりすまされる余地があります。特に、静止画や事前録画の映像でも通ってしまう仕組みは危険です。代わりにすべきことは、その場の本人であることを確かめる「生体反応の確認（liveness検知）」を備えた本人確認や、公的個人認証など、なりすましに強い方式を選ぶことです。

第7位｜「人間らしい操作」でのbot検知

マウスの動きや入力の間合いなど、「人間らしい振る舞い」で自動プログラムを見分ける手法も、万能ではなくなりつつあります。AIは人間そっくりの操作パターンを模倣できるため、振る舞いだけで弾く設計は徐々にすり抜けられます。代わりにすべきことは、振る舞い検知を単独の防御にせず、複数の対策を重ねる多層防御に組み込むこと、異常検知の精度を継続的に高めること、重要操作には認証強化を組み合わせることです。

共通する対策——「知っている」から「持っている・本人である」へ

ここまでの7項目に共通するのは、「知っていること（パスワードや秘密の質問）」や「人間の感覚（声や見た目、文章の自然さ）」に頼る対策ほど、AIに弱いという点です。これからの守りは、本人だけが「持っているもの」や、その場の「本人であること」を確かめる方向へ移していく必要があります。

具体的な打ち手としては、重要なログインや操作に多要素認証やパスキーを導入する、知識ベースの本人確認を減らす、本人確認には生体反応の確認を入れる、金銭や機微情報の依頼には別経路での確認フローを義務づける、そして社内教育を最新の手口に合わせて更新する、といったことが挙げられます。一つひとつは難しい話ではなく、「人間の感覚や記憶に頼らない守りに置き換える」という方針で整理できます。

とはいえ、すべてを一度に変えるのは現実的ではありません。優先順位の付け方はシンプルで、「破られたときの被害が大きい操作」から手をつけることです。たとえば、送金や決済、顧客情報へのアクセス、管理者権限でのログインといった操作は、最優先で多要素認証や確認フローを固めるべき場所です。逆に、影響の小さい操作まで一律に厳しくすると、現場の負担が増えて形骸化しかねません。被害の大きさと利用頻度の両面から、守りの強さにメリハリをつけるのが長続きのコツです。

もう一つ忘れてはいけないのが、対策は「入れて終わり」ではないという点です。AIの能力は短い期間で更新され、新しい手口も次々に現れます。半年前には有効だった見分け方が、いまは通用しないこともあります。年に一度は本人確認やなりすまし対策の前提を点検し、社員向けの注意喚起も最新の事例に差し替えていく。この“守りの更新”を習慣にできるかどうかが、生成AI時代に差を生みます。

AIは「敵」だけではない——守りにもAIを使う

ここまで攻撃側の話が続きましたが、AIは守る側にとっても強力な味方です。大量のログから異常な兆候を見つける、なりすましの疑いがある通信を検知する、フィッシングの可能性が高いメールを自動で警告する——こうした守りの自動化にも、同じAIの力が使えます。攻撃側だけがAIを使い、守る側が手作業のままでは、差は開く一方です。

一方で、「AIを社内で使いたいが、機密情報を外部のサービスに渡すのが不安」という声も多く聞きます。その場合の選択肢が、社内の環境で完結させるオンプレミス型のAI活用です。データを外に出さずにAIの恩恵を受ける考え方は、オンプレミスで生成AIを導入するガイドで詳しく扱っています。守りを固めながらAIを使うという両立が、これからの現実的な落としどころになります。

まとめ｜“人間にしかできない”という前提を点検する

生成AIの普及で崩れたのは、「これは人間にしかできない」という暗黙の前提です。歪み文字、自然な日本語、声、顔、断片からの推測——かつて機械には難しかった作業が、いまや安価に再現できます。だからこそ、自社の本人確認やなりすまし対策が、この古い前提に寄りかかっていないかを一度点検する価値があります。

守りの方向ははっきりしています。「知っている」「聞こえる」「見える」に頼る対策から、「持っている」「本人である」「確かめる」守りへ。そして、攻撃側だけでなく守る側もAIを活用する。この2つを押さえておけば、生成AI時代のセキュリティの土台は大きく崩れません。完璧を目指して立ち止まるよりも、まずは被害の大きい身近な一つの対策から、今日できる見直しを始めてみてください。