１ AIの普及、進化でサイバーリスクも加速
日進月歩の勢いで進化を続けるAI（人工知能）。AIには「未だ確立された定義は存在しない」とされますが、近年、一大潮流となっているのが「生成AI」。人が指示を与える（プロンプトを入力する）ことで、文章、画像、動画、プログラムなどを自動的に生成できるのが特徴です。
生成AIは、
- これまで人が行ってきた業務・作業の圧倒的な効率化を実現し、人手不足を解消する
- これまで人が思い付かなかったような新たなビジネスアイデアを創出する
上で大きな効果が期待されている一方、セキュリティ対策やガバナンスが追いつかず、思わぬトラブルに巻き込まれるケースも急増しています。
IPA（情報処理推進機構）の「情報セキュリティ10大脅威2026」では、「AIの利用をめぐるサイバーリスク」が第3位として初めてランクイン
しました。
今や、AIに関するリスク管理は、情報システム部門や担当者の裁量に任せるレベルを超える「重大な経営課題」へと変貌しています。2026年には、総務省・経済産業省が「AI事業者ガイドライン」を改定（第1.2版）したり、金融庁が「『フロンティアAIによる脅威変化を踏まえた金融機関等の短期的な対応』に係る要請」（以下「フロンティアAI対応要請」）をしたりするなど、政府機関による方針作成や規制の動きも加速しています。
この記事では、中小企業の経営者やマネジメント層、そして現場の従業員の方に向けて、AIがもたらす新たな脅威の実態と、安全に使いこなして取引先からの信頼を勝ち取るための具体的なセキュリティ対策を解説していきます。
２ AIの利用をめぐるサイバーリスク：直面する4つの脅威
AIの普及、進化は、私たちのビジネスを便利にする一方で、サイバー犯罪の手口も急速に巧妙化させています。ここでは、IPAの「情報セキュリティ10大脅威2026」や最新のインシデント事例から、私たちが今まさに直面する4つの脅威を整理します。
AIの利用をめぐる4つの脅威
IPA「情報セキュリティ10大脅威2026」でAIリスクが初の第3位にランクイン
THREAT 01
巧妙化するフィッシング詐欺
生成AIが自然な日本語のビジネスメールを大量生成。「ニセ社長詐欺」による送金被害が急増。
言語の壁が消え、見破れなくなった
THREAT 02
サイバー攻撃の自動化・高度化
AIが脆弱性探索や難読化コード生成を代行することで、未熟な攻撃者でも超一級の攻撃が可能に。
「AIアシスタント」が攻撃者側にも
THREAT 03
ハルシネーションと法的リスク
実在しない情報を「もっともらしく」出力。鵜呑みにして誤情報を提供すると、著作権侵害の恐れも。
ファクトチェックなき利用は危険
THREAT 04
間接プロンプトインジェクション
サイト・メールに仕込まれた不正プロンプトをAIが自律的に読込み、機密データを外部送信する恐れ。
「EchoLeak」のようなゼロクリック攻撃
（出所：IPA「情報セキュリティ10大脅威2026」ほか）
1）言語の壁を超越した巧妙な「フィッシングメール」「ビジネスメール詐欺」
これまでの海外発のフィッシングメールやビジネスメール詐欺は、「てにをは」の使い方が不自然だったり、日本語の表現がどこか変だったりしたため、読めば見破ることができました。しかし、攻撃者が生成AIや翻訳文章生成ツールを悪用し、日常的な取引の文脈や業界の慣例を学習した違和感のない日本語のビジネスメールが瞬時に、大量に作れるようになっています。
2026年には、経営者などをかたって業務命令を装い、LINEグループの作成を要求した上、指定した口座に送金をさせる「ニセ社長詐欺」の被害が急増しています。
2）サイバー攻撃の「自動化」と「技術水準の底上げ」
生成AIを「サイバー攻撃のアシスタント」として悪用する攻撃者が登場しています。攻撃者は、AIにセキュリティホールとなる脆弱性を探させたり、セキュリティソフトの検出を回避する「難読化コード」や情報窃取コマンドを動的に生成させたりしています。これにより、高度なハッキング知識を持たない未熟者であっても、容易に超一級のサイバー攻撃を仕掛けられるようになっています。
3）実在しない情報を信じ込む「ハルシネーション（幻覚）」と法的リスク
対話型の生成AIは、確率的に「もっともらしい文章」を生成する仕組みであるため、時に架空の事実、間違った解釈を、あたかも真実であるかのように堂々と出力することがあります。これを「ハルシネーション」と呼びます。
AIが生成した内容を人間の目で検証（ファクトチェック）せずに鵜呑みにして、提案書やウェブサイトのコンテンツ、あるいはプログラムコードに利用すると、顧客へ誤った情報を提供してしまい信用を失う恐れがあります。また、意図せず、他者の知的財産権（著作権など）を侵害してしまう法的リスクもあります。
4）進化するAI固有のゼロクリック脆弱性「間接プロンプトインジェクション」
「Microsoft 365 Copilot」などのビジネスツールに生成AIが深く組み込まれる中、AI固有の新しい脆弱性を突いた攻撃が登場しています。その代表例が「間接プロンプトインジェクション」です。
AIには通常、悪意ある命令を拒否するセーフガード（保護措置）が導入されています。しかし、何らかの方法で、攻撃者にウェブサイトやメールの文面の中に、人間の目には見えない（または気づかない）不正プロンプトを仕込まれると、社内のAIがそのサイトやメールを自律的に読み込んだ際、仕込まれた不正な指示を真に受けて、「社内の機密データを外部のサーバーに勝手に送信する」といった動作（例えば、「EchoLeak」と呼ばれる脆弱性の悪用など）を、利用者が気づかないうちに実行してしまうのです。
３ 「AI利用者」として押さえておくべき役割とポイント
総務省・経済産業省の「AI事業者ガイドライン（第1.2版）」では、AIに関わる主体を「AI開発者（Developer）」「AI提供者（Provider）」「AI利用者（Business User）」の3つに大別しています。
- AI開発者：AIモデルやアルゴリズムそのものを構築する事業者
- AI提供者：AIをアプリやサービスに組み込んで提供する事業者
- AI利用者：事業活動においてAIシステムやサービスを利用する事業者
ここでは、主に「AI利用者」として押さえておくべきポイントを、中小企業の経営者・マネジメント層と従業員それぞれの目線から紹介します。なお、一般の中小企業の大部分は「AI利用者」に該当しますが、自社で顧客向けにAIチャットボットを組み込んだウェブサイトを構築したり、システムを開発して提供したりする場合は「AI提供者」の責任も兼ねることになります（この記事では割愛）。
AIに関わる3つの主体
「AI事業者ガイドライン（第1.2版）」による分類 ─ 自社はどこに立っているか
大部分の中小企業はここ
D
Developer
AI開発者
AIモデルやアルゴリズムそのものを構築する事業者
大部分の中小企業はここ
P
Provider
AI提供者
AIをアプリやサービスに組み込んで提供する事業者
大部分の中小企業はここ
U
Business User
AI利用者
事業活動においてAIシステムやサービスを利用する事業者
例：ChatGPTやCopilotを業務で使う会社
※ 自社で顧客向けAIチャットボットを構築・提供する場合は「AI提供者」の責任も兼ねる
（出所：総務省・経済産業省「AI事業者ガイドライン（第1.2版）」）
1）経営者・マネジメント層目線：シャドーAI撲滅のためのリスクベースアプローチ
「うちはまだ業務にAIを導入していないから、リスクはない」と考えているとしたら、その考え方は危険です。会社が正式に利用を認めていない、あるいは安全な環境を用意していないにもかかわらず、現場の従業員が生産性を上げるために個人の判断で無料の公開型AIサービスを業務に使ってしまう「シャドーAI」が横行する恐れがあるためです。
無料の公開型AIサービスは、入力されたデータ（プロンプト）をAIの品質向上のために「再学習」する規約になっているケースが多々あります。ここに自社の機密情報、顧客の個人情報などをコピー＆ペーストして入力すると、AIがそれを学習し、世界のどこかで別のユーザーが質問した際の「回答」として情報が漏えいしてしまうリスクがあります。
「AI事業者ガイドライン（第1.2版）」が提唱する「リスクベースアプローチ」とは、利用するAIのリスクの大きさ（被害の大きさとその発生確率）を正しく把握し、それに見合った対策を講じる考え方です。経営者・マネジメント層に求められるのは、単に「AI利用は禁止」とすることではなく、データのオプトアウト（学習対象除外設定）が保証された法人向けの安全なAI環境（例えば、ChatGPT Team/Enterpriseや、Microsoft Copilotの商用データ保護環境など）を会社として公式に契約・提供し、シャドーAIを撲滅することです。
2）従業員目線：自動化バイアスの克服と入力（プロンプト）の厳格管理
現場の従業員が最も注意すべきは、AIを万能の道具だと錯覚してしまう「自動化バイアス（Automation Bias）」です。自動化バイアスとは、システムやAIが出した回答を過度に信頼し、人間が考えることを放棄して従ってしまう心理現象を指します。
AIがどれだけ自信満々に、美しい日本語で回答を出力したとしても、そこにはハルシネーション（幻覚）や、セキュリティ上の脆弱性が含まれている恐れがあります。従業員は次の「3つの原則」を守ることを徹底しなければなりません。
- 重要情報の入力禁止：自社の機密情報、顧客の個人情報などは絶対に入力しない
- ファクトチェックの義務化：AIの出力した数字、事実、ソース（根拠）は、必ず人間が別ルートで裏付けを取る
- 責任の引き受け：AIは「アシスタント」であり、業務の最終決定と責任は人間の従業員自身にあることを自覚する
４ フロンティアAIの登場によるサプライチェーン全体への影響
今後、中小企業が避けては通れない課題が、「フロンティアAI」への対応と、それに伴うサプライチェーン全体の規制強化の波です。
フロンティアAIとは、米アンソロピック（Anthropic）社の「Claude Mythos（クロード・ミュトス）」などに代表される、現在の技術基準をはるかに超える極めて大規模で高性能な最先端のAIモデルを指します。「Claude Mythos」は、システムやソフトウェアの「未知の脆弱性」を自動で、短期間に、大量に発見する圧倒的な能力を持っています。一方で、攻撃者側に悪用された場合、脆弱性を突いた攻撃を開始するまでのタイムラグが極端に短縮されるという脅威が生じています。
冒頭で触れた、金融庁が発出した「フロンティアAI対応要請」は、これまで安全だとされていたシステムに、突然大量の脆弱性が発覚し、修正プログラム（パッチ）の適用が追いつかなくなる事態を想定し、金融機関に対して、自社だけではなく、システムの開発・保守を委託している外部のITベンダーやサプライチェーンの事業者も含めて、「大量の脆弱性への対応リソースがあるか」「パッチ適用が間に合わずにシステム停止に追い込まれるリスクはないか」を至急点検し、契約（SLA/SLO）を確認せよと命じているものです。
こうした動きは金融業界にとどまらず、2026年度末に予定されている経済産業省の「SCS評価制度（サプライチェーン強化に向けたセキュリティ対策評価制度）」の運用開始により、一般の製造業、流通業、サービス業の中小企業にも影響を及ぼすと考えられます。
現代のサイバー攻撃のトレンドは、セキュリティが強固な大企業を直接狙うのではなく、その取引先である中小企業や業務委託先を「踏み台」にして、ネットワークを経由して段階的に大企業へ侵入する「サプライチェーン攻撃」です（IPA「情報セキュリティ10大脅威2026」で第2位）。
サプライチェーン攻撃の構造
IPA「情報セキュリティ10大脅威2026」で第2位 ─ 狙われるのは”踏み台”の中小企業
狙われるポイント
中小企業
（取引先・委託先）
セキュリティが手薄な”踏み台”に
大企業
（最終ターゲット）
強固なセキュリティを直接突破できない
大企業は「SCS評価制度」で取引先のセキュリティ体制を点検する時代へ
フロンティアAIによる脆弱性増加への対応力を、チェックシート等で照会される。「対応していません」と答えれば、その瞬間に取引を失うリスクがある
（出所：IPA「情報セキュリティ10大脅威2026」、経済産業省「SCS評価制度」）
大企業は、SCS評価制度を活用して取引先中小企業のセキュリティ体制を点検し、自社の安全を確保しようとするはずです。近い将来、中小企業は、大手の取引先から「フロンティアAIによる大量の脆弱性発覚に耐えられる体制があるか？」「委託先ベンダーとの保守体制は万全か？」という照会（チェックシートの提出要請など）を受けることになります。ここで「対応していません」「ITはベンダー任せで分かりません」と回答すれば、その瞬間に「リスクあり」と判断されてしまい、取引を失ってしまう恐れがあるのです。
５ 自社の現状を評価するチェックリスト
1）経営者・マネジメント層向け
| チェック項目 |
済 |
| AI利用規程（ガイドライン）を策定し、全社に周知・徹底しているか |
□ |
| シャドーAI（無断での個人アカウント利用）を（技術的に）禁止・監視しているか |
□ |
| 入力データが学習されない「安全な法人向けAI環境」を会社として提供しているか |
□ |
| 外部のITシステムベンダーとの「保守契約（SLA/SLO）」を再確認しているか |
□ |
| 自社が保有・利用・提供しているIT資産やソフトウェア構成を把握しているか |
□ |
| 金銭支払いや契約変更等の重要業務において、複数人が関与する承認フローを構築しているか |
□ |
| サイバー攻撃によるシステム停止を想定したBCP（事業継続計画）を策定しているか |
□ |
2）従業員向け
| チェック項目 |
済 |
| 会社の秘密情報、顧客の個人情報、インサイダー情報をAIに絶対に入力していないか |
□ |
| AIの出力結果をそのまま鵜呑みにせず、必ず自分の目で検証（ファクトチェック）しているか |
□ |
| AIが生成したプログラムコードやシステム設定データを、検証せずに実業務に投入していないか |
□ |
| AIを悪用した巧妙な「なりすましメール」や「フィッシング詐欺」を疑う目を持っているか |
□ |
| 万が一のトラブル（誤入力による情報漏えい等）が発生した際、すぐに報告できる窓口と手順を理解しているか |
□ |
以上（2026年7月作成）
pj60388
画像：日本情報マート
