近年、企業におけるAIの導入・利用は規模を問わず拡大しています。一方で、AIの利用にはリスクが伴います。充分なリスク認識や対策がなされないまま導入・利用が進むと、企業活動に重大な影響を及ぼす可能性もあります。実際、マイナビ総合研究所の調査によれば、リスク対策の実施状況には企業規模による格差があり、特に中小企業での対策が遅れている実態があります。
本記事では、国が定めるガイドラインを軸に、AIリスクの全体像とトラブル事例を確認するとともに、リスク対策のポイントを整理します。また個人利用のケースやガイドラインの更新動向についても触れます。本記事がAIを安全に導入・利用するための、またはリスク対策の知識を深めるきっかけとなれば幸いです。

• 

• 青木 湧作 マイナビ総合研究所　研究員

  2013年京都大学卒業。自動車メーカーに入社し、中南米事業の推進業務に従事。2014年マイナビに入社。
  高校訪問を通じ進路サポート活動に従事。その後、大学・短大・専門学校等の学校向け募集管理システムを扱う部署や事業戦略・事業推進、コンテンツ編集の部署を経て、2022年より進学に関する調査業務に従事。2026年より現職。

1.拡大するAI導入と、企業規模で広がる「リスク対策格差」

　株式会社情報通信総合研究所が2025年に公表した調査結果によれば、2024年から2025年にかけて、中小企業であっても生成AIの導入・利用率は増加傾向にありました。たとえば従業員数100人以上〜300人未満の企業では、2024年の導入・利用率が13.3%だったのに対し、2025年には20.0%へと上昇しています。同調査において従業員数1,000人以上の企業の2025年の導入・利用率は40.9%であり、規模による差があることは確かですが、企業規模を問わず今後も生成AI導入は拡大していくとみられます。

　一方、先般マイナビ総合研究所が行った「生成AIの導入と利用におけるギャップに関する調査」によれば、生成AIのリスク対策の実施状況には企業規模によって対照的な結果が得られました。具体的には、従業員数が100人未満の企業に属している場合、生成AIのリスク対策を「特に対策はしていない」と回答した割合は3〜4割でした。一方、従業員数が1,000人を超える企業では、同回答は1割程度かそれ未満という結果でした。また「AIガイドラインの策定」を実施していると回答した割合は、従業員数100人未満の場合は4割程度かそれ以下に留まるのに対し、1,000人を超える企業ではおよそ半数以上となっています。

2.AI事業者ガイドラインに見るリスクの全体像とトラブル事例

　2024年6月、総務省及び経済産業省はAIガバナンスの統一的な指針を示しました。それが「AI事業者ガイドライン」です。本編は40ページあり、AIの便益を最大化するための基本理念や指針が示されています。別添資料には170ページ以上が割かれており、基本理念や指針に対する取り組みの実践が詳細に記述されています。

　この別添資料内では、AIによるリスク例が体系的に分類されています。リスクは、技術的リスク（主にAIシステム特有のもの）と社会的リスク（既存のリスクがAIにおいても発生、またはAIによって増幅するもの）に大別されます。技術的リスクは「学習及び入力段階」「出力段階」「事後対応段階」の3つに分類され、社会的リスクは「倫理・法」「経済活動」「情報空間」「環境」に関する4つに分類されています。この分類からも、AIリスクが非常に多岐にわたる分野・領域に及ぶことがわかります。利用のあらゆる段階や社会的側面にリスクが潜むことを認識しておくことが重要です。

　では、実際に起きたトラブルにはどのようなものがあるでしょうか。国立研究開発法人情報通信研究機構（NICT）が公表している『生成AIの国内外動向に関する調査報告』によれば、トラブルは企業活動と国民生活とを問わず発生しています。

　企業活動における事例として、海外企業では、エンジニアが社内機密のソースコードをChatGPTにアップロードし誤って流出させた例があります。国内企業では、地方の魅力を発信するWebサイト制作にAIを利用した際、実際には存在しない施設等が記事内に含まれたまま公開され、外部から指摘を受けた例が挙げられています。いずれも企業の信用失墜につながりうる事案です。

　国民生活における事例としては、日本の中学校において理科で出された課題に多くの生徒が不正解となり、原因を調べたところ、AIの誤った回答を書き写したためだったという教育現場での例があります。その他、米大統領選挙において虚偽の主張の一部がAI等のデジタル技術で生成されていたという報告や、中国ではディープフェイク映像によって約8,500万円の詐欺被害があったなど、領域を問わず事案が発生しています。

同調査報告資料でも述べられているように、AIの性能や機能だけでなく、利用する人間側がトラブルの要因となっている点にも注目する必要があります。このようにAI利用のトラブルは分野や規模を問わず起こりうるものであり、対策を怠ると重大な事故につながりかねないのではないでしょうか。

3.ガイドラインに学ぶリスク対策――導入者・推進者と利用者、それぞれの役割

　こうしたリスクを踏まえ、企業はAI導入・利用にあたり、実際にどのようなリスク対策を行うとよいでしょうか。前述の「AI事業者ガイドライン」別添には参考となる対策例が多数記載されています。ガイドラインでは「開発者」「提供者（＝導入者・推進者）」「利用者」に分けて対策例が記載されており、参考にしやすい構成です。ここではその対策例を抜粋して紹介します。

【AI利用時に導入者・推進者が行うべきリスク対策】

　AIを社内に導入し、利用を推進する立場にある担当者や部門は、ガイドラインでいう「提供者」に相当します。こうした立場の方々には、AIシステム・サービスの導入後も対応が求められます。

　導入後の対応として、まず重要なのが脆弱性への対応です。AIシステム・サービスに対する攻撃手法は多数生まれており、常に最新動向を確認し、セキュリティの確保に努めることが必要です。たとえば、AI関連の攻撃には、学習のために使われるデータに虚偽の内容を混ぜ込む「データポイズニング攻撃」や、学習モデルに悪意ある細工をする「モデルポイズニング攻撃」があります。このような攻撃に対しては、検知技術の活用や汚染箇所の除去などの対応が求められます。 また、過去のトラブル事例を利用者に共有したり、脆弱性リスクの存在を事前に周知したりすることも、導入者・推進者の重要な役割です。

【AI利用時に利用者が行うべきリスク対策】

　実際にAIを業務で使う利用者の立場では、行うべき対策として、特に重要なものが２点あります。
１つ目は、入力データやプロンプトに含まれるデータの偏りへの配慮です。国籍・性別・宗教などの偏りが含まれると、出力結果にも偏りが生じる可能性があります。
２つ目は、AIの出力結果を用いる際に、人間自身の判断を必ず介在させることです。AIはあくまで補助ツールです。出力結果を利用するかどうか、またどう利用するかについては、人間の判断が必要です。
この他にも、ガイドラインには、プライバシー侵害への対策や、AI出力結果の正確性・透明性についてステークホルダーへ説明できるよう備えることなど、多岐にわたる実践例が明記されています。

【中小企業・分野別ガイドラインの活用】

　総務省及び経済産業省のガイドラインは広く一般の開発者、導入者や利用者を想定して記述されていますが、中小企業向けに特化したガイドラインもあります。東京商工会議所は中小企業や小規模事業者の生産性向上等を目的として、生成AI活用の基本的事項をまとめたガイドを公開しています。また各府省庁は医療・行政・コンテンツ産業等といった個別分野ごとのAIガイドラインも作成しています。自らの会社規模や業種・業態に応じたガイドラインを参照し、社内ガイドラインの策定や見直しに役立てることをお勧めします。

4.個人利用にも目配りを――総務省「生成AIはじめの一歩」のポイント

　これまでは企業・組織としてのAI利用を想定して述べてきましたが、読者が個人の生活の中でAIを利用するケースも多いでしょう。そこで個人利用の際のリスク対策についても触れておきたいと思います。

　総務省は個人利用を想定し、国民向けに「生成AIはじめの一歩〜生成AIの入門的な使い方と注意点〜」を公開しています。生成AIとは何か、どのように使うか、注意すべきポイント等を簡潔にわかりやすくまとめたものです。

このガイドラインには、「情報の正確性」を担保するためのポイントとして、以下の3点が示されています。

特に③は事業者向けと比べると、より一層個人利用を想定した注意点といえそうです。

　このほかにも、情報流出（例：個人情報の入力は最小限に）、知的財産権の侵害（例：「××に似ているロゴを考えて」という指示は避ける）、利用者としてのモラル（例：偏見のある回答をそのまま使用しない）といった点についても触れられています。個人利用を想定したガイドラインではありますが、企業・組織人としてAIを利用する際にも当てはまる点が多くあります。AI利用に不安がある方は、ぜひ参考にしていただければと思います。

5.ガイドラインは更新される――最新情報を追い続ける姿勢が鍵

　AIの導入・利用にあたっては、リスク内容を把握し、適切な社内ガイドラインの策定やリスク対策運用を行うことが大切です。同時に、AIに関する最新の知識や政府ガイドラインの整備状況を常に把握するよう意識しておく必要があります。AI技術はものすごい早さで発展しているため、留意すべき点もリスク内容も常に変わりうるからです。

　日本国内ではAI利用・開発を法整備によって厳密に規制する動きは取られていません。令和7年9月1日に人工知能関連技術の研究開発及び活用の推進に関する法律（AI法）が全面施行されましたが、事業者に求める責務は、国等の施策への協力にとどまっています。このように現時点では厳密な法規制ではなく、政府がガイドラインを策定し、統一的な見解を提示したうえで、個々の主体に運用を任せる方式（ソフトロー）が取られています（反対に、法整備によって厳密に規制しようとする運用をハードローといいます）。ガイドラインは一定期間を経て更新されたり、個別分野ごとに新たに作成されたりするため、これらを把握するとともに、適切なAI利用を心掛けたいところです。

おわりに

　「AI事業者ガイドライン」では次のように述べられています。「リスクを恐れるあまり、『リスクがゼロになるまでAIを活用しないこと』又は『完全なセーフガードを引く』ということを通じて各主体が動くことができなくなることも一種のリスクである。」（AI事業者ガイドライン別添、22項）

　マイナビ総合研究所が行った調査における、従業員を対象にした分析 では、生成AIを「業務の補助ツール」と捉える認識（補佐指標）が高いほど、利用頻度も高まる傾向が確認されています。また、活用に前向きな環境（利用促進）だけでなく、慎重な利用を促す環境（利用抑制）も、この認識の向上に寄与することが分かっています。本稿で述べてきたリスク対策も、こうした環境づくりの１つであり、結果として生成AIの活用促進につながる可能性があります。
以上を踏まえ、自社の社内ガイドラインの策定状況に応じて、以下の行動をお勧めします。

　ガイドラインをまだ策定していない場合は、本記事で紹介した官公庁のガイドラインを参照し、自社の規模・業種に合った内容を取り入れながら社内ガイドラインの策定に着手してみてください。すでに策定済みの場合は、官公庁のガイドラインと自社のガイドラインを見比べ、対応できていない対策があれば、社内ガイドラインに加えるかたちで随時見直していただければと思います。

　同ガイドライン本編に記載がある通り、AI利用の基本理念は人間の尊厳の尊重、多様な幸せの追求、持続可能な社会の実現です。これらが前提にあることを踏まえ、過剰にAIリスクを恐れることも、過信して利用することもなく、適切な対策のもとでAI活用を競争力や事業成長につなげていくことが肝要です。

参考文献・出典

株式会社情報通信総合研究所（2025）「企業における生成AI導入の現状と展望」
経済産業省, 総務省（2025）「AI事業者ガイドライン（第1.1版）本編」
経済産業省, 総務省（2025）「AI事業者ガイドライン（第1.1版）別添」
国立研究開発法人情報通信研究機構（2025）「生成AIに関する国内外動向等の調査報告書」
総務省「生成AIはじめの一歩〜生成AIの入門的な使い方と注意点〜」
東京商工会議所（2023）「中小企業のための「生成AI」活用入門ガイド」

●HUMAN CAPITALサポネットについて

採用・育成・組織戦略ご担当者さまの課題に寄り添う、 マイナビの情報メディア「HUMAN CAPITAL サポネット」。
採用戦略や手法の好事例、学生や求職者とのコミュニケーション設計、採用・選考における基本ルールやノウハウ、人材定着と組織の生産性向上を視野に入れた研修・育成、現場での事例紹介まで、さまざまな課題やお悩みに寄り添うコラム、セミナー、市場調査データなどをお届けしてまいります。
また、会員登録していただくと採用・育成に役立つ資料や、調査データのダウンロードが可能となりますので、ぜひご登録ください。