「生成AI」の危険性とは？業務利用時の注意点

IPA「AI利用時のセキュリティ脅威・リスク調査報告」を読み解く

本記事では、AIサービスの業務利用を検討している方向けに、生成AIを企業で業務利用する際の注意点や現在の利用状況についてご紹介します。

生成AIとは？

生成AIとは、学習データをもとに新しいテキストや画像を生成できるAI（人工知能）です。「ジェネレーティブAI（Generative AI）」とも呼ばれます。OpenAI社が開発した「ChatGPT」の登場により、日本国内でも大きく注目されるようになりました。
例えば、特定のデータを使ってレポートを作成したり、新たなマーケティング施策を考えたり、新商品のロゴを作ったりという業務を人間の代わりに行うことが可能です。

生成AIを活用することで様々な業務を自動化して、業務効率を向上させることが期待できます。

AIを業務利用する際の注意点

生成AIは、誰でも気軽に使うことができるツールとして広く普及していますが、業務利用する際はデメリットやその特性について十分に理解しておく必要があります。

情報漏洩の危険性

まず、生成AIはユーザーが入力したテキスト（プロンプト）を学習してアウトプットを生成しており、学習した内容は生成AIのデータベースに保管されています。生成AIに個人情報や機密情報を入力することは、管理の行き届かない場所に重要な情報を放置している状態であるとも言えます。生成AIを提供している会社に情報が流出してしまう恐れがあるだけでなく、学習した内容を第三者への回答として利用する可能性もあり、入力する情報には注意が必要です。

情報の信憑性

生成AIではディープラーニングという技術が使われており、学習した情報をもとに、プロンプトに沿ったオリジナルのコンテンツを生成することが可能です。しかし、AIには学習した情報の真偽を判断する能力がないため、事実に基づかない誤った情報をアウトプットとして生成してしまうケースがあります。これをハルシネーションと呼びます。
また、無料で使える生成AIサービスについては最新の情報が反映されていないケースもあるため、AIを過信しすぎず、適切な活用範囲を設定して利用することが重要です。

著作権などの権利侵害

AIが生成したコンテンツは、著作権や商標権などの権利を侵害する恐れがあります。
文化庁が公表している「AIと著作権の関係等について」では、AI開発・学習段階と生成・利用段階では著作権法の適用条文が異なるため分けて考えることが重要だとされています。
AI開発で著作物を学習用データとして利用することは、原則として著作権社の許諾なく利用することが可能としていますが、生成された画像等について既存の画像等（著作物）との類似性や依拠性が認められる場合は著作権侵害の対象となると記載されています。

参考：内閣府「AIと著作権の関係等について」

企業におけるAIサービスの利用状況

情報処理推進機構（以下、IPA）よりAI利用時のセキュリティ脅威・リスク調査報告が発表されました。
今回の調査報告では、AIの業務利用におけるセキュリティ脅威やリスクが明らかとなっています。

AIサービスの利用状況

AIサービスのセキュリティ www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/appendix.pdfより引用

４割弱の企業が、AIサービスの利用予定なしと回答しています。利用していると利用予定ありを合わせても22.5%と、まだAIサービスの業務利用は浸透していないことが分かります。
利用用途としては、AIによる翻訳サービスや、AIによる文案作成・文章チェックといったものが多く挙げられています。

AIサービスのセキュリティ

AIのセキュリティに関する脅威の度合い www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdfより引用

AIサービスを利用している企業であっても、6割以上がセキュリティに関する脅威を感じており、セキュリティ対策の重要性を認めていますが、以下のように実際に規則が策定され会社単位での管理が進んでいる企業はどのカテゴリにおいても20％以下となっており、従業員個人の裁量に委ねられる状況となっています。

www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdfより引用

また、会社規模によっても対応状況に差があります。中小企業ではAIサービスの利用環境が整っておらず利用を許可できない（わからない）大きな要因となっています。

www.ipa.go.jp/security/reports/technicalwatch/eid2eo00000022sn-att/report.pdfより引用

まとめ：AI利用は運用ルールを定めて社員教育を徹底

昨今、気軽に利用できるようになってきたAIですが、いざ業務で利用するとなるとリスクを考えて利用を控えているのが多くみられます。
多くの生成AIは機械学習を基盤としているので入力された情報は学習データとして利用される場合があり、企業、社員、顧客、製品情報などを入力されてしまうと漏洩・侵害にあたるリスクが心配されます。

そのため、企業ではAIを利用する際のリスクを最小限におさえる運用ルールを定める必要があります。また企業全体におけるAI利用のための教育を実施し社員へ利用のための周知徹底をし安全に利用することが課題です。

It's only fair to share...