AI を安全に使う - AI を安全に使うための基本

ChatGPT・Gemini・Claude などの生成 AI は便利な反面、いくつかのリスクがあります。

「AI は賢いから何でも任せて大丈夫」と考えてしまうと、思わぬ事故につながります。

リスクの種類	どんなことが起こるか	身近な例
情報漏洩	入力した内容が AI 提供元のサーバーに送られ、学習データや運用ログに残る可能性がある	社内資料をそのまま貼り付けて要約を依頼した結果、機密情報が外部に保存される
ハルシネーション（もっともらしい嘘）	AI が事実と異なる情報を自信たっぷりに答える	存在しない法律の条文や、実在しない論文・書籍名を紹介される
著作権の問題	AI の出力が既存の文章・画像と酷似し、そのまま使うと権利侵害になる	生成した画像を広告に使ったら、元絵の作者から指摘を受ける
プロンプトインジェクション	Web ページやメールに仕込まれた指示に AI が従ってしまう	AI ブラウザアシスタントが、Web 上の隠し指示で個人情報を外部送信する
過度な依存	AI の答えを鵜呑みにして、自分で考えなくなる	医療・法律・税務の相談を AI だけで済ませて誤った判断をする

生成 AI を安全に使うためのシンプルな原則を 3 つにまとめました。

難しい技術知識がなくても、意識するだけで大半の事故を防げます。

原則	内容	具体的な行動
1. 入れない	人に見せられない情報を AI に入力しない	氏名・住所・電話番号・社外秘の資料・パスワード・カード番号は入力しない。匿名化してから質問する
2. 鵜呑みにしない	出力を必ず自分の目で確認する	数値・固有名詞・URL・法律の条文は一次情報（公式サイト・原典）で裏取りする
3. そのまま使わない	生成された文章や画像をコピペで公開しない	自分の言葉に書き直す、画像は類似検索（Google 画像検索など）で既存作品と被らないか確認する

この 3 原則は「自分が AI に話した内容は、万が一外に出ても困らないか？」「AI の答えをそのまま他人に伝えても責任を取れるか？」と自問すれば自然と守れます。

生成 AI の用途によって、気をつけるべき度合いは変わります。

低リスクの用途から慣れていき、高リスクな場面では必ず人間のチェックを入れるのが安全です。

用途	注意レベル	理由とアドバイス
アイデア出し・ブレスト	低	機密情報を入れなければ比較的安全。発想を広げる目的なら気軽に使える
文章の添削・要約	中	要約対象の文書に社外秘が含まれていないか確認する。個人名は匿名化する
翻訳	中	契約書・法的文書は誤訳で損害が出る可能性がある。重要な翻訳は人間のレビューを併用
コード生成	中〜高	生成されたコードに脆弱性やライセンス違反が混ざる可能性。必ず動作確認とレビューを行う
医療・法律・税務の相談	高	誤情報で実害が出る領域。必ず専門家に最終確認する。AI はあくまで下調べ用
顧客対応の自動返信	高	ハルシネーションで誤った情報を顧客に送る事故が発生済み。人間の承認ステップを挟む