社内でAIを使うことにした。では、何を決めておけばよいのか。
禁止事項をずらりと並べたルールを見かけますが、たいてい機能しません。読まれないうえ、書いていない場面が必ず出てくるからです。
公開されている資料をもとに、実際に効く項目を整理します。
土台になる2つの資料
日本語で使えるものとして、文化庁が公開している「AIと著作権に関するチェックリスト＆ガイダンス」があります。開発する側と利用する側それぞれについて、確認すべき点が並んでいる資料です。
技術面では、OWASPがLLMアプリケーションの危険を10項目に整理しています。セキュリティの観点はこちらが詳しい。
この2つを合わせると、書くべき項目が見えてきます。
①入れてよい情報の線引き
最初に決めるのがここです。何を入力してよくて、何を入れてはいけないか。
禁止を列挙するより、許可するものを挙げるほうが機能します。「公開情報と、社内で共有可の資料は入れてよい」と書けば、それ以外は判断を仰ぐことになる。列挙漏れが起きません。
顧客の個人情報、取引先から預かった資料、未公開の財務情報。この3つは、多くの会社で線の向こう側に入るはずです。
②使ってよいサービスを決める
サービスごとに、入力したデータの扱いが違います。学習に使われるのか、どこに保存されるのか、いつ消えるのか。
個人の無料アカウントと法人契約では、規約が別物であることも多い。「ChatGPTは使ってよい」ではなく「会社が契約したアカウントで使う」と書き分ける必要があります。
③出力を確認する工程
AIの出力をそのまま外に出さない、という原則を明文化しておきます。
特に危ないのが、出典や数値です。もっともらしい嘘が混ざる構造がある以上、確認の工程を人の作業として組み込むしかありません。
誰が確認するのか、何を確認するのかまで書きます。「確認すること」だけでは実行されません。
④生成物を世に出す前の照合
画像や文章を公開する場合、既存の作品と似ていないかを見る工程が要ります。
日本法では、生成物が既存の著作物と類似し、それに依拠していれば侵害になり得ます。学習が適法だったことは、生成物の安全を保証しません。
特定の作家やキャラクターを狙って生成したものは、危険度が高い。ここは明確に禁止しておいたほうが早いでしょう。
⑤AIに渡す権限の範囲
エージェント的な使い方をする場合に必要な項目です。
読むだけの操作と、外に影響する操作を分ける。メールの送信、データの削除、支払い、公開。この種の操作には人の承認を挟むと決めておきます。
⑥記録を残す
何をどう使ったかの記録です。
問題が起きたときに追えるようにする意味もありますが、生成物に著作権を主張したい場合にも効きます。文化庁の整理では、指示の内容や加筆・修正の有無が判断の材料になるとされているためです。
⑦相談先を書く
意外と抜けるのがこれ。判断に迷ったとき、誰に聞けばよいのか。
窓口がないと、現場は自分で判断します。判断できない人は使うのをやめ、気にしない人はそのまま進める。どちらも望ましくない結果です。
最初の1枚に何を書くか
7項目すべてを最初から作り込む必要はありません。使い方が固まっていない段階で細かく決めても、実態と合わなくなります。
最初の1枚に入れるなら、①の入れてよい情報、②の使ってよいサービス、③の出力の確認、⑦の相談先。この4つで足ります。禁止と許可の境目と、迷ったときの逃げ道があれば動き出せます。
④以降は、実際にその使い方が始まってから足す。生成物を外に出すようになったら④を、エージェント的な使い方を始めたら⑤を、という順番です。
見直す時期を決めておく
この分野は動きが速いので、作ったルールはすぐ古くなります。
半年に一度は見直す、と最初に書き込んでおく。使えるサービスの一覧、料金の前提、禁止した理由。どれも変わります。
見直しの担当を決めておかないと、誰も手を付けないまま形骸化します。ルールそのものより、更新する人を決めるほうが大事かもしれません。
書き方で気をつけること
分量は短くします。長いルールは読まれません。1枚に収まる程度が現実的でしょう。
サービス名やモデル名を本文に書き込まないほうが無難です。入れ替わりが速いので、別紙にして差し替えられる形にしておく。
そして、なぜその決まりなのかを一言添える。理由が分かれば、書いていない場面でも自分で判断できます。禁止事項を並べただけのルールが機能しないのは、その一言がないからだと思います。
なお、この記事は公開資料をもとにした一般的な整理です。自社の事情に応じた判断が必要な場合は、弁護士に相談してください。
出典
著作権に関する確認事項は文化庁が公開している資料、セキュリティの観点はOWASPの一覧に基づきます。
