東京都「文章生成AIガイドライン」からみるChatGPTを組織で安全に使う方法│㈱クラフター

ChatGPTを仕事で使いたいけどセキュリティ面や機密情報の取り扱いが不安…とお思いの方、いらっしゃるのではないでしょうか。本記事では、そのような懸念点にお答えするため、東京都が作成した「文章生成AI利活用ガイドライン」をご紹介。行政のガイドラインなら信頼性もあり、自社組織でも参考にしやすく、安心してChatGPTの活用ができるのではないでしょうか。

この記事ではChatGPTの概要や特徴、セキュリティ対策の重要性といった基本的なことから、東京都が作成した文章生成AI利活用ガイドラインの内容やルールについて詳しく解説します。ぜひご参考ください。

‍

■1.ChatGPTとは

　ChatGPTの概要

ChatGPTは、OpenAIが開発した生成AIの一種。自然言語処理タスクにおいて非常に優れた性能を発揮します。大量のテキストデータを学習しており、人間のような文章を生成することが可能です。質問応答、文章生成、要約、翻訳、アイデア出しなどさまざまな業務に活用することができます。

　ChatGPTのメリット　

　ChatGPTを活用するメリットとして、以下2つが挙げられます。

業務効率化
- ChatGPTを活用することで、業務効率化が実現可能です。これまで人手で行われていた単純作業をChatGPTに任せることで、業務効率化や生産性向上、コスト削減まで期待できます。日本でもChatGPTを導入する企業が増えており、将来的には「ChatGPTを使いこなす能力」が必須となるかもしれません。
多角的な視点からの情報提供
- ChatGPTは、多角的な視点から情報提供ができます。これは、ChatGPTが大規模なデータセットを使用し訓練されているため、幅広い知識と情報を保有しているためです。そのため、自分ひとりでは気づかなかった新たな発見を得ることができるでしょう。具体的には、企画アイデアの壁打ちやブレスト、海外の情報リサーチなどに有効活用できます。

‍

■2.ChatGPTのセキュリティ対策

ChatGPTのセキュリティリスク
1. 個人情報や機密情報の漏洩
  - ChatGPTは常に学習しているため、入力した内容に個人情報や機密情報が含まれると、その情報も記録されてしまいます。他のユーザーがChatGPTで回答を生成した際、入力されてしまった個人情報や機密情報が使用されるリスクがあります。
    自社で保有する顧客情報や未公開・未発表の施策についてはChatGPTへ入力しないということを意識しましょう。
2. 著作権違反・誤情報利用のリスク
  - ChatGPTは学習データの中に著作権で保護された情報や誤情報が含まれる場合があります。これらの情報をそのまま公表した場合、著作権違反やフェイク情報の拡散となる可能性があります。生成された回答は、必ずファクトチェックを行い、精査してから活用するようにしましょう。
3. フィッシング詐欺などネット犯罪での悪用
  - ChatGPTはインターネット上でアクセス可能な形で提供されており、悪意のあるユーザーがChatGPTを悪用してサイバー攻撃を行う可能性があります。例えば、ChatGPTを利用してフィッシング詐欺のメールを作成したり、悪意のあるコードを生成したりすることが考えられます。
ChatGPTのセキュリティ対策の重要性
1. ChatGPT利用に関するポリシーやガイドラインを策定
  - ChatGPTを利用する際、企業や組織が利用ポリシーを策定し、従業員に対して遵守するようガイドラインを公開することが重要です。これにより、仕事や業務においてChatGPTを適切に、安心して利用することができます。
2. ChatGPTへの機密情報入力を原則禁止
  - ChatGPTはユーザーの入力情報を学習しており、社外秘の機密情報や個人情報を入力するとデータが蓄積されてしまいます。ChatGPTの情報漏洩リスクの理解促進や機密情報・個人情報の取り扱いについて今一度勉強会を行うなど、ChatGPTで使用してはいけない情報について明言し、組織内で周知徹底することが重要です。
3. データの正確性・著作権
  - ChatGPTは学習データの中に著作権で保護された情報や誤った情報が含まれている場合があります。そのため、ChatGPTが生成する情報の正確性や著作権の確認を必ず人間の目で行うことが重要です。チェックを行うことで、フェイク情報の拡散や著作権の違反を防ぐことができます。
4. ChatGPTの対話履歴をログ管理
  - 従業員がChatGPTで入力した情報のログを管理者が取得することで、従業員の入力内容や生成された情報の経緯の把握が可能です。これにより、必要な場合にはログを参照し問題解決に役立てることができます。

‍

■3.ChatGPTの日本での利用状況

野村総合研究所（NRI）の「日本のChatGPT利用動向」の調査結果（2023年6月時点）によると、2023年に入ってから、日本のChatGPT利用は急増。4月中旬には、1日のアクセス数が700万超え、5月12日には過去最高の767万アクセス／日を達成しました。ユーザー数は着実に増加しており、日本からのChatGPT利用度は世界的に見ても高く、米国、インドに次いで3番目に高い（7%）状況です。ChatGPTは自然言語処理の分野で革新的な技術として注目されており、今後もChatGPTの利用はさらに広がることが予想されます。
引用：日本のChatGPT利用動向（2023年6月時点）

‍

■4.東京都が作成した「文章生成AIガイドライン」とは？

東京都「文章生成AIガイドライン」の目的

東京都の「文章生成AIガイドライン」の目的は、都職員が文章生成AIを業務で使用する際、その特性をよく理解し、正しく利用するために作られました。文章生成AIは業務効率化の可能性を秘めていますが、同時にさまざまなリスクも指摘されています。このため、ガイドラインを通じて生成AIの特性や利用法について詳しく説明し、業務効率化および都政の品質向上につなげるための正しい活用を促進することが目的となっています。
引用：東京都「文章生成AI利活用に関するガイドライン」

‍

■5.参考にできる！東京都文章生成AIガイドライン「職員が守るべきルール」

東京都が公開している「文章生成AI利活用ガイドライン」の3章2「職員が守るべきルール」

個人情報など、機密性の高い情報は入力しない
- 文章生成AIを利用する際、個人情報や機密性の高い秘匿情報を入力しないようにすること。これにより、情報漏洩のリスクを防ぐことができます。
著作権保護の観点から注意すべきこと
- 既存の著作物に類似する文章の生成につながるようなプロンプトを入力しないこと
- 回答を配信・公開する場合、既存の著作物等に類似しないか入念に確認する
回答の根拠や裏付けを確認
- 文章生成AIが生成した回答を利用する際、その根拠や裏付けを自ら確認することが重要です。引用元や一次情報を必ず確認し、生成された回答が性格かつ信頼性があるかどうかをチェックすることで誤情報を広めるリスクを回避することができます。
生成AIの回答を外部に使用する場合は明記
- 文章生成AIの回答を外部に公開する場合は、その回答がAIによって生成されたものであることを明記してください。これにより、他社へ誤解を与えることなく、正確な情報を提供することができます。

■6.セキュリティ対策万全！企業向け安全なChatGPT「Crew」

ビジネスで安全に組織活用できる生成AI

「Crew」は、組織内で安全にChatGPTが使える生成AIツールです。社内で使用して
いるPDFなどの書類をアップロード、回答を生成することもできます。また、ユーザー権限管理機能やセンシティブ情報を検知・アラートする機能もあり、組織内で安全・安心にChatGPTを利用できます。

‍

※本記事は、「Crew」を使用し編集・リライトしました

‍