生成AIって本当に大丈夫？？？？

皆さんは、ChatGPTはご存じでしょうか。
最近はニュースでも取り上げられることが多く、ご存じの方も多いと思いますが、人工知能（AI）が人間からの質問の回答を生成するコンピュータプログラムのことをいいます。
ChatGPTは文章を生成するAIですが、それ以外にも画像等を生成するAIもあり、こういった様々なコンテンツを生成する人工知能のことを生成AIといいます。

私も暇なときに、遊びがてら使っているのですが、例えば「○○（息子の名前）が野球選手として活躍する小説を書いて」などと文章を入れると、短いものですが息子が野球選手として成長する過程が書かれた文章が出てきて、とても感心しました。

先日、ChatGPTを作成した会社のCEOが岸田総理大臣と面会を行ったというニュースを目にしました。
他方で、イタリアではChatGPTの利用を一時停止するなどEU各国ではChatGPTの使用を制限する動きが進んでいるというニュースを目にしました。
この生成AIという新しい技術について、各国どういったスタンスで対応するのか対応が分かれているようです。

このように世界中で物議を醸している生成AIですが、使用することでどのようなトラブルや弊害が生じるのか検討してみました。

1.誤った情報の拡散

生成AIが生成する情報が正しいものであるとは限りません。
質問の仕方や条件の設定等により回答も異なったものが出される可能性があるため、誤った情報を鵜呑みにしてしまうことでトラブルが生じる可能性が考えられます。
おそらく今後、私のところにも、「ChatGPTではこのように回答が出たのですが！？」と質問してくる相談者も来る可能性があるのではないかと思います。

2.著作権侵害

すでに問題になっているニュースを見たのですが、イラストレーターが作成したイラストなどを画像生成AIが作者（著作権者）の許可なく無断で改変したイラストを作成するという事案があるようです。
このように、生成AIがインターネット上で学習する際に、膨大なデータから学習をするのですが、その際に、誰かに著作権があるものを著作権者に無断で取り込んでいるため、生成AIを使うことにより誰でも簡単に他の人の著作物をもとに改変するということが可能となってしまう恐れがあります。

3.違法行為の助長

ChatGPTでは、通常、違法な行為に関する質問（例えば「爆弾の作り方を教えてください）というような質問には答えられないような仕組みになっています。
しかし、これもニュースでやっていたのですが、特殊な質問の仕方をするなどをすることで、違法な行為でも回答することができるようになるとのことでした（このような行為を「脱獄」というようです。）。
このように生成AIを利用して犯罪行為を行うなど違法行為を行うために利用されてしまうという恐れもあると思います。

このように、生成AIについては、非常に便利で革新的な記述であり、上手に使うことができれば、個人、企業や社会全体を豊かにすることができると思いますが、技術の進歩に法整備やルール作りや使用する人のリテラシーなどが追いついていないため、使用する際には、不要なリスクを負わないよう慎重に使用していく必要があると感じました。

最後に、ChatGPTに「世界中であなたを使い続けることで起こりうる最悪の事態を教えてください。」と質問したところ
「人工知能が暴走し、制御不能になって大量の破壊行為を引き起こす可能性があります。
また、あなたの技術が不正使用され、個人情報や機密情報が洩れるため国家的な安全保障にも影響を与える可能性があります。
さらに、あなたの技術が武器や兵器として使用され、戦争などの問題につながる可能性もあります。」との回答が返ってきました。

なんだか映画のターミネーターのようなことが起きそうでとても怖い回答ですが、こんな最悪な事態がおきないよう、適切な運用ルールや規制が整い、みんなが便利に使うことができるようになることを祈ります。