東中竜一郎氏：ChatGPTが投げかけるAI新時代の諸課題とその先に見えるもの[マル激！メールマガジン]

マル激！メールマガジン　2023年5月31日号 （発行者：ビデオニュース・ドットコム　https://www.videonews.com/ ） ——————————————————————————————————————— マル激トーク・オン・ディマンド （第1155回） ChatGPTが投げかけるAI新時代の諸課題とその先に見えるもの ゲスト：東中竜一郎氏（名古屋大学大学院情報学研究科教授） ——————————————————————————————————————— 　誰でも使えるAIが登場した。ChatGPTというAIだ。これを2022年11月にアメリカのオープンAI社がネット上に無料で公開したことで、一般の市民がAIの急速な発達を身をもって実感することになった。 　しかし、ChatGPTはAIの「すごさ」と「やばさ」の両方をわれわれに体感させてくれる。 　マル激では2014年から3度、AIを様々な角度から取り上げてきたが、当時から、AIが特定の職業を奪うのではないかとか、教育の妨げになるのではないかといった懸念が指摘されてきた。しかし、その段階ではいずれもどこか遠い未来の話のような感覚があったことは否めなかった。しかし、ChatGPTが吐き出してくる、ごく自然でしっかり論理立てされている文章を見れば、その懸念がいよいよ現実のものになってきたと感じる人は多いだろう。 　しかし、何はともあれ、まずはChatGPTを正当に評価する必要がある。これが生成する文章だけを見て、AI技術が突如として大幅に進歩したと考えるのはちょっと早計かもしれない。 　ChatGPTというのは、オープンAI社が開発した「大規模言語モデル（LLM）」だ。インターネット上の文章を学習し、間違った出力をする場合は正しい回答を再び学習させることによって精度を上げている。このようなきれいな文章を生成するためには、単にネット上の文章を学習させるだけではだめで、入力文と応答文の実例を覚えさせる「ファインチューニング」や、人間の望むような回答を出力させる「アラインメント」といった作業が必要になる。 　そしてそのかなりの部分は人間の手で行われていると、名古屋大学大学院情報学研究科教授で対話型AIが専門の東中竜一郎氏は説明する。 　専門家にとっては大規模言語モデル自体は数年前から登場しており、ChatGPTの技術は必ずしも真新しいものには見えないそうだ。強いて言うならば、何年もかけて大規模な学習データを蓄積させた点は目を見張るものがあるといったところか。しかし、ChatGPTが世界的に広く、しかも無料で公開されたことで、世界中で多くの人がAIが便利なツールになり得ることを実感してしまった。と同時に、AIの脅威や問題点も指摘されるようになり、AIは政治的なアジェンダとして広島サミットのデジタル大臣会合や教育大臣会合でも議題に上っている。 　一方、世界では各地でChatGPTの使用を制限する動きがみられる。イタリアでは個人情報漏洩の恐れがあるとして、2023年3月末に先進国で始めて国内でのChatGPT一時使用禁止に踏み切った。現在は使用禁止が解除されているが、アメリカやオーストラリアでも一部の州の公立学校で、ChatGPTの使用が禁止されている。ただし、学校で使用を禁止する動きの背景には、授業の課題をChatGPTに書かせる生徒が続出することを懸念したものが大半のようだ。 　また、生成AIと従来の著作権の概念をどう整合させるかという問題も深刻だ。アメリカでは5月2日から、ハリウッドの脚本家約1万1,500人が所属する団体WGA（Writers Guild of America=全米脚本家組合）がストライキを続けているが、組合側の要求の中には、AIで脚本を書くことやAIに自分たちの作品を学習させることを禁止せよというものが含まれている。 　われわれ人間も日々たくさんの話を聞いたり本を読んだりして学習して文章力や表現力を付けていくが、人間が学習することとAIに学習させることの何が違うのかはAI論争の中でも中心的な議題になる。東中教授は現段階ではAIには創作意図があるとはいえない点が人間とは異なると指摘する。 　AIが吐き出す文章は、外部から与えられた「こういうものが好まれているらしい」という統計情報に基づいたものなので、創作意図は人間側が与えたプロンプトに依存しているという。しかし、われわれ人間が文章を書くときも、「こういうものが好まれているらしい」という判断基準を少なからず考慮に入れているのも事実だろう。 　ChatGPTは何が画期的なのか、生成AIの技術はどこまで来ているのか、その技術が一般市民の手の届くところまで降りてきた今、あらたにどんな懸念が出てきているのか、その懸念は妥当なのかなどについて、名古屋大学大学院情報学研究科教授の東中竜一郎氏とジャーナリストの神保哲生、社会学者の宮台真司が議論した。 +++++++++++++++++++++++++++++++++++++++++++++++++++ 今週の論点 ・生成AIの社会的なブレイクスルーになったChatGPT ・ChatGPTの特徴と画期性 ・ChatGPTを制限する世界各国や企業の動き ・急速に発展するAIにわれわれはどう向き合うべきか +++++++++++++++++++++++++++++++++++++++++++++++++++ ■　社会的なブレイクスルーになったChatGPT 神保：　今日は2023年5月24日の水曜日、第1155回目のマル激です。今日はChatGPTを入り口に生成AIを取り上げようと思います。ネットやマスメディアでも取り上げられていて、それなりに話題になっていると言っても良いと思うのですがいかがでしょうか。 宮台：　YouTube動画などを見る限り、視聴者かき集めの良いネタになっていますが、かなり誤解が広がっているように思います。どういう局面を取り出すのかにもよりますが、典型的な誤解として「生成AIは人間を超えた」というものがあります。AIは人間が作れないものを作るんだという誤解ですよね。大規模言語モデルを含めた生成AIの原理を理解していないのだと気が付いた時、愕然としました。 しかし逆に言えば、ユーザビリティが上がり皆の問題になったということで、それはそれで良いような気もします。 神保：　身近なものになったということは間違いないですよね。 宮台：　ただ、下手をすると過敏な反対論や賛成論が出てきて極化が起こりかねません。