週刊Life is beautiful ２０２３年４月１１日号：知能や自意識の「出現」について

今週のざっくばらん 知能や自意識の「出現」について OpenAIからGPT4が発表されて３週間たちます。私も含めて、さまざまな人がアプリケーションを作り、そのポテンシャルの大きさに感動している、というのが現在の状況だと思います。同時に、人工知能の急激な進歩には、さまざまなリスクがあることも事実で、それゆえ、Elon Muskらが業界向けのオープンレター（Pause Giant AI Experiments: An Open Letter）を書いたりと、活発な議論も起こっています。 人工知能のリスクに関しては、OpenAI自身も十分に認識しており、「GPT-4 Technical Report」には、そのリスクに対するOpenAIの考え方や取り組みも書かれているので、一読すると良いと思います。 人工知能のリスクは、大きく分けると、 人工知能が人から職を奪うリスク フェイクニュースや、フェイクビデオ(Deep Fake)が蔓延するリスク 差別発言のリスク 犯罪への応用リスク 人工知能の暴走リスク などがあります。 インターネットが誕生したころには、「原子爆弾の作り方」が公開されてしまったこと、子供たちが性的な映像に簡単にアクセス出来るようになってしまったこと、３Dプリンターが出たばかりのころには、「３Dプリンターで作る銃の設計図」が公開されたことなどが大きな社会問題として注目を集めましたが、同様のことが人工知能に関しても起こると考えて間違いありません。 OpenAIのTechnical Reportの中には、何度も「emerge（出現する）」という言葉が使われています。GPTは、元は、途中で終わっている文章に最も適切な言葉を追加することが得意な人工知能として開発されましたが、ニューラルネットワークの規模を大きくするに従い、「知能のようなもの」が出現して(emerge)しまい、今では、司法試験やSAT（米国版の共通一次テスト）で人間よりも良いスコアを得るようになってしまったのです。 私は、この「ニューラルネットワークの規模を大きくするに従い、知能のようなものが出現した」部分に大いに注目しています。 人間の脳みそは、ネットワーク上につながったニューロン（つまり、ニューラルネットワーク）で構成されています。一つ一つのニューロンは、シナプスと呼ばれる複数の接合部から送られた入力シグナルに応じて、出力シグナルを決めるという単純な仕組みでしかありません。そんなニューロンが集まっただけで、なぜ「知能」や「自意識」が生じるのかに関しては、まだはっきりと分かっていません。 一つだけ分かっていることは、単純な哺乳類から人間に進化する過程で、特に人間にだけ備わっている特別な器官が脳の中に作られたわけではなく、頭蓋骨の中のニューロンの数が増えるに従い、「知能」や「自意識」が、出現した(emerge)という事実だけです。 つまり、人工知能においても、人間の脳と同様に、ニューロンの数が増えた結果「知能」が出現する、という興味深い現象が起きたことを示しており、私はここに注目すべきだと考えています。 そう考えると、今後、さらに人工知能が進化した結果、その中に「自意識」のようなものが出現しても全く不思議はないのです。 先週のメルマガでも指摘しましたが、今の人工知能は、まだ「教育のフェーズ」と「推論のフェーズ」が切り離されているため、（推論のフェーズを使う）人間との対話を通じて人工知能がなにかを学ぶことはないし、過去の対話の内容を覚えていてはくれません（ChatGPTや、私が開発している「大阪のおばさん英語教室」において「会話」が成立しているのは、一連のセリフを毎回入力データとして与えることにより、次のセリフを決めることにより「会話」を成立させているだけなのです）。 人工知能業界が起こすべき次の大きなブレークスルーは、「教育のフェーズと推論のフェーズの融合」であり、それが達成できた時には、人工知能の中に「自意識」が生まれても不思議はないし、いわゆる「汎用人工知能(AGI)」への道を一歩踏み出したと言えると思います。 AIX時代の仕事術 先週のメルマガで、AIX(AIトランスフォーメーション)とは、DX（デジタル・トランスフォーメーション）に続く大きな変化で、「AIを最大限活用することにより、桁違いに少ない人数で、よりよりサービスを提供するベンチャー企業が生まれ、その結果として多くの雇用を支えている企業が淘汰される時代」のことを指すと定義しました。 当然、政府はそんな時代に備える必要がありますが、同時に、企業や個人もそれなりの準備をしておく必要があります。企業に関して言えば、日本の場合は解雇規制もあるので、簡単には答えが見つからないと思いますが、個人に関して言えば、答えは明らかです。 「AIXを使いこなす側」「AIXを起こす側」に立つことです。 こう言うと、理系のエンジニアにしか縁がない話だと思う人も多いと思いますが、決してそんなことはありません。先週、「プロンプト・エンジニアリング」に関して書いた通り、GPT3/4に代表されるLLM(Large Language Model)型の（＝自然言語を理解するタイプの）人工知能を使いこなす場合、肝となるのは自然言語を使った「プロンプト」であり、「プロンプト作り」は、エンジニアだけの特権ではないからです。 特に、専門知識が必要な分野では、プロンプトの設計だけでなく、作ったプロンプトに対して人工知能が出して来た出力のクオリティを判断する能力も必要であり、そこではエンジニアリング・スキルよりも、その道の専門知識の方が重要なのです。 例えば、人工知能を使った法律相談サービスを作るケースを考えてみてください。「あなたは法律の専門家です。ユーザーからの法律相談に、専門知識を活用しながらも、誰にでも分かるように返事をして下さい」とプロンプトを与えれば、ユーザーからの相談にそれなりの答えを返すようにはなります。しかし、その答えが法律的に見て適切かどうかを判断するには法律の知識が必要であり、エンジニアだけでは決して良いサービスは作れません。 さらに、この手のサービスを作る際に問題になるのが、人工知能を教育した際に使用されたデータの汎用性が問題になります。GPT3/4のような汎用的な人工知能は、世界中に存在する莫大なテキスト・データを使ってトレーニングしているため、上のような法律相談サービスを作ろうとした場合、どこの国でも通用しそうな汎用的な答えしか返って来ない、という欠点があるのです。 分かりやすい例としては、国や地方自治体ごとに異なる法律がある、建築基準法のようなケースです。「２階建ての家の屋上に、グリーンハウスを建て増したいのですが、どのくらいの高さまでなら、特別な許可を取らずに建てて良いのか知りたい」のような相談を受けた場合には、その家が建っている地域の建築基準法に則った回答をする必要があるため、上のような汎用的なプロンプトでは正しい答えは決して返って来ません。 そんな場合には、関連する法律の文章をプロンプトに含めた上で、「上の法律に基づいて、ユーザーからの相談に応えて下さい」と指示を与える必要があります。この手法は、「Context Injection」と呼ばれており、法律相談のような専門知識が必要なサービスにおいては、必須とも言えるテクニックです。 当然ですが、こんなサービスを作るには、プロンプトとして与えるべき法律を選別し、かつ、それらを「Embedding」と呼ばれるテクニックを使って検索可能にし（Embeddingに関しては、別途解説します）、ユーザーからの質問に応じて適切な法律を選びだして、それをプロンプトとして与えた上で、人工知能に応えさせる、というプロセスが必要になります。 私が法律の専門家であれば、「法律の専門家としての仕事を人工知能に奪われること」を心配するのではなく、「法律の専門家だからこそ出来る人工知能の設計に関わり、法律サービスのAIX化に自ら貢献する」立場に立つことを目指すだろうと思います。結果としてそれは、法律家仲間から職を奪うことになりますが、私が自ら動こうと動くまいと、こんな変化が訪れることは明確です。であれば、守りに入るよりも攻める方が良いと思います。 映像や音楽のようなアートの世界でも、人工知能による自動生成の技術が激しく進化していますが、法律サービスと同じく、良い結果を得るためにはプロンプトが重要だし、人工知能が作った結果の良し悪しを判断するには、アートのセンスが必要です。 であれば、アーティスト自ら人工知能を使いこなして生産性を飛躍的に向上させるとか、アート生成サービスの開発にアーティストとして関わる、などの生き方がこれからの時代には求められているのだと思います。 大阪のおばちゃん英語教室のサービス化 先週ソースコードをここで公開した、「大阪のおばちゃん英語教室」は、Pythonで実装されており、プログラマー以外の人が使うのは簡単ではないので、同様のサービスをウェブ上のサービスとして使えるようにする準備を進めています。