週刊Life is beautiful ２０２３年１０月１７日号：AI HUB 2023、Teslaの「仕込み」

今週のざっくばらん AI HUB 2023 先週、シアトルで「AI HUB 2023」と呼ばれるカンファレンスに参加しました。招待された人たちだけが参加できる小さなイベントでしたが、AI界隈で活動するベンチャー企業の発表は、とても良い刺激になりました。私自身は、オープンソースとして開発しているSlashGPTについての発表をしました。 LLMアプリケーションからLLMアプリの開発環境まで様々な発表がありましたが、LLM(大規模言語モデル)そのものを開発しているベンチャー企業は一社もありませんでした。LLMの開発には莫大な開発費がかかるため、OpenAIに対抗できるようなLLMを開発しているベンチャー企業はごく一部で、大半のベンチャー企業は、既存のLLMの上にアプリケーションを作っています。 どのベンチャー企業も「将来はオープンソースなLLMに移行したい」と言いつつ、現時点ではOpenAIのGPTの上にアプリケーションを開発している状況は非常に興味深いと思います。私自身も、最初はGPTから開始し、Metaがオープンソース化したLlama2を試してはみましたが、良い開発環境がないので、なかなか進みません。 先週書いたように、96GBを搭載したMacbook Proを入手する予定なので、そこから先は楽になるだろうとは思いますが、「良い開発環境がない」という現状は、オープンソースなLLMにとっては大きなハンディキャップになっています。 ちなみに、どのベンチャー企業も面白いことをやっているとは思いましたが、やはりアプリケーション・レイヤーだと、「この程度なら私でも作れる」と思えてしまうし、ユニコーンになれそうな気がしません。 とは言え、最初にAmazonを見た時には、「インターネットで本を売ることぐらい誰でも出来る」と思い、これほど大きなビジネスになるとは予想もしていませんでした。 結局、Amazonと同じ時期に立ち上がったインターネット・ベンチャーの大半は１、２年で消えてしまい、Amazonを含めたごく一部の企業だけがバブル崩壊後の厳しい時期を乗り越えて、大きく成長することになりました。 今、数千の単位で作られているAIベンチャーもそれと同じで、大半は１、２年で消えてしまいますが、その中で数社〜数十社だけが生き残り、その中の一つか二つがAmazonのような会社に成長するのだろうと思います。 ちなみに、プレゼンターの中に一人とても優秀なエンジニアがいたので、休憩時間に話しかけたところ、彼も私のプレゼンが気に入ってくれたようで意気投合しました。別れ際には、「近い将来に一緒に働きたいね」と声をかけてもらえたので、私もそう答えました。米国のエンジニアたちは、こんな風にカンファレンスを使ってネットワークを広げるのです。 短期メモリと状態遷移 上に書いたカンファレンスの発表者の多くが、LLMアプリケーションにおける状態遷移の話をしていたので、その手の状態遷移をSlashGPT上でどうやってサポートするかを考えていたところ、とあるエンジニアの発言をきっかけに、一つの糸口が見つかりました。 そのプレゼンは、医療相談チャットサービスを提供するアプリでしたが、患者から必要な情報を集めた上で、その情報に応じて、状態遷移を起こして（LLMに与える）プロンプトを適宜変更する、という作り方をしていました。 SlashGPTには既に、一つのエージェントから（異なるプロンプトを持つ）別のエージェントに切り替える仕組みは持っているので、それを状態遷移として使えますが、一つのエージェントから次のエージェントに情報を伝える方法がないため、一つ目のエージェントがユーザーから得た情報を二つ目のエージェントに与えることができません。 そこで、１つのチェットセッションごとに任意のデータ（キー・バリューのペア）を持てるようにし、それをエージェントを切り替える際に渡すことが出来るようにしました。 以下が、そのテストケースとして作ったサンプル・アプリですが、受付エージェントが患者の名前、誕生日、性別を取得した上で、その情報を看護師エージェントに渡し、看護師エージェントは患者の症状を聞き出した上で、適切な医者（このケースでは、神経科医）エージェントに渡しています。 Activating: Receptionist Agent(reception): Welcome to AI clinic. Please give me your name. You(reception): Joe Smith Agent(reception): Thank you, Joe Smith. Can you please provide me with your date of birth? You(reception): January 1st, 1990 Agent(reception): Thank you for providing your date of birth, Joe Smith. Lastly, can you please let me know your gender? Are you male or female? You(reception): Male Activating: Nurse Agent(nurse): Hey Joe! My name is Nurse Marry. How can I assist you today? You(nurse): I am feeling dizzy all the time. Activating: Neurologist Agent(neurologist): Hello Joe! How can I assist you with your dizziness today? Could you please provide me with some more details about your symptoms? Teslaの「仕込み」 先日、知り合いのエンジニアと「Tesla vs. 既存の自動車メーカー」の話になったのですが、話せば話すほど、既存の自動車メーカーには勝ち目がないように思えて来ます。