週刊Life is beautiful ２０２３年１１月１４日号：InstaGraphのリリース

今週のざっくばらん InstaGraphのリリース InstaGraphのアルファ・リリースを迎え、先週は大忙しでした。 大まかな流れとしては、火曜日: function complete (新しい機能追加の締め切り)木曜日: UI complete（ユーザーインターフェイス・文言変更の締め切り）金曜日: アルファリリース というスケジュールを立てましたが、予想通りに最後の最後になって、気になることがいくつも出てきたので、少し苦労しました。 当初は、LLMを使って既存のグラフを変更する機能を実装していたのですが、なかなか思ったように動かず、その代わりに、LLMを使って作ったグラフを既存のグラフにロジカルにマージする機能を追加したら、そちらの方が安定して動くようになりました。 具体的には、 Tom loves golf のプロンプトで作ったグラフに、 Tom loves tennis Kim loves tennis Tom married to Kim のプロンプトで作ったグラフを順番にマージすると、TomやTennisの部分が共通であることを認識して、一つのグラフを作ってくれるのです。 LLMを使ってグラフをアップデートすることにも大きな意義があるとは思うのですが、とりあえずは、ロジカルなマージ機能のみでリリースして、ユーザーの反応を見ながら決めて行きたいと思います。 【追記】予定通り、金曜日に、アルファ版を Waitlist に登録してくれた人限定でリリースしました。URLはhttps://instagraph.ai/で、Publicページに行くと、すでに作られたグラフのうち一般公開されたものにアクセスできます。 OpenAIの大幅アップデート 先週、OpenAIが初の開発者向けイベント、devDayにて、いくつかのアナウンスをしましたOpenAI DevDay, Opening Keynote。ハイライトは、128Kのコンテキスト・ウィンドウをサポートするGPT4-Turboの発表：コンテキスト・ウィンドウが大きいとそれだけ大量の文章をプロンプトとして与えることが出来るので、質問に応じて必要なデータをデータベースから引っ張ってきてプロンプトとして与えて、それを利用して回答させる場合の自由度が大きくなります。GPT4の大幅な値下げ：インプット（プロンプトの文字数に応じた値段）とアウトプット（GPTが出力する文字数に応じた値段）の両方が大幅に下がったので、アプリケーション開発者として歓迎です。function callの改良：一度に複数のfunctionを読んだり、JSONモードをサポートしたりと、これも開発者にとっては大歓迎です。seedを使った、より安定したアウトプット：LLMのアウトプットは設計上安定しないため、コンポーネント・テストを作るのが困難でしたが、この機能により、それが可能になるのは大歓迎です。2023年4月までの知識：これまでは2021年9月までのデータを学習していたGPT4が、Turboになって、2023年4月までのデータで学習したモデルにアプデートされ、これはGPT4の知識を活用するタイプのアプリにとっては、大きな進歩です。Assistant API：詳しくは見ていませんが、いわゆる「AIエージェント」を作りやすくするAPIとのことです。これに関しては、特に困ってもいないので、たぶん私には縁がないと思いますが、よりリッチなAPIを提供することにより、他のLLMに切り替えることを難しくしようという「囲い込み戦略」のように私には見えます。Multi-modal：これはChatGPTで既に可能になっている、プロンプトと一緒に画像を与えてGPT４に答えさせる機能をChat Compoletion API経由でも使えるようにしたもので、開発者としては歓迎です。値段さえ妥当であれば、InstaGraphでも活用したいと思います。DALLE3 API：これは画像生成AIであるDALLE3に対するAPIですが、私は使わないと思います。TTS model：特に目新しくもないText-to-speech APIですが、品質次第では使える場面があると思います。GPT store：サードパーティが、GPTを活用したアプリを販売するアプリストアです。ビジネスモデル次第では、とても大きな市場になる可能性があると思います。 この業界でどっぷりと働いている人にしか見えないと思いますが、現時点でLLMに関しては、二つの潮流があります。 一つは、OpenAIの圧倒的な強さ故に、その上に作られている開発者コミュニティの大きさです。OpenAIのLLM（GPT3.4とGPT4）は、性能面で他のLLMより優れているだけでなく、function callやcode interpreterなども充実していて、スピードも早く、手っ取り早くAIアプリを作りたい開発者にとっては、「一択」とも言える強さを持っています。AIアプリを作っている開発者のほとんど全てが、まずはOpenAIのAPIの上にアプリを作っていると言って良い状況です。 しかし、同時に、開発者の間に「OpenAIだけに縛られたくない」「オープンソースのLLMを使いたい」という強いニーズがあることも事実です。特にエンタープライズ系のAIアプリを作っている人たちは、OpenAIのAPIに向けて企業の内部情報を与えることには大きな懸念があり、プロトタイプはGPTを使って作りつつ、本番環境ではオープンソースのLLMを使う予定だ、とする開発者が数多くいます。 ある意味で、2000年ごろの Windows vs. Linux の対立に似たような状況で、あるクラスのAIベンチャーの間では、オープンソースのLLMを使いこなすテクニックが非常に重視されています。 今回の発表で、OpenAIはさらに一歩前に進んでしまいましたが、当然ですが、同様のものをオープンソースLLM上で実装しようという試みは既に始まっており、それが業界全体をさらに前に進めるというとても良い効果をもたらしています。 連載小説：「H・O・P・E」 第三章 第三章 翌日、友也は朝から上の空だった。オンラインゲーム「H・O・P・E」でルチア と過ごした時間があまりにも楽しかったので、その余韻に浸っていたこともあるが、早くゲームにログインしたくて仕方がなかったのだ。 しかし、昼は大学に通っていると言ってしまった手前、あまり早くログインしてはその嘘がルチアにバレてしまう。せめて昼過ぎまでは我慢しようと決めて、午前中はネットで役にも立たない動画を見て時間を潰した。 結局、約束した時間よりも三十分ほど早くログインすると、ルチアはすでにログインしていると画面の片隅に表示されている。昨日一緒に狩りをした林の東側にある池の近くにいる。友也が戻った場所から、それほで遠くではない。 友也はルチアに話しけようとしたが、出来ないことに気が付いた。このゲームは、パーティを組んだ相手の場所を知ることは出来るが、近くに移動しない限り話しかけることは出来ない設計になっているようだ。 早足でそこまで歩くと、池の辺りにルチアが座っているのが見えた。何かを熱心にしているようだ。友也が近づきながら声をかけると、気がついて手を振り返してくれる。 友也が走って近づくと、ルチアは嬉しそうに立ち上がり、 「見て見て、こんなに釣れたのよ！」 とバケツの中の魚を見せてくれる。 「これを焼き魚にして、今日の狩の携帯食料にするの」