CHROMA

前回はHugging FaceのTransgormersとLangChainを用いたテキスト生成を実装しました。 今回はさらにChromaを用いて、ローカルのDB上のデータを参照して質問応答を行うテキスト生成を実装してみます。 ChromaはいわゆるベクトルDBの一種です。 ベクトルDBは埋め込みベクトルのような高次元のベクトルデータを扱うのに適したDBです。 ベクトルDBの実装には色々とありますが、今回はサーバを構築しなくても簡単に試せるChromaを使ってみました。 このベクトルDBと大規模言語モデル（LLM: Large Language Model）を用いたテキスト生成を組み合わせるこ…

はじめに 7月はナイスなstapyです。みんな来てね！ nikkieです。 StudyCoさんの勉強会アーカイブを機に、LangChainを使って文脈をプロンプトに含めてLLM（ChatGPT）に問い合わせるコードを動かしました。 この理解を深めるべく、「文脈をプロンプトに含める」の要素に注目して素振りします。 目次 はじめに 目次 文脈をプロンプトに含める仕組み LangChainのData connectionの言葉では LangChainのChromaの例を動かす 動作環境 embeddingsを計算し、Chromaに保存する ディスクから読み込み、似ている文を検索する 寄り道：stat…

遅ればせながら、先日、これを観に行ってきました。 『びわ湖ホール・ダムタイプオフィス共同制作公演 高谷史郎 「CHROMA」』 初演が終わった後での、浅田彰さんを司会にしたアフタートークでも、浅田さん自身が仰っていたように、 もう、感想というものを、こういう場で、言葉で記そうとすること自体が野暮な気がしているんですが、 なにか、こう、最高に良かった、この公演を多くの人に伝えたい気持ちが勝ってしまうので、途中、訳のわからないことを書くかもしれませんが、何とか、書いてみたいと思います。 席に着いて、舞台を見ると、何もない。 ここだけ見ると、これから、何が始まるのか、わからないでしょうし、もし、第三…