文章を数値の塊、ベクトルにして処理する生成系AI。ベクトルで意味的な近さを判定できるエンベディングもローカルで処理できるものがあったので、試してみました。
中高生向けに作ったプログラミング言語、Wirthの文法をサンプルとして、ベクトル化し、近いものを計算した例です。
「code4fukui/embed」
エンベディングにオススメされた nomic-embed-text を使用。ollamaで初回起動時に自動的にダウンロードされ、ローカルホストに対してHTTPリクエストする形で使えます。これを Deno用のライブラリとしました。
links
- ローカルAIに問い合わせよう、ask
- MacBookAirで動くローカルAI、gemma3で画像からキーワードを生成しよう、askimg
- 福井県観光スポットで似たもの探し with Embedding API by OpenAI
