中高生向けに作ったプログラミング言語、Wirthの文法をサンプルとして、ベクトル化し、近いものを計算した例です。
「code4fukui/embed」
エンベディングにオススメされた nomic-embed-text を使用。ollamaで初回起動時に自動的にダウンロードされ、ローカルホストに対してHTTPリクエストする形で使えます。これを Deno用のライブラリとしました。
links
- ローカルAIに問い合わせよう、ask
- MacBookAirで動くローカルAI、gemma3で画像からキーワードを生成しよう、askimg
- 福井県観光スポットで似たもの探し with Embedding API by OpenAI
デモで使ったのは、パイオニアポークの曲用に生成した豚さん達の画像と
動画からキャプチャーしたレッサーパンダ
askimgコマンドを使ってサクッとキーワードとカウントができました！
MacBookAir、完全ローカルで動いちゃうのがすごい！
links
- ローカルAIに問い合わせよう、ask
「ask IchigoJamとは？」と問い合わせた数秒後。細部にいろいろと間違いはあるものの、それっぽい回答をしてくれました！このサイズでこの精度はすごい！しかも他言語、画像解釈付き！
「code4fukui/ask」
ローカルLLMのインストール手順と、Denoでインスール可能なコマンドにまとめました。
文章を数値の塊、ベクトルにして処理する生成系AI。ベクトルで意味的な近さを判定できるエンベディングもローカルで処理できるものがあったので、試してみました。
3.3Gで動き、そこそこ賢いローカルLLM、
たった3.3GBの知識と自分のPC上で動く文章生成AI、
