福野泰介の一日一創

MacBookローカルでエンベディングを使ったRAGもうまくいったので、ちょっと効率化を目指してみます。多量といっても数百万までいかない場合は、WebGPUよりWasm SIMDが良いかもしれません。

「code4fukui/dotscores-simd」
正規化したベクトル化した文章同士の比較は、内積（ドット）で計算できます。Wasm SIMDに32bit浮動小数を4つまとめて計算できて速くなるかも？

ひとまず実装ができました。