「finetuning-ichigo.jsonld」
まず、追加で学んで欲しいことをJSON Linesで10コ以上準備します。(JSON Linesは、NDJSONと同様、改行区切りのJSONデータ、Deno用ライブラリが使えます)
「Fine-tuning - aichat」
続いて、curlを使ってコンソールからAPIを呼び出しますファイルをアップするとidが返り、そのidを使ってファインチューニング開始。終了するとmodel名が取得できるので、あとは、それを指定してChatGPT 3.5を呼び出すだけ。(詳細な手順は、上記GitHubを参照)
「いちごくん - Fine-tuning demo」src on GitHub
サービスとして試しに使えるようにしてみました。ちゃんと学習してくれてます。
気になる料金は、学習が1kトークン、$0.008(約12円/1万文字)、入力$0.012/1k(約18円/1万文字)、出力$0.016/1k(約24円/1万文字)。ChatGPT 3.5の16kの4倍、4kの8倍の価格。毎回多量の文章を送るよりお得に使えそうな感じです。(参考、Pricing - OpenAI
GPT4の8k、入力$0.03/1k(約45円/1万文字)、出力$0.06/1k(約90円/1万文字)と比べると1/5程度とだいぶ安いので、予算に合わせてうまく使い分けると良さそうです。