2023-08-23
#js #AI 
ChatGPTに、学習済みのLLM(大規模言語モデル)に追加で学習させる、ファインチューニングAPIが追加されたので、使ってみました!値段はGPT4>Fine-tuning>GPT3.5でした。(参考、GPT-3.5 Turbo fine-tuning and API updates


「finetuning-ichigo.jsonld」

まず、追加で学んで欲しいことをJSON Linesで10コ以上準備します。(JSON Linesは、NDJSONと同様、改行区切りのJSONデータ、Deno用ライブラリが使えます)


「Fine-tuning - aichat」

続いて、curlを使ってコンソールからAPIを呼び出しますファイルをアップするとidが返り、そのidを使ってファインチューニング開始。終了するとmodel名が取得できるので、あとは、それを指定してChatGPT 3.5を呼び出すだけ。(詳細な手順は、上記GitHubを参照)


「いちごくん - Fine-tuning demo」
src on GitHub
サービスとして試しに使えるようにしてみました。ちゃんと学習してくれてます。

気になる料金は、学習が1kトークン、$0.008(約12円/1万文字)、入力$0.012/1k(約18円/1万文字)、出力$0.016/1k(約24円/1万文字)。ChatGPT 3.5の16kの4倍、4kの8倍の価格。毎回多量の文章を送るよりお得に使えそうな感じです。(参考、Pricing - OpenAI

GPT4の8k、入力$0.03/1k(約45円/1万文字)、出力$0.06/1k(約90円/1万文字)と比べると1/5程度とだいぶ安いので、予算に合わせてうまく使い分けると良さそうです。

Tweet
クリエイティブ・コモンズ・ライセンス
本ブログの記事や写真は「Creative Commons — CC BY 4.0」の下に提供します。記事内で紹介するプログラムや作品は、それぞれに記載されたライセンスを参照ください。
CC BY / @taisukef / アイコン画像 / プロフィール画像 / 「一日一創」画像 / RSS