ChatGPT APIで利用可能なモデルは、ChatGPT製品で使用されているものと同じ「gpt-3.5-turbo」。これはチャット以外の多くのユースケースに適したモデルで、価格は1kトークンあたり0.002ドル（約0.27円）と、既存のGPT-3.5モデルに比べ10分の1の価格になっている。これは、一連のシステム全体の最適化により、12月以降に90％コストを削減し、APIの使用料に還元したことによる。

専用インスタンスの提供も開始する。開発者は計算インフラを他のユーザーと共有することなく、自分のリクエストのために予約された計算インフラの割り当てに対して時間ごとに料金を支払うため、インスタンスの負荷を完全にコントロールできるという仕組みだ。専用インスタンスは、1日あたり4億5千万トークンを超えて稼働する開発者にとって経済的だという。

また、Whisperでは、オープンソースの「Whisper large-v2」モデルをAPIで使用できるようになった。この便利なオンデマンドアクセスは、1分あたり0.006ドル（約0.80円）。より速く、より費用対効果の高い結果を得られる。

OpenAI公式サイトでは、Snap Inc.がSNSアプリのSnapchat+にChatGPT API上で動く「My AI」を導入したと発表。その他にも、ChatGPTとWhisperのAPIの早期導入事例として、学習プラットフォームのQuizlet、食料品の即日配達サービスのInstacart、eコマースプラットフォームのShopify、AIを搭載した言語学習アプリのSpeakが挙げられている。

（fabcross for エンジニアより転載）