
2024年4月24日更新情報:ChatGPT API という名前は廃止されました。このブログ内の ChatGPT API という用語は、GPT‑3.5 Turbo API を指します。
API で ChatGPT モデルと Whisper モデルが利用できるようになりました。これにより、開発者は最先端の言語機能(チャットだけにとどまりません!)と音声認識機能にアクセスできるようになります。システム全体にわたる一連の最適化により、12月以降で ChatGPT のコストを90%削減しました。その削減分を API ユーザーに還元します。開発者は、API でオープンソースの Whisper large-v2 モデルを使用し、より高速で費用対効果の高い成果を得られるようになりました。GPT‑3.5 API ユーザーは、継続的に改善されたモデルと、モデルをより確実に制御するための専用容量を選択するオプションを利用することができます。また、開発者からのフィードバックに耳を傾け、そのニーズにさらに応えられるよう API 利用規約を改善しました。
Snapchat の開発元である Snap Inc(新しいウィンドウで開く). は今週、Snapchat+ 向けの My AI を発表しました。この実験的な機能は GPT‑3.5 API で実行されています。My AI は、Snapchat ユーザーに、おすすめを提案したり、数秒で友達に俳句を書いたりできる、フレンドリーでカスタマイズ可能なチャットボットを提供します。コミュニケーションやメッセージのやり取りが日常的に行われる Snapchat には、月間7億 5,000万人のユーザーがいます。
Snapchat+ 向け My AI
Quizlet(新しいウィンドウで開く) は6,000万人以上の学生が学習、練習、習得のために使用しているグローバルな学習プラットフォームです。Quizlet は過去3年間にわたり OpenAI と連携し、語彙学習や模擬テストなど、複数のユースケースで GPT‑3 を活用してきました。GPT‑3.5 API のリリースに伴い、Quizlet は、楽しいチャット体験を通じて提供される、関連教材に基づいた適応型の問題で生徒を引き込む、完全適応型の AI 家庭教師、Q-Chat を導入します。
Quizlet Q-Chat
Instacart(新しいウィンドウで開く) は、顧客が食品について質問し、インスピレーションを与え購入につながるような回答を得られるよう、Instacart アプリを拡張しています。これは、ChatGPT と Instacart 独自の AI、および75,000軒以上の小売パートナー店舗の製品データを組み合わせて使用し、「おいしいフィッシュタコスを作るには?」や「子供用の健康的なランチは?」など、顧客が自由形式の質問で買い物のアイデアを見つけられるようにします。Instacart は今年後半に「Ask Instacart」を導入する予定です。
Instacart の Ask Instacart
Shopify の消費者向けアプリ、Shop(新しいウィンドウで開く) は、お気に入りの商品やブランドを見つけてエンゲージメントを得られるアプリで、1億人以上の買い物客に使用されています。Shop の新しいショッピングアシスタントを強化するために、GPT‑3.5 API が使用されます。買い物客が商品を検索すると、ショッピングアシスタントがリクエストに基づいてパーソナライズされたおすすめ商品を提案します。Shop の新しい AI 搭載ショッピングアシスタントは、何百万もの商品をスキャンして購入者が探しているものをすばやく見つけたり、新しいものを発見する手助けをしたりすることで、アプリ内での買い物を効率化します。
Shopify の Shop アプリ
Speak(新しいウィンドウで開く) は、流暢な会話力を習得するために最適な道のりを築くことに重点を置いた AI 搭載の言語学習アプリです。韓国で最も急成長している英語アプリで、すでに Whisper API を使用して新しい会話型 AI コンパニオン製品を開発し、世界中で急速に展開しています。あらゆるレベルの言語学習者に対応する Whisper の人間レベルの精度は、自由形式の会話練習と非常に正確なフィードバックを実現します。
Speak アプリ
モデル:本日リリースする ChatGPT モデルファミリー、gpt-3.5-turbo は、ChatGPT 製品で使用されているモデルと同じものです。料金は 1,000トークンあたり $0.002で、既存の GPT‑3.5 モデルよりも10倍安価です。これは、チャット以外の多くのユースケースにも最適なモデルです。初期のテストユーザーは、プロンプトをわずかに調整するだけで text-davinci-003 から gpt-3.5-turbo に移行することができました。
API:従来、GPT モデルは非構造化テキストを処理しますが、これは「トークン」の順番としてモデルに入力されます。ChatGPT モデルは代わりに、メタデータとともに一連のメッセージを処理します。(興味がある方へ:内部的には、入力は依然としてモデルが処理できるように「トークン」の順番にレンダリングされます。モデルが使用する生の形式は、Chat Markup Language(新しいウィンドウで開く) (「ChatML」) と呼ばれる新しい形式です。)
当社は、ChatGPT モデルと対話するための新しいエンドポイントを作成しました。
GPT‑3.5 API の詳細については、チャットガイドをご覧ください(新しいウィンドウで開く)。
当社は ChatGPT モデルを継続的に改良しており、開発者にもこの改良を提供したいと考えています。gpt-3.5-turbo モデルを使用する開発者は、常に私たちが推奨する安定したモデルを入手することができ、同時に特定のモデルバージョンを選択する柔軟性もあります。例えば、本日、少なくとも6月1日までサポートされる gpt-3.5-turbo-0301 がリリースされますが、4月には gpt-3.5-turbo をアップデートし、新たな安定版をリリースする予定です。移行に関する最新情報は、モデルページ(新しいウィンドウで開く)でご覧いただけます。
当社では、特定のモデルバージョンとシステムパフォーマンスをより細かく制御したいユーザー向けに、専有インスタンスも提供しています。デフォルトでは、リクエストは他のユーザーと共有されるコンピュートインフラストラクチャ上で実行され、リクエストごとに料金が発生します。当社の API は Azure 上で実行され、専有インスタンスでは、開発者はリクエストに対応するために予約されているコンピュートインフラストラクチャの割り当てに対して期間ごとに料金を支払います。
開発者は、インスタンスの負荷(負荷が高いほどスループットは向上しますが、各リクエストの速度は低下します)を完全に制御できるほか、より長いコンテキスト制限などの機能を有効にするオプションや、モデルのスナップショットを固定する機能も利用できます。
専用インスタンスは、1日あたり約4億5,000万トークン以上を処理する開発者にとって、経済的に理にかなっています。さらに、開発者の作業負担をハードウェアの性能に対して直接最適化できるため、共有インフラストラクチャに比べてコストを大幅に削減できます。専有インスタンスに関するご質問については、当社までお問い合わせください。
2022年9月にオープンソース化した音声テキスト変換モデル、Whisper は、開発者コミュニティから高い評価をいただいていますが、実行が難しい場合もあります。そこで、API 経由で large-v2 モデルを使用できるようにしました。この API は便利なオンデマンドアクセスを提供し、料金は1分あたり $0.006です。さらに、高度に最適化されたサービススタックにより、他のサービスと比較して高速なパフォーマンスを実現します。
Whisper API は、transcriptions (ソース言語の文字起こし)または translations (英語への文字起こし)のエンドポイントを通じて利用でき、さまざまな形式(m4a、mp3、mp4、mpeg、mpga、wav、webm)に対応します:
Whisper API の詳細については、「音声テキスト変換」のガイドをご覧ください(新しいウィンドウで開く)。
当社では過去6か月間にわたり API のお客様からフィードバックを収集し、より良いサービスを提供するための方法を検討してきました。そして、次のような具体的な変更を行いました。
- API を通じて送信されたデータは、組織がオプトインしない限り、サービスの改善(モデルの学習を含む)には使用されなくなりました
- API ユーザーに対してデフォルトで30日間のデータ保持ポリシーを導入し、ユーザーのニーズに応じてより厳格な保持オプションを選択できるようにしました。
- リリース前のレビュー工程の排除(自動監視の向上により不要になりました)
- 開発者向けドキュメントの向上
- データの所有権に関する条件(ユーザーがモデルへの入力データとその出力データを所有)を含む、サービス利用規約と利用ポリシー(新しいウィンドウで開く)の簡素化。
過去2か月間、当社の稼働率は当社自身の期待にもユーザーの期待にも応えられませんでした。現在、当社のエンジニアリングチームの最優先事項は、本番環境のユースケースの安定性です。私たちは、AI が人類全体に利益をもたらすことができるようにするためには、信頼できるサービスプロバイダーであることが必要であると認識しています。今後数か月間の稼働率の改善にご期待ください!
当社は、AI がすべての人に素晴らしい機会と経済的エンパワーメントをもたらすことができると信じており、それを実現する最善の方法は、誰もが AI を活用して何かを構築できるようにすることです。本日発表した変更により、誰もが恩恵を受けられる数多くのアプリケーションにつながることを願っています。ChatGPT と Whisper を活用した次世代アプリの構築を始めましょう。
著者
Greg Brockman、Atty Eleti、Elie Georges、Joanne Jang、Logan Kilpatrick、Rachel Lim、Luke Miller、Michelle Pokrass貢献者
Jeff Belgum、Jake Berdine、Trevor Cai、Alexander Carney、Brooke Chan、Che Chang、Derek Chen、Ruby Chen、Aidan Clark、Thomas Degry、Steve Dowling、Sheila Dunning、Liam Fedus、Vik Goel、Scott Gray、Aurelia Guy、Jeff Harris、Peter Hoeschele、Angela Jiang、Denny Jin、Jong Wook Kim、Yongjik Kim、Michael Lampe、Daniel Levy、Brad Lightcap、Patricia Lue、Bianca Martin、Christine McLeavey、Luke Metz、Andrey Mishchenko、Vinnie Monaco、Evan Morikawa、Mira Murati、Rohan Nuttall、Alex Paino、Ashley Pantuliano、Mikhail Pavlov、Andrew Peng、Henrique Ponde de Oliveira Pinto、Alec Radford、Kendra Rimbach、Aliisa Rosenthal、Nick Ryder、Ted Sanders、Heather Schmidt、John Schulman、Zarina Stanik、Felipe Such、Nick Turley、Carroll Wainwright、Peter Welinder、Clemens Winter、Sherwin Wu、Tao Xu、Qiming Yuan、Barret Zoph


