OpenAI a annoncé que ses modèles ChatGPT et Whisper sont désormais disponibles sur son API, offrant aux développeurs un accès aux capacités de langage et de synthèse vocale basées sur l’IA.
- OpenAI a rendu ses modèles ChatGPT et Whisper disponibles sur son API pour les développeurs.
- Des optimisations ont permis de réduire le coût de ChatGPT de 90%, ce qui profite aux utilisateurs de l'API.
- OpenAI propose des instances dédiées pour un contrôle accru, et continue d'améliorer ses modèles ChatGPT et Whisper en réponse aux retours des développeurs.
Grâce à des optimisations à l’échelle du système, OpenAI a réussi à réduire le coût de ChatGPT de 90 % depuis décembre, et il répercute désormais ces économies sur les utilisateurs de l’API.
OpenAI pense que la meilleure façon de réaliser le plein potentiel de l’IA est de permettre à chacun de construire avec elle.
Les changements annoncés aujourd’hui peuvent conduire à de nombreuses applications dont tout le monde peut bénéficier.
De plus en plus d’entreprises peuvent tirer parti des capacités linguistiques et de synthèse vocale d’OpenAI pour développer des applications de nouvelle génération alimentées par ChatGPT et Whisper.
De plus, OpenAI a pris en compte les commentaires des développeurs et apporté des modifications à ses conditions d’utilisation de l’API pour mieux répondre à leurs besoins.
Api chatgpt
OpenAI lance une nouvelle famille de modèles ChatGPT appelée gpt-3.5-turbo, au prix de 0,002 $ par 1 000 jetons, ce qui la rend dix fois moins chère que les modèles GPT-3.5 existants.
Ce modèle est idéal pour de nombreux cas d’utilisation hors chat et est le même dans le produit ChatGPT.
Alors que les modèles GPT consomment traditionnellement du texte non structuré représenté sous la forme d’une séquence de jetons, les modèles ChatGPT consomment une séquence de messages avec des métadonnées.
Cependant, l’entrée est restituée au modèle sous la forme d’une séquence de jetons que le modèle doit consommer.
Le modèle gpt-3.5-turbo utilise un nouveau format appelé Chat Markup Language (ChatML).
Mises à jour ChatGPT
OpenAI améliore en permanence ses modèles ChatGPT et vise à proposer ces mises à niveau aux développeurs.
Ceux qui utilisent le modèle gpt-3.5-turbo recevront toujours le modèle stable recommandé, tout en pouvant choisir une version spécifique.
OpenAI lance une nouvelle version appelée gpt-3.5-turbo-0301, qui sera supportée au moins jusqu’au 1er juin, et une nouvelle version stable est attendue en avril.
Les développeurs peuvent trouver des mises à jour sur la page des modèles pour passer à la dernière version.
Instances dédiées
OpenAI propose désormais des instances dédiées aux utilisateurs qui souhaitent davantage de contrôle sur les versions de leurs modèles et les performances du système.
Par défaut, les demandes sont traitées sur une infrastructure de calcul partagée et les utilisateurs paient par demande.
Cependant, avec les instances dédiées, les développeurs paient une période de temps pour allouer l’infrastructure de calcul réservée exclusivement à leurs requêtes.
Les développeurs ont un contrôle total sur la charge de l’instance, la possibilité d’activer des limites de contexte plus longues et la possibilité d’épingler l’instantané du modèle.
Les instances dédiées peuvent être rentables pour les développeurs qui traitent au-delà d’environ 450 millions de jetons par jour.
API de chuchotement
OpenAI a introduit Whisper, un modèle de synthèse vocale, en tant qu’API open source en septembre 2022.
L’API Whisper a suscité des éloges considérables de la part de la communauté des développeurs. Cependant, son fonctionnement peut être difficile.
OpenAI rend le modèle large-v2 disponible via son API, offrant aux développeurs un accès pratique à la demande, au prix de 0,006 $ par minute.
De plus, la pile de service d’OpenAI garantit des performances plus rapides par rapport aux autres services. L’API Whisper est accessible via des transcriptions ou des points de terminaison de traduction, qui peuvent transcrire ou traduire la langue source en anglais.
Objectif développeur
OpenAI a apporté des modifications spécifiques après avoir reçu les commentaires des développeurs. Voici des exemples de ces modifications :
- Ne pas utiliser les données soumises via l’API pour des améliorations de service, y compris la formation de modèles, à moins que l’organisation n’y consente
- Établir une politique de conservation des données de 30 jours par défaut, avec l’option d’une conservation plus stricte en fonction des besoins de l’utilisateur
- Améliorer sa documentation développeur
- Simplifiant ses conditions d’utilisation et ses politiques d’utilisation
OpenAI reconnaît qu’il est nécessaire de fournir un service fiable pour garantir que l’IA profite à tous. À cette fin, OpenAI s’engage à améliorer sa disponibilité au cours des prochains mois.
Image en vedette : Shaheerrr/Shutterstock
Source : OpenAI
