Rédigé par Emile Dev
7 novembre 2023
GPT4 Turbo 128k, Assistants IA, Threads & GPTs - Résumé OpenAI DevDay
L'introduction de GPT-4 Turbo 128k marque une étape significative dans l'évolution de l'intelligence artificielle, offrant une augmentation substantielle de la capacité de contexte tout en réduisant les coûts.
Cette version optimisée et économique ouvre de nouvelles possibilités pour les développeurs, les chercheurs et les entreprises.
Les caractéristiques innovantes de GPT-4 Turbo
GPT-4 Turbo présente un contexte étendu de 128k, soit une capacité à comprendre et analyser un document PDF de près de 150 pages. Cette capacité de contexte élargie, offerte à un coût 2.75 fois inférieur à celui du GPT-4 classique, est une avancée notable.
On peut donc s’attendre à des exemples impressionnants dans les semaines à venir, notamment la possibilité de traiter et d'interpréter une étude scientifique complète, puis de générer du code ou des schémas pertinents en quelques minutes. L'intégration du GPT-4 Turbo dans ChatGPT, cependant, reste une question ouverte.
Notes :
- GPT4 Turbo 128k
- 2.75 moins cher que GPT4 Classique
- 128k de contexte contre 16k pour GPT4 sur ChatGPT, et 32k avec une API spéciale
- Disponible dès maintenant
- 128k de contexte, c’est un PDF de ~150 pages → Possibilité d’analyser un PDF de manière très pertinente
- De nombreux exemples assez incroyables vont émerger dans les prochaines semaines :
- Possibilité d’envoyer une étude scientifique d’une centaine de pages, et de construire un exemple concret en code, ou en schéma, en quelques minutes → https://x.com/_amankishore/status/1721647536312869040?s=20
- Est-ce qu’on aura GPT4 Turbo 128k sur ChatGPT ?
- GPTs
ChatBots répondant à une ou plusieurs problématiques spécifiques
L’exemple d’hier, 2 activités spécifiques = 2 GPTs privés que vous allez pouvoir créer & améliorer pour gagner du temps
Store (comme le PlayStore ou l’AppleStore) avec partage des revenues, x
De potentiels belles opportunités si vous avez des idées de ChatBots : x
Non attendu : GPTs connectés avec des API extérieures
- https://www.youtube.com/live/U9mJuUkhUzk?si=cOhDv0QUvrwI2ztk&t=1477
- Via les actions & la partie authentification, vous allez pouvoir connecter votre Google Calendar ou encore Zapier, pour envoyer des messages slacks
Quand est-ce que c’est disponible ?
- Données actualisées → Septembre 2021 → Avril 2023
- Assistants (non attendu)
- C’est un GPTs, un ChatBot, mais qui vous propose un système d’API, vous pouvez donc connecter votre AI Assistant à votre site / application
- Possibilité de faire des ChatBots très puissants & complet, avec un accès à CI (donc interaction avec les fichiers de vos clients par exemple)
- Exemple proposé par OpenAI : Un site vous permettant de programmer vos vacances dans une ville, Sam explique qu’il souhaite partir à Paris, et qu’il souhaite donc avoir de bonnes adresses. Il demande à l’assistant de lui donner 10 bonnes adresses & via le système de function calling & le nouveau JSON mode, il arrive à exécuter une fonction qui affiche les adresses sur la carte
- Dans l’exemple, il envoie le résumé de ses billets d’avions + la facture Airbnb, et via CI, il divise la facture Airbnb en 3, et calcule le montant total de son voyage, en convertissant les devises
- Une flexibilité assez incroyable
- À chaque nouvelle session (une série d’interaction avec votre AI Assistants), OpenAI créera un “Threads”, ce qui vous permettra de surveiller les interactions avec votre AI Assistants
- API → Baisses des coûts
- GPT-4 Turbo est 2.75x moins cher que GPT4 classique
- GPT3.5 est prévue pour être 4x moins cher dans les prochains jours / semaines
- API de DALL-E 3 disponible dès maintenant
- Code Interpreter API disponible dès maintenant via Assistants API
- GPT4 Turbo + Vision API
- Possibilité d’intégrer l’analyse d’image dans vos scripts / applis
- En quelques heures, plusieurs exemples très interessants :
- Analyse d’un flux webcam, avec détection des objets : https://x.com/skalskip92/status/1721694286440468849?s=20
- Analyse d’un match de Football : https://x.com/geepytee/status/1721705524176257296?s=20
- Implémentation très simple : Les devs prennent une photo de la vidéo chaque 5s, et demande à GPT4 de l’analyser !
- Prebuilt retrieval → Quand vous envoyez un document (PDF par exemple) OpenAI va procéder à une indexation des éléments, pour assurer une pertinence très optimale aux réponses que vous donne ChatGPT
- https://platform.openai.com/docs/assistants/tools/knowledge-retrieval
- Disponible également via l’API Assistants
- Copyright Shield
- OpenAI vous aidera à vous défendre (voir vous défendra) si vous êtes confronté à des problèmes de copyright : Si vous avez créé quelque chose avec ChatGPT, certains phrases, certaines exemples, peuvent être litigieux. C’est à dire qu’une entreprise peut vous attaquer et dire : Ce sont mes exemples.
- C’est très positif, mais je n’ai pas encore entendu parler d’un problème comme celui la pour le moment
- API TextToSpeech (non attendu)
- 6 voix hyper-réalistes
- OpenAI cherche à concurrencer les startups comme ElevenLabs & co
- En + des voix assez exceptionnels, le système très simple d’API va permettre à OpenAI de venir récup des % du marché sur Google Cloud, AWS, etc. Travailler avec l’API de Google Cloud peut être fastidieux !
- JSON Mode (non attendu)
- Réponse en JSON garantie
- Multiple function calling (non attendu)
- Le principe de function calling : Vous envoyez des instructions & des ressources, et GPT4 ou GPT3.5 construit les paramètres de votre fonction, ce qui vous permet de l’exécuter !
- Multiple function calling, c’est le même concept, mais vous pouvez demander à GPT4 de générer plusieurs paramètres pour plusieurs fonctions en même temps
- JSON Mode + Multiple function calling = 🔥
- GPT4 Fine Tuning arrive (non attendu)
- Certaines boîtes, en travaillant sur un fine tuning poussé de GPT3.5, ont réussis bien meilleurs que la version classique. Je m’attends à voir la même chose des GPT4 Fine tuné !
- Limite de l’API modifiable facilement & augmentation des limites (non attendu)
- ChatGPT Team, pas pour le moment ?
