OpenAI lance ChatGPT Team, une nouvelle offre ChatGPT pour les équipes de toutes tailles, qui fournit un espace de travail sécurisé et collaboratif pour tirer le meilleur parti de ChatGPT au travail.
WHOOP propose un coaching fitness et santé personnalisé alimenté par GPT-4. L'entreprise s'appuie sur ce modèle d'OpenAI pour délivrer des solutions de santé personnalisées à ses utilisateurs.
Summer Health réimagine les visites pédiatriques avec OpenAI pour accroître la précision des notes de consultation. L'entreprise s'appuie sur les modèles d'OpenAI afin d'améliorer la qualité et la fiabilité de la documentation clinique lors des rendez-vous pédiatriques.
Mistral AI ouvre l'accès bêta à sa première plateforme, la plateforme, qui propose trois endpoints de chat et un endpoint d'embedding. mistral-tiny sert Mistral 7B Instruct v0.2.
Motif de la recommandation :L'original expose les trois endpoints de chat et l'endpoint d'embedding, leurs modèles sous-jacents et leurs scores MT-Bench, ce qui permet de comparer le compromis performance/prix avant intégration.
Motif de la recommandation :L'article détaille le support out-of-the-box des GPU AMD Instinct dans Transformers et TGI, avec des benchmarks face à l'A100.
Hugging Face publie Optimum-NVIDIA, une bibliothèque d'inférence qui accélère l'inférence des LLM sur la plateforme NVIDIA en modifiant une seule ligne de code.
Motif de la recommandation :L'original expose le point d'entrée d'une ligne, le gain de débit et la prise en charge de FP8, ce qui permet de juger l'impact sur le déploiement existant.
Hugging Face a réduit le temps de démarrage à froid de l'inférence LoRA de 25 s à 3 s et le temps de réponse de 35 s à 13 s en gardant le modèle de base Stable Diffusion XL chargé et en échangeant les adaptateurs LoRA à la demande. Le Hub héberge environ 2500 LoRA publics, dont environ 92 % reposent sur Stable Diffusion XL Base 1.0, et cette mutualisation permet de servir des centaines de LoRA distincts avec moins de 5 GPU A10G. L'article détaille l'implémentation dans Diffusers avec load_lora_weights, fuse_lora, unload_lora_weights et unfuse_lora, ainsi que les temps de chargement et d'inférence mesurés sur T4 et A10G.
Motif de la recommandation :L'article détaille le mécanisme de mutualisation des adaptateurs LoRA et les gains mesurés, utile pour ceux qui déploient plusieurs modèles fine-tunés.
Motif de la recommandation :L'article détaille une méthode LoRA pour accélérer SDXL et SD 1.5 en 4 étapes, avec code, benchmarks et scripts d'entraînement directement réutilisables.
Explosion lance Prodigy-HF, un plugin qui intègre directement l'outil d'annotation Prodigy au stack Hugging Face. Il permet de fine-tuner tout modèle Transformer du Hub.
DALL·E 3 est désormais disponible dans ChatGPT Plus et Enterprise. OpenAI indique avoir développé une pile de mesures de sécurité pour préparer DALL·E 3 à une diffusion plus large et partage des mises à jour sur ses recherches en matière de provenance.
Hugging Face publie @gradio/lite, une bibliothèque JavaScript qui s'appuie sur Pyodide pour exécuter des applications Gradio directement dans le navigateur.
Motif de la recommandation :Présente le fonctionnement sans serveur de Gradio dans le navigateur et ses limites de chargement, utile pour évaluer les options de déploiement.
Ironclad s'appuie sur GPT-4 pour simplifier le processus de révision des contrats. Le recours à ce modèle vise à alléger cette étape pour les équipes juridiques.
Retool s'appuie sur GPT-4 pour permettre aux entreprises de construire rapidement et en toute sécurité des applications alimentées par l'IA. L'outil vise un déploiement rapide et sécurisé de ce type d'applications en contexte professionnel.
Typeform fait évoluer ses formulaires en ligne vers des expériences de collecte de données dynamiques et conversationnelles en s'appuyant sur GPT-3.5 et GPT-4. Le produit exploite ces modèles pour rendre la saisie plus interactive et adaptative.
Motif de la recommandation :L'article explique comment les chat templates stockent le format d'entraînement dans le tokenizer et évitent une dégradation silencieuse des performances.
Hugging Face lance Inference for PROs, une offre communautaire donnant aux utilisateurs PRO un accès à des endpoints API dédiés pour des modèles sélectionnés.
L'équipe Diffusers et les auteurs de T2I-Adapter ont collaboré pour intégrer le support des T2I-Adapters pour Stable Diffusion XL (SDXL) dans diffusers. T2I-Adapter-SDXL ne pèse que 79 M de paramètres (158 Mo en fp16), soit une réduction de 93,69 % par rapport à ControlNet-SDXL (1251 M, 2,5 Go), et n'est exécuté qu'une seule fois pendant tout le processus de débruitage. Les points de contrôle entraînés sur 3M d'images LAION-Aesthetics V2 sont disponibles pour les conditions sketch, canny, lineart, depth et openpose, avec un script d'entraînement et un exemple d'utilisation via StableDiffusionXLAdapterPipeline.
Motif de la recommandation :L'article détaille l'entraînement et l'usage des T2I-Adapters pour SDXL, avec des scripts et des points de contrôle ouverts, permettant de reproduire et de contrôler la génération d'images.
OpenAI lance ChatGPT Enterprise, présenté comme la version la plus puissante de ChatGPT à ce jour, avec sécurité et confidentialité de niveau entreprise.
Motif de la recommandation :L'intégration d'AutoGPTQ dans Transformers permet de quantifier et exécuter des LLM en 4, 3 ou 2 bits avec une perte de précision négligeable et une latence proche du fp16.
OpenAI annonce que les développeurs peuvent désormais utiliser leurs propres données pour personnaliser GPT-3.5 Turbo afin de l'adapter à leurs cas d'usage. Cette mise à jour s'accompagne de changements sur l'API.
Motif de la recommandation :Hugging Face détaille une solution d'assistant code auto-hébergée pour l'entreprise, avec les contraintes de conformité et le choix des modèles open source.
Motif de la recommandation :Présente les outils et le guide de conversion Core ML pour exécuter Llama 2 sur Mac, avec les limites de performances et les optimisations prévues.
Hugging Face déploie Huggy Lingo, un système qui détecte automatiquement la langue des datasets du Hub dépourvus de métadonnées linguistiques et ouvre des pull requests via librarian-bots pour les ajouter. Le modèle fastText de Meta (facebook/fasttext-language-identification), issu des travaux No Language Left Behind, identifie 217 langues à partir de 20 lignes de texte récupérées via l'API dataset viewer. Environ 87 % des quelque 50 000 datasets publics ne précisent pas leur langue, contre 13 % qui le font, l'anglais représentant à lui seul près de 19 % des tags déclarés.
Motif de la recommandation :Présente la quantification mixed-bit et des recettes prêtes à l'emploi pour exécuter Stable Diffusion XL sur Mac, avec des chiffres de taille et de latence.
Hugging Face a publié Agents.js, une bibliothèque JavaScript permettant de donner accès à des outils aux LLM dans le navigateur ou sur le serveur. Elle s'installe via npm install @huggingface/agents et expose l'objet HfAgent, qui accepte une commande en langage naturel puis génère du code appelant des outils multimodaux. La bibliothèque utilise par défaut OpenAssistant/oasst-sft-4-pythia-12b-epoch-3.5 via l'Inference API, mais accepte tout LLM personnalisé ainsi que des outils ajoutés par l'utilisateur, comme un outil de traduction anglais-allemand basé sur t5-base. Elle peut aussi recevoir des fichiers en entrée, par exemple une image à légender puis à lire à voix haute. Les auteurs recommandent d'utiliser generateCode et evaluateCode plutôt que run, car l'exécution directe évalue du code arbitraire dans un environnement non fiable.
OpenAI déploie les instructions personnalisées pour ChatGPT, une fonctionnalité qui permet de définir ses préférences et que ChatGPT les garde en mémoire pour toutes les conversations à venir.
Motif de la recommandation :L'original expose le déploiement des instructions personnalisées et leur persistance entre les conversations, ce qui permet de juger comment ajuster le comportement de ChatGPT.
Viable exploite GPT-4 pour analyser des données qualitatives à une échelle révolutionnaire avec une précision inégalée. L'outil s'appuie sur le modèle d'OpenAI pour traiter de grands volumes de données qualitatives.
Motif de la recommandation :L'article détaille la quantification 6 bits de Core ML et fournit les commandes de conversion, permettant de reproduire le déploiement de Stable Diffusion sur appareil.
OpenAI annonce des mises à jour de l'API comprenant des modèles plus pilotables, des capacités de function calling, une fenêtre de contexte plus longue et des prix plus bas.
Motif de la recommandation :L'annonce récapitule en une phrase les axes de mise à jour de l'API, ce qui aide à situer les changements de capacités et de tarifs.
Hugging Face Hub intègre désormais BERTopic, un outil de modélisation de topics qui rejoint la catégorie « topic models » aux côtés de LDA sur la plateforme. Cette intégration s'inscrit dans un écosystème couvrant plus de 50 catégories de tâches NLP, de la génération de texte à la reconnaissance d'entités nommées, en passant par la traduction automatique et l'analyse de sentiments. Les modèles BERTopic peuvent être publiés et partagés directement via le Hub.