Aller au contenu
  1. Adafruit Blog58

    Survival LLM : un assistant IA et une bibliothèque d'urgence fonctionnant entièrement en local

    Survival LLM est un assistant IA gratuit et open source qui fonctionne entièrement sur une machine locale et répond à partir de références stockées en citant les articles utilisés avec le passage exact surligné. La bibliothèque comprend des références médicales, des recommandations du FEMA et du CDC, des manuels de survie, des guides de réparation et environ 930 000 articles Wikipédia ; le téléchargement complet fait 9 Go, ou 19 Go une fois installé, et une version réduite sans Wikipédia ni iFixit fait 1,3 Go. L'installation nécessite une connexion internet et prend de 20 minutes à environ 2h30, puis l'application fonctionne hors ligne sans compte ni suivi, en vérifiant la mémoire disponible pour télécharger un modèle adapté ; elle tourne sur Mac Apple Silicon avec macOS 14 ou plus récent et Windows 10 ou 11 64 bits, et les développeurs ont mesuré environ 100 W sur un MacBook Pro lors des réponses, à raison de 5 à 40 secondes par question.

    Motif de la recommandation :Présente une solution d'assistant IA hors ligne avec citations et une bibliothèque de secours de 9 Go, utile pour comprendre les compromis d'un déploiement local.

  1. Google Research62

    Google lance Agentic RAG dans Gemini Enterprise Agent Platform

    Google présente une version hébergée de Cross-Corpus Retrieval propulsée par Agentic RAG dans Gemini Enterprise Agent Platform.

    Motif de la recommandation :L'article détaille l'architecture multi-agents et le mécanisme de contexte suffisant, avec des gains de précision mesurés sur FramesQA.

  1. Hugging Face Blog60

    JetBrains publie Mellum2, un modèle MoE de 12B paramètres

    JetBrains publie Mellum2, un modèle Mixture-of-Experts de 12B paramètres entraîné de zéro sur le langage naturel et le code.

    Motif de la recommandation :JetBrains publie un MoE 12B à 2,5B paramètres actifs sous Apache 2.0, avec des cas d'usage précis pour le routage, le RAG et les sous-agents.

  1. Mistral AI70

    Mistral AI lance Search Toolkit, un cadre open source pour les pipelines de recherche IA

    Mistral AI publie en aperçu public Search Toolkit, un cadre composable et open source pour construire des pipelines de recherche destinés aux applications IA.

    Motif de la recommandation :Un cadre unifié d'ingestion, de récupération et d'évaluation, open source et déployable sur site, qui permet de comparer les configurations de recherche sur ses propres données.

  1. Hugging Face Blog60

    Hugging Face publie la famille Ettin Reranker, six CrossEncoder de 17M à 1B

    Hugging Face publie six nouveaux rerankers Sentence Transformers CrossEncoder, de 17M à 1B de paramètres.

    Motif de la recommandation :Six rerankers de 17M à 1B, avec données et recette d'entraînement complètes, permettent d'évaluer le compromis qualité-latence d'un pipeline retrieve-then-rerank.

  1. Hugging Face Blog62

    Sentence Transformers v5.4 prend en charge les embeddings et rerankers multimodaux

    Sentence Transformers v5.4 permet d'encoder et de comparer textes, images, audio et vidéos via la même API.

    Motif de la recommandation :La v5.4 de Sentence Transformers unifie texte, image, audio et vidéo dans une même API d'embedding et de reranking, avec la liste des modèles compatibles.

  1. Hugging Face Blog78

    Construire un modèle d'embedding spécialisé en moins d'une journée

    NVIDIA détaille un pipeline en six étapes pour transformer un modèle d'embedding généraliste (Llama-Nemotron-Embed-1B-v2) en modèle spécialisé à un domaine.

    Motif de la recommandation :Présente un pipeline complet de fine-tuning d'embedding pour RAG, avec commandes, hyperparamètres et résultats mesurés sur un GPU unique.

  1. Mistral AI72

    Mistral lance l'Agents API pour construire des agents IA

    Mistral annonce l'Agents API, un framework dédié qui combine ses modèles avec des connecteurs intégrés pour l'exécution de code.

    Motif de la recommandation :L'annonce détaille les connecteurs intégrés, la mémoire persistante et l'orchestration multi-agents, avec des chiffres SimpleQA montrant l'apport de la recherche web.

  1. Mistral AI78

    Mistral AI lance Mistral OCR, une API de reconnaissance optique de caractères pour documents complexes

    Mistral AI annonce Mistral OCR, une API de reconnaissance optique de caractères qui traite images et PDF en entrée et restitue un contenu ordonné mêlant texte et images. Le modèle est présenté comme multilingue et multimodal, avec des benchmarks internes le plaçant devant Google Document AI, Azure OCR, Gemini-1.5 et GPT-4o sur les documents complexes, les mathématiques, le multilingue, les scans et les tableaux. L'API mistral-ocr-latest est facturée 1000 pages par dollar, avec environ le double de pages par dollar en inférence par lots, disponible sur la Plateforme et bientôt chez les partenaires cloud et en local, avec auto-hébergement sélectif pour les organisations traitant des informations sensibles.

    Motif de la recommandation :L'original expose les performances comparées de Mistral OCR et son tarif à la page, utile pour évaluer son intégration dans un pipeline RAG documentaire.

  1. OpenAI News60

    OpenAI acquiert Rockset

    OpenAI annonce l'acquisition de Rockset. Le communiqué ne précise ni le montant de l'opération ni les modalités de l'intégration.

  1. Hugging Face Blog62

    Hugging Face : quantification binaire et scalaire des embeddings pour un retrieval plus rapide et moins coûteux

    Hugging Face présente la quantification des embeddings comme une étape de post-traitement qui réduit la mémoire et le stockage sans réduire la dimensionnalité. La quantification binaire convertit les valeurs float32 en 1 bit, soit une réduction de 32x, et permet de conserver environ 96 % des performances de retrieval grâce à une étape de rescoring avec l'embedding de requête float32 ; la quantification scalaire en int8 réduit la taille de 4x et atteint environ 99 % des performances avec un rescore_multiplier de 4 à 5. Sur un benchmark MTEB Retrieval, la quantification binaire offre un gain de vitesse moyen de 24,76x et la quantification int8 de 3,66x. Une démo combine recherche binaire et rescoring int8 sur 41 millions de textes Wikipédia, avec 5,2 Go de mémoire et 52 Go d'espace disque contre 200 Go pour un retrieval float32 classique. Le code est disponible via Sentence Transformers et des scripts d'exemple.

    Motif de la recommandation :L'article détaille les principes et le code de la quantification binaire et scalaire des embeddings, avec des gains de vitesse et de coût mesurés sur 41 millions de textes.

Fin de la liste