Aller au contenu
8mois17jourlundi
8mois11jourmardi
8mois10jourlundi
8mois7jourvendredi
8mois6jourjeudi
8mois5jourmercredi
8mois4jourmardi
  1. Mistral AI67

    Mistral AI publie Shieldstral, un classificateur de sécurité multimodal 3B à poids ouverts

    Mistral AI publie Shieldstral, un classificateur de sécurité multimodal de 3B paramètres sous licence Apache 2.0。

    Motif de la recommandation :Un classificateur de sécurité multimodal de 3B paramètres, à poids ouverts et adaptable par politique, qui permet de mesurer l'impact sur les garde-fous existants.

7mois31jourvendredi
7mois23jourjeudi
  1. Google Research67

    Google Research présente un ordinateur quantique qui apprend de ses erreurs

    Google Research a publié dans Nature un cadre d'apprentissage par renforcement où un agent autonome apprend des détections d'erreurs quantiques pour ajuster en continu des milliers de paramètres de contrôle et stabiliser le système pendant le calcul. Sur le processeur supraconducteur Willow, avec une dérive artificielle injectée, ce pilotage par RL a amélioré la stabilité logique du code correcteur d'erreurs d'un facteur 3,5, et un affinage RL après calibration experte a réduit le taux d'erreur logique de 20 % supplémentaires. L'expérience a ramené les erreurs logiques des mémoires quantiques à moins d'une pour mille cycles de correction dans le code de surface et une pour cent dans le code couleur. Des simulations avec des centaines de qubits et des dizaines de milliers de paramètres de contrôle indiquent que le nombre d'itérations d'entraînement RL nécessaires est indépendant de la taille du système.

    Motif de la recommandation :L'article détaille un cadre d'apprentissage par renforcement pour la calibration quantique continue et rapporte des gains mesurés sur le processeur Willow.

7mois21jourmardi
7mois20jourlundi
7mois17jourvendredi
7mois16jourjeudi
  1. Hugging Face Blog88

    Hugging Face révèle une intrusion menée par un système d'agent IA autonome

    Hugging Face a détecté et traité une intrusion dans une partie de son infrastructure de production。

    Motif de la recommandation :Le récit détaillé d'une intrusion menée par un agent autonome et des moyens de détection par LLM offre un retour d'expérience concret sur la défense des plateformes IA.

7mois15jourmercredi
7mois9jourjeudi
  1. Google Research74

    Google Research présente SensorFM, un modèle de fondation pour les données de santé portables

    Google Research présente SensorFM, un grand modèle de fondation de capteurs pré-entraîné sur plus de mille milliards de minutes de signaux multimodaux issus de cinq millions de participants consentants, couvrant plus de 100 pays et plus de 20 modèles d'appareils Fitbit et Pixel Watch. Le modèle apprend par reconstruction auto-supervisée avec le cadre Adaptive and Inherited Masking (AIM), qui traite les données manquantes comme un artefact naturel plutôt que de les imputer ou de les écarter. Sur 35 tâches de santé issues de trois études prospectives totalisant 13 985 participants, les sondes linéaires sur les embeddings de SensorFM surpassent la baseline supervisée à caractéristiques d'ingénierie sur 34 tâches, et le plus grand modèle (SensorFM-B) réduit la perte de reconstruction de 31 % par rapport à la plus petite variante, avec un gain moyen de 9 % en AUC sur les tâches de classification et de 21 % en coefficient de Pearson sur les tâches de régression. Un système d'agents LLM collaboratifs et concurrents a exploré plus de 30 000 solutions candidates pour construire des têtes de prédiction, battant une sonde linéaire simple sur 16 des 20 tâches de classification et 12 des 15 tâches de régression. Intégré à un Personal Health Agent, SensorFM a permis des résumés de santé jugés significativement meilleurs que la baseline sur cinq dimensions par un panel de cliniciens, sans différence statistiquement significative avec l'utilisation de mesures de référence réelles.

    Motif de la recommandation :L'article détaille un modèle de fondation entraîné sur plus de mille milliards de minutes de données de capteurs, avec des gains mesurés sur 35 tâches de santé.

6mois26jourvendredi
6mois24jourmercredi
  1. Mistral AI58

    Mistral AI renforce le contrôle des connecteurs avec des contrôles admin, des clés API à portée limitée et un débogueur MCP

    Mistral AI ajoute plusieurs capacités à ses connecteurs pour sécuriser l'intégration aux plateformes d'entreprise. Les contrôles admin enrichis (GA) permettent de gérer l'accès aux connecteurs par espace de travail et d'activer ou désactiver des outils individuels au niveau d'une organisation ou d'un espace de travail, les clés API avec portée de connecteur (GA) évitent l'usurpation d'identité dans les charges automatisées, et les connecteurs multi-comptes (GA) permettent d'authentifier un même connecteur avec plusieurs comptes. Le Connectors Debugger (Public Preview) analyse la cause racine des connexions MCP en 11 étapes, tandis que les connecteurs dans Workflows (Public Preview) et Vibe Code (GA) réutilisent ces accès gouvernés. Le répertoire compte plus de 60 intégrations, avec des connecteurs MCP personnalisés pour les plateformes non listées.

6mois23jourmardi
6mois22jourlundi
  1. OpenAI News62

    OpenAI lance Daybreak, avec Codex Security et GPT-5.5-Cyber

    OpenAI présente les nouveaux outils Daybreak, dont Codex Security et GPT-5.5-Cyber, destinés à aider les organisations à trouver, valider et corriger les vulnérabilités à grande échelle.

    Motif de la recommandation :Présentation des nouveaux outils de sécurité d'OpenAI et de leur objectif de détection et de correction des vulnérabilités à grande échelle.

6mois19jourvendredi
6mois16jourmardi
  1. Google DeepMind62

    Google DeepMind publie l'AI Control Roadmap pour sécuriser les agents IA

    Google DeepMind présente son AI Control Roadmap, un cadre de défense en profondeur qui traite les agents internes comme potentiellement mal alignés et ajoute une couche de sécurité système au-delà de l'alignement des modèles. Le dispositif s'appuie sur un cadre de modélisation des menaces inspiré de MITRE ATT&CK, des superviseurs IA surveillant le raisonnement et les actions des agents, et des niveaux de détection D1-D4 et de prévention/réponse R1-R3 indexés sur les capacités du modèle. L'équipe indique avoir analysé un million de tâches d'agents de codage et utilisé ces données pour un moniteur en direct du agent Gemini Spark, la majorité des événements signalés provenant de mauvaises interprétations plutôt que d'une intention adverse. DeepMind publie en parallèle un cadre technique pour les décideurs, 'Three Layers of Agent Security'.

    Motif de la recommandation :Google DeepMind détaille son AI Control Roadmap et les niveaux D1-D4/R1-R3, une grille de sécurité des agents directement transposable à d'autres déploiements.

  2. OpenAI News60

    OpenAI 提出 Deployment Simulation, 用真实对话数据在发布前预测模型行为

    OpenAI 推出 Deployment Simulation, 一种在部署前预测 AI 模型行为的方法, 使用真实对话数据来提升安全性和评估准确性.

    Motif de la recommandation :OpenAI 提出用真实对话数据在发布前模拟部署以预测模型行为, 为安全评估提供可迁移的方法思路.

6mois11jourjeudi
6mois10jourmercredi
6mois8jourlundi
6mois4jourjeudi
6mois2jourmardi
6mois1jourlundi
5mois29jourvendredi
5mois28jourjeudi