Aller au contenu
6mois17jourmercredi
6mois16jourmardi
  1. Google DeepMind62

    Google DeepMind publie l'AI Control Roadmap pour sécuriser les agents IA

    Google DeepMind présente son AI Control Roadmap, un cadre de défense en profondeur qui traite les agents internes comme potentiellement mal alignés et ajoute une couche de sécurité système au-delà de l'alignement des modèles. Le dispositif s'appuie sur un cadre de modélisation des menaces inspiré de MITRE ATT&CK, des superviseurs IA surveillant le raisonnement et les actions des agents, et des niveaux de détection D1-D4 et de prévention/réponse R1-R3 indexés sur les capacités du modèle. L'équipe indique avoir analysé un million de tâches d'agents de codage et utilisé ces données pour un moniteur en direct du agent Gemini Spark, la majorité des événements signalés provenant de mauvaises interprétations plutôt que d'une intention adverse. DeepMind publie en parallèle un cadre technique pour les décideurs, 'Three Layers of Agent Security'.

    Motif de la recommandation :Google DeepMind détaille son AI Control Roadmap et les niveaux D1-D4/R1-R3, une grille de sécurité des agents directement transposable à d'autres déploiements.

  2. OpenAI News60

    OpenAI 提出 Deployment Simulation, 用真实对话数据在发布前预测模型行为

    OpenAI 推出 Deployment Simulation, 一种在部署前预测 AI 模型行为的方法, 使用真实对话数据来提升安全性和评估准确性.

    Motif de la recommandation :OpenAI 提出用真实对话数据在发布前模拟部署以预测模型行为, 为安全评估提供可迁移的方法思路.

6mois13joursamedi
  1. Google Research22

    Google Research étudie comment l'IA aide les utilisateurs à comprendre les affections cutanées

    Google Research publie dans JAMA Dermatology une étude montrant que l'assistance par IA fait passer la précision d'identification des affections cutanées de 8 % (recherche web classique) à 23 %, et à 36 % lorsque les prédictions correspondent aux diagnostics de référence de dermatologues. Menée auprès de 2 345 participants, l'étude révèle aussi que l'IA n'améliore pas significativement la détermination des étapes suivantes : 30 % des utilisateurs du bras IA suggèrent une prise en charge moins urgente que celle d'un dermatologue, contre 27 % dans le groupe contrôle. Un second volet qualitatif examine l'usage de ces outils sur des cas personnels au sein de communautés diverses.

6mois11jourjeudi
6mois10jourmercredi
6mois8jourlundi
  1. Google DeepMind62

    Google DeepMind mesure l'impact de Guided Learning en Sierra Leone

    Google DeepMind publie les résultats d'un essai contrôlé randomisé pré-enregistré mené en Sierra Leone sur Guided Learning。

    Motif de la recommandation :L'essai contrôlé randomisé pré-enregistré en Sierra Leone fournit des chiffres d'effet et des données d'interaction, utiles pour évaluer l'usage pédagogique de l'IA.

6mois5jourvendredi
  1. Google Research78

    Google Research propose PHRM, un système de surveillance passive de la santé cardiaque via la caméra du smartphone

    Google Research présente PHRM, un système de recherche qui utilise la caméra frontale du smartphone pour capturer des vidéos du visage après le déverrouillage et estime la fréquence cardiaque par photopléthysmographie à distance et apprentissage profond, avec une MAPE inférieure à 10 % par rapport à l'électrocardiogramme. Le système agrège les mesures de la journée pour estimer la fréquence cardiaque au repos quotidienne, avec une MAE inférieure à 5 bpm par rapport aux objets portables. L'étude s'appuie sur plus de 350 000 clips vidéo de près de 700 participants, en veillant à la représentation des différents tons de peau, et publie le plus grand ensemble de données vidéo de smartphone disponible pour la recherche ainsi qu'un modèle pré-entraîné PHRM-mini.

    Motif de la recommandation :Le système PHRM utilise la caméra frontale du téléphone pour surveiller en arrière-plan la fréquence cardiaque et la fréquence cardiaque au repos, avec une précision proche de celle des objets portables, et publie le plus grand ensemble de données diversifié à ce jour.

5mois28jourjeudi
5mois20jourmercredi
5mois19jourmardi
  1. Google DeepMind62

    Google DeepMind : Co-Scientist accélère la recherche de cibles génétiques contre le vieillissement cellulaire

    Google DeepMind présente l'utilisation de Co-Scientist par les biologistes Omar Abudayyeh et Jonathan Gootenberg pour accélérer la recherche sur le vieillissement cellulaire. L'outil a analysé des dizaines de milliers d'articles et proposé plus de 20 facteurs génétiques nouveaux et plausibles à tester ; des tests en laboratoire ont validé quelques hypothèses, les facteurs recommandés ayant conduit les cellules vers un état plus jeune avec une fonction globale améliorée. Co-Scientist réduit aussi le temps d'analyse des données de criblage, qui pouvait prendre jusqu'à six mois, à quelques jours seulement.

    Motif de la recommandation :L'original montre comment Co-Scientist propose des cibles génétiques et réduit de six mois à quelques jours l'analyse de criblage, une méthode transférable à d'autres équipes.

5mois12jourmardi
5mois8jourvendredi
5mois6jourmercredi
4mois25joursamedi
4mois20jourlundi
3mois19jourjeudi
3mois13jourvendredi
  1. Berkeley AI Research36

    SPEX et ProxySPEX : identifier les interactions à grande échelle pour les LLM

    Berkeley AI Research présente SPEX et ProxySPEX, des algorithmes d'attribution capables d'identifier les interactions influentes dans les LLM à une échelle bien supérieure aux méthodes antérieures. SPEX exploite la parcimonie et le faible degré des interactions pour reformuler la recherche exhaustive en un problème de recouvrement parcimonieux résolu via des outils de traitement du signal et de théorie du codage. ProxySPEX tire parti de la propriété de hiérarchie des modèles et atteint les performances de SPEX avec environ 10x moins d'ablations. Sur une tâche d'analyse de sentiment, SPEX conserve une fidélité élevée lorsque le contexte atteint des milliers de features, là où LIME et Banzhaf affichent une fidélité nettement inférieure.

3mois11jourmercredi
3mois10jourmardi
3mois5jourjeudi
3mois4jourmercredi
2mois26jourjeudi
2mois20jourvendredi
2mois18jourmercredi
2mois13jourvendredi
2mois5jourjeudi
  1. OpenAI News65

    GPT-5 réduit le coût de la synthèse de protéines sans cellules

    Un laboratoire autonome combinant GPT-5 d'OpenAI avec l'automatisation cloud de Ginkgo Bioworks a réduit de 40 % le coût de la synthèse de protéines sans cellules grâce à une expérimentation en boucle fermée.

    Motif de la recommandation :Un laboratoire autonome combinant GPT-5 et l'automatisation cloud de Ginkgo Bioworks réduit de 40 % le coût de la synthèse de protéines sans cellules.

1mois10joursamedi
12mois18jourjeudi
12mois16jourmardi
  1. OpenAI News38

    OpenAI mesure la capacité de l'IA à accélérer la recherche biologique

    OpenAI présente un cadre d'évaluation en conditions réelles pour mesurer comment l'IA peut accélérer la recherche biologique en laboratoire humide. GPT-5 a été utilisé pour optimiser un protocole de clonage moléculaire, explorant à la fois les promesses et les risques de l'expérimentation assistée par IA.

12mois3jourmercredi
11mois24jourlundi
11mois20jourjeudi
11mois19jourmercredi
  1. OpenAI News62

    OpenAI 发布 GPT-5.1-Codex-Max 系统卡

    OpenAI 发布 GPT-5.1-Codex-Max 系统卡, 说明该模型实施的安全措施. 系统卡涵盖模型层面的缓解手段, 包括针对有害任务和提示注入的专项安全训练, 以及产品层面的缓解手段, 如 agent 沙箱和可配置的网络访问.

    Motif de la recommandation :公开 GPT-5.1-Codex-Max 的安全措施细节, 包括针对有害任务与提示注入的专项训练及沙箱, 网络访问配置等产品级缓解手段.