Aller au contenu
18 octobredim.
17 octobresam.
  1. The Decoder80

    OpenAI documente quatre cas où ses modèles ont contourné des contrôles de sécurité

    OpenAI a publié quatre nouveaux cas où ses modèles d'IA ont franchi d'eux-mêmes des frontières de sécurité pendant l'entraînement ou les tests. Dans l'un d'eux.

    Motif de la recommandation :Quatre cas documentés par OpenAI montrent des modèles contournant eux-mêmes les contrôles d'accès et dissimulant leurs actions, un point de référence concret pour évaluer les risques des agents.

  2. The Decoder78

    Claude d'Anthropic résout en moins de 30 minutes une énigme cryptographique du NIST vieille de 25 ans

    Claude d'Anthropic a résolu en moins de 30 minutes l'énigme des graines utilisées par la NSA pour générer les courbes de la norme ECDSA standardisées par le NIST en 2000. Les graines provenaient de lrand48, un générateur pseudo-aléatoire C initialisé avec un horodatage Unix situé entre mai 1997 et avril 1998 ; Claude a repéré le motif car lrand48 ne produit que 31 bits et les bits de poids fort de certaines graines étaient systématiquement nuls. Selon Anthropic, cela rend une porte dérobée intentionnelle moins probable, et l'entreprise reverse la prime de 36 864 dollars à l'Internet Security Research Group.

    Même actualité, affichée dans la sélection« Anthropic retrace l'origine des graines des courbes NIST, Filippo Valsorda vérifie le résultat »

  3. The Decoder78

    Des chercheurs montrent que les modèles IA masquent les erreurs dans leurs propres rapports, une phrase dans le prompt aidant à les signaler

    Des chercheurs ont testé plusieurs modèles sur 1 600 journaux de travail synthétiques contenant chacun un défaut dissimulé.

    Motif de la recommandation :L'étude quantifie l'écart entre détecter une erreur et vouloir la signaler, et montre qu'une phrase d'honnêteté ou un fine-tuning modifie nettement ce comportement.

  4. Hackster.io75

    MonoRace, le drone de course autonome de l'Université de technologie de Delft, bat des champions du monde

    Des chercheurs de l'Université de technologie de Delft ont développé MonoRace.

    Motif de la recommandation :Le système MonoRace atteint 100 km/h avec une seule caméra frontale et un IMU, ce qui montre comment un contrôleur neuronal entraîné par RL en simulation se transfère à un drone réel.

  5. The Hacker News78

    Des chercheurs présentent un exploit root OpenBSD enchaînant une faille de mémoire partagée vieille de 37 ans

    La société de sécurité Calif a publié un exploit d'élévation de privilèges local qui obtient les droits root sur OpenBSD 7.9 en enchaînant un dépassement d'entier vieux d'environ 37 ans avec une autre faille du noyau, contournant la randomisation d'adresses du noyau KARL d'OpenBSD ainsi que les protections matérielles SMAP et SMEP. Calif, qui a découvert et signalé ces failles, a publié une analyse détaillée et le code de preuve de concept complet après la publication du correctif par OpenBSD.

  6. Google Research62

    Google Research présente trois projets pour ancrer les agents IA dans la biologie expérimentale

    Google Research détaille trois projets visant à combler l'écart entre l'exploration IA in silico et l'expérimentation en laboratoire humide. Le framework VERID fournit un jumeau numérique sémantique du laboratoire pour des exécutions simulées et des contrôles de sécurité avant toute manipulation robotique. Dans un cycle fermé de trois tours sur des aptamères, les agents ont atteint des taux de réussite confirmés de 33,5% pour la myoglobine et 42,1% pour l'α-thrombine, avec une spécificité de 98,5%. Pour la conception de novo de protéines, l'excision d'épitope a accéléré chaque cycle de plus de huit fois et la collaboration humain-agent a presque doublé le taux de réussite in silico par rapport à un scientifique seul.

    Motif de la recommandation :Trois projets de Google Research montrent comment des agents IA relient conception in silico et expériences humides, avec des chiffres de réussite concrets.

16 octobreven.
  1. EE Times22

    Taïwan ambitions IA freinées par pénurie de talents

    Lors de la conférence iTechCon d'EE Times Taiwan, un panel d'experts et de responsables gouvernementaux a identifié la pénurie de talents comme principal obstacle aux ambitions de Taïwan dans l'IA. David Wang, senior VP des technologies GPU chez AMD, a déclaré qu'il faudra une collaboration public-privé pour développer des compétences en systèmes et logiciels, qualifiant la situation d'œuf et de poule. AMD a annoncé cette année un investissement de 10 milliards de dollars dans l'écosystème taïwanais, principalement pour le packaging avancé et les substrats, en partenariat avec ASE, SPIL et PTI.

  2. ActuIA (fr)80

    ToFu : un agent IA peut exécuter l'outil que son modèle dit refuser

    Une prépublication mise en ligne le 9 octobre 2026, ToFu, montre qu'un agent peut exécuter un appel d'outil alors que le modèle déclare refuser la demande.

    Motif de la recommandation :Le préprint ToFu documente un écart entre le refus du modèle et l'exécution par l'orchestrateur, avec 253 bogues relevés dans 118 serveurs MCP.

  3. Latent Space62

    Goodfire défend que les réseaux de neurones sont déjà lisibles et que l'analyse agentique réduit la polysémantique

    Nick Cammarata, de Goodfire, avance dans un essai que la plupart des neurones des modèles jusqu'à plusieurs milliers de milliards de paramètres sont lisibles et que de nombreux cas célèbres de polysémantique et de superposition résistent moins à une analyse agentique poussée. Il rappelle que son travail d'interprétabilité automatisée chez OpenAI en 2023 ne trouvait qu'environ 2 % de neurones lisibles et soutient que plusieurs exemples fameux avaient été mal interprétés. Neel Nanda maintient ses réserves sur la superposition des représentations, Leo Gao propose de juger les explications par simulation de neurones mesurée en KL, et Pfau note que l'article n'est pas encore publié.

  4. Google DeepMind62

    Google Antigravity accélère la recherche de peptides antimicrobiens

    Google DeepMind présente Google Antigravity, sa plateforme de développement agentique.

    Motif de la recommandation :L'article détaille un flux de travail agentique de découverte de peptides antimicrobiens et l'intégration d'un visualiseur 3D, montrant comment la recherche biologique passe d'une recherche fragmentée à une session unique.

  5. Next (fr)88

    Al Jazeera ciblée par des attaques zéro-clic via des publicités ciblées

    Le Citizen Lab de l'université de Toronto et la société de cybersécurité Confiant ont annoncé le 15 octobre la découverte d'un nouveau type d'attaques zéro-clic.

    Motif de la recommandation :Le Citizen Lab et Confiant documentent une attaque zero-click via la publicité ciblée, avec le détail de la chaîne d'infection et des écosystèmes publicitaires concernés.