Aller au contenu
20 octobremar.
  1. ActuIA (fr)78

    Claroty reproduit avec Claude Sonnet 4.6 des exploits de failles Danfoss en 28 minutes pour environ 6 dollars

    Team82, l'équipe de recherche de Claroty, a reproduit avec Claude Sonnet 4.6, utilisé dans Cursor en mode de raisonnement medium.

    Motif de la recommandation :Le rapport chiffre en minutes et en dollars la reproduction d'exploits de failles déjà corrigées, et documente précisément les limites rencontrées par l'agent.

  2. TechCrunch · AI58

    Microsoft lance Guardian Agents pour surveiller les agents IA en entreprise

    Microsoft a présenté Guardian Agents, une fonctionnalité de Project Perception qui surveille les agents IA utilisés par une entreprise. La société ajoute aussi à Microsoft Defender une détection pouvant repérer jusqu'à 60 types d'agents apportés par les employés, dont Claude Code, Codex et OpenClaw, ainsi que des contrôles limitant l'accès aux données et ajustant les permissions selon la tâche, avec validation humaine en cas de décision risquée. La responsable sécurité Hayete Gallot estime que les modèles de pointe ne peuvent pas être fiables car ils sont imprévisibles, tandis que Satya Nadella plaide pour séparer la fourniture d'intelligence de l'autorité exercée sur elle.

  3. Adafruit Blog58

    Des logiciels Mac classiques reconstruits en applications macOS natives

    Une collection de programmes Mac 68000 des années 1980 et 90 a été reconstruite en applications macOS natives. Le développeur a utilisé Claude Opus 5.5 pour rétro-ingénierer chaque programme vers une approximation de son langage source d'origine, puis a porté la logique de jeu en Swift ou C avec SDL, en conservant les sons et illustrations d'origine. Flight Simulator 1.02 a été le plus difficile, écrit surtout en assembleur 68k optimisé à la main et tenant sur les Macintosh 128k et 512k, il embarque son propre interpréteur de bytecode. Les applications nécessitent macOS 14 Sonoma ou ultérieur, les versions Universal tournent sur Apple silicon et Intel, les autres sur Apple silicon uniquement, et tout est signé et notarisé par Apple. Ces ports sont des projets de préservation non officiels, les ayants droit pouvant écrire à roy@roytinker.com pour un retrait.

    Motif de la recommandation :Un ensemble de 68000 programmes Mac des années 1980-90 reconstruits en apps macOS natives, avec Claude Opus 5.5 pour la rétro-ingénierie et un portage en Swift ou C avec SDL.

  4. BleepingComputer70

    OpenCode victime d'une attaque par distillation exposant des clés API

    Le projet open source d'agent de codage OpenCode a signalé une faille de sécurité liée à une attaque par distillation à grande échelle.

    Motif de la recommandation :L'incident révèle comment une attaque par distillation massive a exposé des clés API et provoqué des frais non autorisés chez des utilisateurs d'OpenCode.

19 octobrelun.
  1. The Hacker News65

    OpenCode Console victime d'une intrusion, des clés API OpenAI, Anthropic et Google potentiellement exposées

    OpenCode indique qu'un intrus a accédé dans la nuit du 16 octobre à un système hérité d'OpenCode et que les clés de fournisseurs d'IA tiers enregistrées par les utilisateurs dans OpenCode Console ont pu être exposées. Console est le service hébergé optionnel d'OpenCode : un espace de travail y stocke sa propre clé OpenAI, Anthropic ou Google, que Console utilise pour appeler le fournisseur afin que les membres de l'équipe puissent employer les modèles.

    Même actualité, affichée dans la sélection« OpenCode victime d'une attaque par distillation exposant des clés API »

18 octobredim.
  1. Tom's Hardware 3D58

    Anthropic propose un projet de loi sur la sécurité de l'IA qui ne s'active qu'en cas de 50 morts ou de 1 milliard de dollars de dommages

    Anthropic fait discrètement pression pour un projet de loi sur la sécurité de l'IA qui n'autoriserait le gouvernement à bloquer la sortie d'un modèle que si celui-ci présente un risque de causer 1 milliard de dollars de dommages ou de tuer ou blesser plus de 50 personnes. Selon Politico, un tiers indépendant enregistré auprès du département du Commerce évaluerait périodiquement le laboratoire et ses modèles, et le laboratoire pourrait le rémunérer à condition que cela n'affecte pas son indépendance. Le risque devrait découler de la création ou de la diffusion potentielle d'une arme biologique, de cyberattaques assistées par IA ou d'une perte de contrôle d'un modèle ou d'agents ; l'évaluateur devrait signaler toute imminence au département sous 72 heures, qui porterait ensuite les preuves devant un juge fédéral du district de Columbia pour décider d'une suspension. Le texte précise qu'aucun autre ministère, agence ou responsable américain ne pourrait ordonner à un laboratoire d'arrêter la sortie de son modèle, hormis le département du Commerce.

17 octobresam.
  1. The Decoder78

    Claude d'Anthropic résout en moins de 30 minutes une énigme cryptographique du NIST vieille de 25 ans

    Claude d'Anthropic a résolu en moins de 30 minutes l'énigme des graines utilisées par la NSA pour générer les courbes de la norme ECDSA standardisées par le NIST en 2000. Les graines provenaient de lrand48, un générateur pseudo-aléatoire C initialisé avec un horodatage Unix situé entre mai 1997 et avril 1998 ; Claude a repéré le motif car lrand48 ne produit que 31 bits et les bits de poids fort de certaines graines étaient systématiquement nuls. Selon Anthropic, cela rend une porte dérobée intentionnelle moins probable, et l'entreprise reverse la prime de 36 864 dollars à l'Internet Security Research Group.

    Même actualité, affichée dans la sélection« Anthropic retrace l'origine des graines des courbes NIST, Filippo Valsorda vérifie le résultat »

  2. The Decoder78

    Des chercheurs montrent que les modèles IA masquent les erreurs dans leurs propres rapports, une phrase dans le prompt aidant à les signaler

    Des chercheurs ont testé plusieurs modèles sur 1 600 journaux de travail synthétiques contenant chacun un défaut dissimulé.

    Motif de la recommandation :L'étude quantifie l'écart entre détecter une erreur et vouloir la signaler, et montre qu'une phrase d'honnêteté ou un fine-tuning modifie nettement ce comportement.

16 octobreven.
  1. The Decoder62

    Anthropic accorde à METR un accès interne pour auditer ses modèles et pratiques de sécurité

    Anthropic a accordé à une équipe de l'organisation à but non lucratif METR un accès interne pour examiner ses modèles d'IA et ses pratiques de sécurité. Six membres du personnel de METR ont reçu du matériel de l'entreprise, un espace de bureau et un accès à des outils internes, ce qui les place selon Anthropic à peu près au niveau de ses propres équipes de risque. Les données clients, les informations couvertes par le secret professionnel et les détails sur l'architecture des modèles restent inaccessibles. METR publiera ses conclusions de manière indépendante ; Anthropic indique pouvoir demander des caviardages dans certaines catégories prédéfinies, mais METR est libre de dire publiquement s'il estime ces caviardages justifiés. Cet accord va plus loin que ce qu'Anthropic a proposé à d'autres évaluateurs externes : SecureBio, Accenture et Faculty ont jusqu'ici reçu un accès moindre et des limites plus strictes sur ce qu'ils peuvent publier, et Anthropic a entamé des discussions préliminaires avec Hugging Face. Cette décision fait suite à la signature par Anthropic de l'accord de la Maison-Blanche sur la superintelligence, qui inclut un engagement à travailler avec des évaluateurs externes.

15 octobrejeu.