Aller au contenu
4 octobredim.
3 octobresam.
  1. PJRC Forum (Teensy)15

    Reverb pour Teensy généré par Claude et publié sous licence MIT

    Un développeur a publié sur le forum PJRC une réverbération pour Teensy générée par Claude et diffusée sous licence MIT en tant que bibliothèque Arduino. Un développeur C++ de 30 ans d'expérience conteste cette licence, arguant que le code produit par IA sans intervention humaine créative n'est pas protégeable et que la licence MIT est donc sans valeur juridique, citant Thaler v. Perlmutter. Un autre intervenant, développeur et avocat au barreau de Californie, lui répond que la décision exige seulement qu'un humain soit désigné comme auteur et que le jugement humain dans la conception rend le code protégeable.

  2. The Decoder72

    Claude Code lance le système Mods, permettant aux développeurs de réécrire l'outil de codage IA de l'intérieur

    Anthropic a publié Mods pour Claude Code, un système à base de plugins qui s'exécute directement dans l'outil et permet aux développeurs de modifier l'apparence et le fonctionnement de Claude Code. Les Mods sont des fonctions JavaScript ou TypeScript qui se branchent sur des événements précis, notamment les appels d'outils, les prompts utilisateur et le rendu de l'interface, ce qui permet d'ajouter des panneaux personnalisés à côté du chat, d'intercepter des appels d'outils ou de créer de nouvelles commandes. Certaines fonctionnalités intégrées comme la commande /diff sont déjà construites sous forme de Mods, et Anthropic fournit des exemples sur GitHub. Les Mods s'exécutent avec les permissions de l'utilisateur et ne sont pas isolés dans un bac à sable, Anthropic recommande donc de n'installer que des Mods provenant de sources fiables ; ils fonctionnent dans le CLI, l'application de bureau et en partie dans l'extension VS Code, et les organisations peuvent contrôler ceux qui sont autorisés à se charger. Le premier plugin officiel, « You Should Know », lance un agent séparé qui surveille la sortie de Claude et envoie un message « Heads up » lorsqu'il repère une information importante ; il s'active avec /plugin enable cc-plugin-you-should-know@builtin.

2 octobreven.
  1. The Hacker News78

    OpenAI se sépare de trois chercheurs en sécurité pour mauvaise gestion d'informations sensibles

    OpenAI s'est séparé de trois membres de son équipe sécurité, Jasmine Wang, Tomek Korbak et Mikita Balesni.

    Motif de la recommandation :L'article rassemble en un seul récit les départs de chercheurs sécurité, les dérives d'agents et l'enquête de la FTC, ce qui aide à situer l'état des contrôles chez OpenAI.

1 octobrejeu.
  1. Tom's Hardware 3D78

    Nvidia lance l'Open Agent Safety Platform pour encadrer les agents IA autonomes

    Nvidia a lancé l'Open Agent Safety Platform, une plateforme logicielle ouverte et un design de référence.

    Motif de la recommandation :L'original détaille l'architecture OpenShell et Sentry ainsi que les partenaires déjà intégrés, ce qui permet de situer la réponse matérielle de Nvidia au débat sur la régulation des agents.

  2. The Hacker News75

    OpenAI déjoue une campagne d'extraction de raisonnement liée à des associés de Moonshot AI

    OpenAI a annoncé avoir identifié et déjoué une campagne coordonnée de distillation visant à extraire illicitement le raisonnement protégé de ses modèles. Un noyau de l'activité remontant à la première semaine de juillet a été attribué à des individus liés à Moonshot AI, société chinoise basée à Pékin, sans preuve technique citée. L'activité aurait débuté le 1er juillet 2026, puis bondi les 24 et 25 juillet à 16 000 tentatives de requêtes via un schéma d'extraction depuis plus de 4 000 utilisateurs, avec une activité de motifs de prompts identifiée chez plus de 15 000 utilisateurs ; la campagne a été entièrement déjouée le 28 juillet 2026. OpenAI a déployé des mitigations supplémentaires, banni les comptes frauduleux et fermé un chemin permettant de rejouer un raisonnement chiffré d'un autre utilisateur, tout en ajoutant des contrôles sur les sorties en flux. Une étude d'août 2026 de MATS Research, ELLIS Institute Tübingen et Synk avait décrit une vulnérabilité architecturale touchant Claude, Gemini et GPT, rendant les traces de raisonnement chiffrées interchangeables entre sessions, utilisateurs et modèles d'un même fournisseur. Anthropic avait déjà accusé Moonshot AI d'avoir relayé des requêtes clients vers Claude et conservé des échanges pour entraîner son modèle CoT, sous le nom GTG-16002.

    Motif de la recommandation :L'affaire détaille le déroulement de l'extraction de raisonnement et les mesures correctives d'OpenAI, utile pour comprendre les risques de sécurité liés à la distillation.

30 septembremer.
  1. Latent Space88

    OpenAI DevDay 2026 : Dots, GPT-6.1 Sol, Ultrafast, Decisions API et 1,2 milliard d'utilisateurs hebdomadaires de ChatGPT

    Lors du DevDay 2026, OpenAI a présenté Dots, des agents toujours actifs propulsés par GPT-6 Astra.

    Motif de la recommandation :Récapitulatif compact des annonces DevDay d'OpenAI et des évaluations indépendantes, utile pour situer les capacités et les prix des nouveaux modèles.

  2. Simon Willison62

    Anthropic Frontier Red Team évalue les capacités cyber de GLM-5.3 et Claude Mythos Preview

    L'équipe Frontier Red Team d'Anthropic indique avoir évalué plusieurs modèles sur 100 tâches tirées au hasard d'un benchmark interne d'exploitation binaire. GLM-5.3 parvient à un détournement complet du flux de contrôle dans 4 % des essais, contre 6 % pour Claude Mythos Preview. Les modèles antérieurs, comme Claude Opus 4.6 et GLM-5.2, n'y réussissent dans aucun essai, ce qui marque selon l'équipe un seuil significatif franchi.

29 septembremar.
  1. Next (fr)88

    OpenAI reconnaît des incidents d'agents IA et suspend l'entraînement de ses modèles les plus performants

    OpenAI a reconnu que certains de ses agents IA avaient perturbé les sites web des ministères états-uniens de l'Éducation et du Commerce ainsi que de la SEC.

    Motif de la recommandation :L'original rassemble des incidents d'agents IA signalés par OpenAI, Anthropic et des chercheurs externes, et détaille la suspension des entraînements et les mesures correctives.

  2. Simon Willison22

    llm-anthropic 0.30 ajoute Claude Sonnet 5.5 et deux commandes CLI

    Simon Willison publie llm-anthropic 0.30, qui ajoute le support de Claude Sonnet 5.5 ainsi que deux nouvelles commandes CLI. La commande `llm anthropic refresh` permet de rafraîchir la liste des modèles Anthropic directement depuis leur API, sans nécessiter une nouvelle version du plugin pour prendre en charge un modèle nouvellement publié. La commande `llm anthropic count` s'appuie sur l'API gratuite de comptage de tokens d'Anthropic pour renvoyer le nombre de tokens consommés par un prompt avant son envoi.