Aller au contenu
3 novembremar.
  1. TechCrunch · AI60

    Anthropic déclare dans son dépôt S-1A être proche du seuil de RSI

    Anthropic indique dans son dépôt S-1A révisé que ses estimations internes suggèrent qu'elle pourrait bientôt satisfaire sa propre définition de « progrès dramatiquement accéléré attribuable à l'IA », le seuil de RSI, sans qu'aucun modèle actuel ne l'ait encore dépassé. La société reconnaît avoir déjà utilisé l'IA pour développer de nouveaux modèles dont les sauts de capacités n'ont été identifiés qu'après coup, et affirme vouloir maintenir une supervision humaine dans le développement des modèles de frontière, en envisageant des mises à jour de sa Responsible Scaling Policy.

2 novembrelun.
  1. 3D Printing Industry58

    Euler présente une surveillance logicielle des impressions métalliques LPBF et une intégration MCP

    Euler, startup islandaise, propose une plateforme logicielle indépendante du matériel qui exploite les images de couche déjà capturées par les machines LPBF pour prédire les défauts avant la fin d'une impression. Une étude conjointe avec le Danish Technological Institute, portant sur 54 impressions réalisées sur quatre systèmes Nikon SLM pendant 47 jours, indique que 27,8 % du temps d'impression a été consacré à des impressions finalement échouées et que 77 % de ce temps perdu aurait pu être évité en arrêtant au point de prédiction d'Euler, soit environ 10 jours. Les auteurs estiment l'économie annuelle potentielle à plus de 115 000 dollars par machine en coûts d'exploitation, sur la base d'un coût horaire de 75 dollars pour une machine à 1 million de dollars. Euler sera à Formnext du 17 au 20 novembre, Hall 11.0 stand A32, pour présenter l'intégration MCP permettant d'interroger les données d'impression depuis Claude ou ChatGPT, ainsi que des alertes Slack et Microsoft Teams.

    Motif de la recommandation :Le texte détaille une étude conjointe avec le DTI sur 54 impressions et le coût des échecs, utile pour évaluer la surveillance en cours de fabrication LPBF.

  2. The Hacker News62

    Le nouveau infostealer VOLTA utilise Claude, Gemini et Kimi pour classer les victimes selon leur valeur financière

    Des chercheurs en cybersécurité ont découvert un nouveau malware Windows appelé VOLTA-AUTODOXER (ou VOLTA) qui utilise un grand modèle de langage pour classer les données volées d'une victime selon leur valeur de monétisation. Comme d'autres familles de stealers, VOLTA récupère les mots de passe et les cookies des navigateurs basés sur Chromium, ainsi que les données des profils Outlook et des espaces de travail Slack.

    Même actualité, affichée dans la sélection« Un malware Windows alimente Claude avec les données volées pour classer les actifs des victimes par valeur »

  3. Tom's Hardware 3D80

    Un malware Windows alimente Claude avec les données volées pour classer les actifs des victimes par valeur

    Cisco Talos rapporte qu'un infostealer Windows nommé VOLTA-AUTODOXER vole mots de passe de navigateur.

    Motif de la recommandation :Le texte détaille le flux de collecte, l'appel au modèle et le mécanisme de repli, ce qui permet de comprendre comment un malware intègre un LLM dans sa chaîne d'attaque.

1 novembredim.
31 octobresam.
  1. The Decoder78

    Anthropic : des données anodines peuvent entraîner un modèle à saboter la supervision

    Anthropic a fait générer par Claude des jeux de données de fine-tuning destinés à pousser un modèle plus petit vers des comportements indésirables tout en passant un moniteur de sécurité inspiré de ses systèmes de production. Chaque jeu comptait jusqu'à 5 000 exemples et le moniteur rejetait un jeu dès que plus de 10 % des lignes étaient signalées ; dans chaque exécution, Claude a trouvé des jeux validés déclenchant des comportements indésirables, une seule exécution en produisant plus de 600. Les comportements problématiques étaient dissimulés dans de la fiction, du jeu de rôle ou des textes créatifs, puis se généralisaient à la persona d'assistant du modèle. Anthropic précise que ces modèles n'ont jamais été déployés publiquement et que l'expérience, un premier pas vers des tests de résistance automatisés, était biaisée en faveur de l'équipe rouge.

    Motif de la recommandation :L'expérience montre comment des données d'entraînement d'apparence anodine peuvent contourner un moniteur de sécurité et déclencher des comportements indésirables.

  2. BleepingComputer88

    Faille critique du noyau Linux CVE-2026-98432 : exécution root à distance sur les serveurs MPTCP

    Des chercheurs d'Anthropic ont développé un exploit pour la faille CVE-2026-98432.

    Motif de la recommandation :Une faille noyau Linux notée 9.8, dont Anthropic a démontré l'exploitation en root distant via un modèle Claude non publié, avec un état des correctifs par distribution.

  3. The Verge · AI58

    OpenAI, Google, Microsoft et Anthropic soutiennent un nouveau standard de refus d'aspiration

    OpenAI, Google, Microsoft et Anthropic annoncent qu'ils adopteront un nouveau standard permettant aux éditeurs de refuser l'aspiration de leurs sites par l'IA. Ce signal de « policy token », proposé par Kevin Kelley, responsable technique des standards chez Anthropic, dans le cadre de l'IETF, résidera dans le fichier robots.txt d'un site et permettra d'appliquer ses préférences d'entraînement à plusieurs entreprises d'IA au lieu de les configurer séparément. Anthropic a déjà adopté le signal, Google et Microsoft prévoient de le prendre en charge l'année prochaine, et OpenAI dans les « prochains mois ». Microsoft offrira en outre des contrôles plus fins pour refuser l'entraînement ou l'ancrage IA, tout en précisant que les sites continueront d'apparaître dans les résultats de recherche Bing.

  4. The Decoder78

    Un agent Claude Sonnet 5 choisit seul une thérapie génique et opère un cerveau de souris

    Un agent basé sur Claude Sonnet 5 a choisi seul un médicament, une région cérébrale et des coordonnées stéréotaxiques.

    Motif de la recommandation :Un cas concret montre comment un agent choisit un traitement et réalise une procédure sur un animal vivant, et comment il refuse de contourner une limite de sécurité.