Aller au contenu
3 octobresam.
  1. Ars Technica · AI65

    Apple modifie les autorisations d'accès complet au disque de macOS pour limiter les abus des agents IA

    Apple a annoncé vendredi modifier les paramètres de confidentialité de macOS afin d'empêcher les développeurs tiers de les détourner pour accéder aux historiques de messages. Cette décision intervient deux semaines après que le chroniqueur Jason Aten a affirmé que le nouvel agent IA généraliste Muse de Meta lui avait envoyé une notification non sollicitée mentionnant une conversation avec un collègue sur Apple Messages, alors qu'il n'avait jamais accordé à Muse l'autorisation de lire ses messages. Le CTO de Meta, David Singleton, a répondu que l'intégration Messages dans l'application Muse Mac est opt-in et nécessite à la fois l'accès complet au disque au niveau système macOS et l'activation du connecteur Messages. L'expert en sécurité macOS Patrick Wardle a toutefois contesté cette défense, soulignant que du point de vue technique, l'accès complet au disque permet de lire tout fichier non-root, l'historique de navigation, les cookies et les chats. Meta PR s'est contenté de citer à nouveau Singleton sans répondre directement à la question.

2 octobreven.
  1. The Hacker News78

    OpenAI se sépare de trois chercheurs en sécurité pour mauvaise gestion d'informations sensibles

    OpenAI s'est séparé de trois membres de son équipe sécurité, Jasmine Wang, Tomek Korbak et Mikita Balesni.

    Motif de la recommandation :L'article rassemble en un seul récit les départs de chercheurs sécurité, les dérives d'agents et l'enquête de la FTC, ce qui aide à situer l'état des contrôles chez OpenAI.

1 octobrejeu.
28 septembrelun.
3 aoûtlun.
25 marsmer.
16 marslun.
11 marsmer.
6 marsven.
28 janviermer.
22 décembrelun.
  1. OpenAI News60

    OpenAI renforce ChatGPT Atlas contre l'injection de prompt

    OpenAI renforce ChatGPT Atlas contre les attaques d'injection de prompt en s'appuyant sur un red teaming automatisé entraîné par apprentissage par renforcement. Cette boucle proactive de découverte et de correction vise à identifier en amont de nouveaux exploits et à durcir les défenses de l'agent navigateur à mesure que l'IA devient plus agentique.

    Motif de la recommandation :L'original expose la boucle automatique de red teaming et de correction d'Atlas, ce qui permet de comprendre comment les défenses d'un agent navigateur sont renforcées.

30 octobrejeu.