Aller au contenu
16 octobreven.
15 octobrejeu.
  1. Latent Space38

    OpenAI et Anthropic : comment équilibrer autonomie et sécurité des agents financiers

    OpenAI et Anthropic ont présenté à l'AI Engineer New York leurs approches pour concilier autonomie des agents et sécurité dans la finance. Joseph Kim (OpenAI) a évoqué un « seuil d'utilité » où les modèles deviennent assez fiables pour déléguer la génération d'idées d'investissement et le trading d'ici 2027, avec une traçabilité intégrée à ChatGPT for Financial Services. Anthropic a détaillé une couche de confiance en trois étapes (identité et permissions, sandbox et approbation, robustesse dans le temps) pour Claude for Financial Advisors, tandis que Two Sigma et Bloomberg ont mis en avant classificateurs automatiques, contrôles déterministes hors du modèle et kill switches.

14 octobremer.
  1. Ars Technica · AI78

    Des chercheurs contournent les garde-fous de DALL·E 3, Nano Banana 2 et GPT-Image-2 pour générer des contenus explicites

    White Circle, une société à mission soutenue par des cadres d'Anthropic, DeepMind.

    Motif de la recommandation :L'article détaille la méthode RISE et un taux de contournement de 13 % sur DALL·E 3, Nano Banana 2 et GPT-Image-2, ce qui permet de situer le niveau réel des garde-fous des principaux générateurs d'images.