Aller au contenu
Latent Space· Richard MacManus·· 2026-10-15AI Score38

OpenAI et Anthropic : comment équilibrer autonomie et sécurité des agents financiers

Crossing the Threshold: How OpenAI and Anthropic Approach Autonomy and Safety in Financial Agents

AI Introduction

OpenAI et Anthropic ont présenté à l'AI Engineer New York leurs approches pour concilier autonomie des agents et sécurité dans la finance. Joseph Kim (OpenAI) a évoqué un « seuil d'utilité » où les modèles deviennent assez fiables pour déléguer la génération d'idées d'investissement et le trading d'ici 2027, avec une traçabilité intégrée à ChatGPT for Financial Services. Anthropic a détaillé une couche de confiance en trois étapes (identité et permissions, sandbox et approbation, robustesse dans le temps) pour Claude for Financial Advisors, tandis que Two Sigma et Bloomberg ont mis en avant classificateurs automatiques, contrôles déterministes hors du modèle et kill switches.

Source :Latent Space · latent.space