OpenAI et Anthropic : comment équilibrer autonomie et sécurité des agents financiers
Crossing the Threshold: How OpenAI and Anthropic Approach Autonomy and Safety in Financial Agents
OpenAI et Anthropic ont présenté à l'AI Engineer New York leurs approches pour concilier autonomie des agents et sécurité dans la finance. Joseph Kim (OpenAI) a évoqué un « seuil d'utilité » où les modèles deviennent assez fiables pour déléguer la génération d'idées d'investissement et le trading d'ici 2027, avec une traçabilité intégrée à ChatGPT for Financial Services. Anthropic a détaillé une couche de confiance en trois étapes (identité et permissions, sandbox et approbation, robustesse dans le temps) pour Claude for Financial Advisors, tandis que Two Sigma et Bloomberg ont mis en avant classificateurs automatiques, contrôles déterministes hors du modèle et kill switches.
Source :Latent Space · latent.space