OpenAI News·· 2018-05-03sélectionAI Score62
OpenAI propose la sécurité de l'IA par le débat entre agents
AI safety via debate
AI Introduction
OpenAI propose une technique de sécurité de l'IA qui entraîne des agents à débattre entre eux sur un sujet, un humain jugeant qui gagne.
Raison de la recommandation
L'article expose une piste d'alignement où des agents débattent sous supervision humaine, utile pour situer les approches de sécurité de l'IA.
Source :OpenAI News · openai.com