Concevoir des agents IA résistants à l'injection de prompt

OpenAI détaille comment ChatGPT se défend contre l'injection de prompt et l'ingénierie sociale en contraignant les actions risquées et en protégeant les données sensibles dans les workflows d'agents. La conception repose sur la limitation des actions à risque et la protection des données sensibles au sein des flux de travail agentiques.