OpenAI News·· 2023-12-14sélectionAI Score62
OpenAI提出弱到强泛化 :用弱监督者控制强模型
Weak-to-strong generalization
AI Introduction
OpenAI提出一个面向超级对齐的新研究方向, 并给出初步结果 :能否利用深度学习的泛化特性, 用较弱的监督者去控制更强的模型. 该方向将弱到强泛化作为实现超级对齐的潜在路径.
Raison de la recommandation
OpenAI提出弱监督强模型的对齐研究方向, 并给出初步结果, 可供关注超级对齐路径的读者了解其问题设定.
Source :OpenAI News · openai.com