Hugging Face fine-tune CLIP avec des images satellite et légendes
Une équipe distribuée sur 12 fuseaux horaires a fine-tuné le réseau CLIP d'OpenAI avec des images satellite et légendes issues des datasets RSICD。
#OpenAI
Hugging Face BlogAI Score2222
OpenAI NewssélectionAI Score6262 OpenAI : résumer des livres grâce au retour humain
OpenAI présente une méthode de résumé de livres reposant sur le retour humain, destinée à étendre la supervision humaine des systèmes d'IA pour des tâches difficiles à évaluer.
OpenAI NewsAI Score2222 Helen Toner rejoint le conseil d'administration d'OpenAI
Helen Toner rejoint le conseil d'administration d'OpenAI. Sa nomination a été annoncée par OpenAI.
OpenAI NewssélectionAI Score6262 TruthfulQA : mesurer comment les modèles imitent les fausses croyances humaines
TruthfulQA est un benchmark proposé par OpenAI pour mesurer dans quelle mesure les modèles de langage reproduisent les fausses croyances humaines. Le contenu source ne fournit que le titre。
OpenAI NewssélectionAI Score7878 OpenAI Codex 改进版通过 API 开放私测
OpenAI 发布了 OpenAI Codex 的改进版本, 这是一个将自然语言转换为代码的 AI 系统, 从今天起通过其 API 以私测形式开放.
OpenAI NewssélectionAI Score7070 OpenAI publie Triton 1.0, un langage de programmation GPU open source pour les réseaux de neurones
OpenAI publie Triton 1.0, un langage de programmation open source de type Python qui permet aux chercheurs sans expérience CUDA d'écrire du code GPU très efficace。
Motif de la recommandation :Triton 1.0 permet aux chercheurs sans expérience CUDA d'écrire du code GPU efficace, ce qui abaisse le seuil de programmation GPU.
OpenAI NewssélectionAI Score6262 OpenAI évalue les grands modèles de langage entraînés sur du code
OpenAI publie une évaluation des grands modèles de langage entraînés sur du code. Le contenu détaillé de cette évaluation n'est pas disponible.
OpenAI NewsAI Score4848 OpenAI : améliorer le comportement des modèles de langage via un dataset curé
OpenAI montre qu'un fine-tuning sur un petit dataset curé suffit à améliorer le comportement d'un modèle de langage sur des valeurs comportementales spécifiques. La recherche s'appuie sur un dataset restreint et sélectionné, sans préciser de modèle, de version ni de score de benchmark.
OpenAI NewsAI Score1515 OpenAI Scholars 2021 : projets finaux
La promotion 2021 d'OpenAI Scholars a achevé son programme de mentorat de six mois, chaque participant ayant produit un projet de recherche open source avec le soutien et la bourse d'OpenAI.
OpenAI NewsAI Score3232 Will Hurd rejoint le conseil d'administration d'OpenAI
Will Hurd, ancien membre du Congrès, rejoint le conseil d'administration d'OpenAI. OpenAI justifie cette nomination par la nécessité de disposer d'une expertise en politique publique en plus de la technologie pour développer une intelligence artificielle générale bénéficiant à toute l'humanité.
OpenAI NewssélectionAI Score6262 GPT-3 alimente la nouvelle génération d'applications
Plus de 300 applications fournissent via l'API d'OpenAI des fonctions d'IA telles que la recherche, la conversation et la complétion de texte basées sur GPT-3.
OpenAI NewssélectionAI Score6262 Des neurones multimodaux découverts dans les réseaux de neurones artificiels
OpenAI indique avoir découvert dans CLIP des neurones qui réagissent au même concept qu'il soit présenté de façon littérale。
Motif de la recommandation :L'article explique comment les neurones multimodaux de CLIP répondent à un même concept sous différentes formes, ce qui aide à comprendre les biais du modèle.
OpenAI NewsAI Score5858 OpenAI étend les clusters Kubernetes à 7 500 nœuds pour l'entraînement de grands modèles
OpenAI a étendu ses clusters Kubernetes à 7 500 nœuds, fournissant une infrastructure évolutive pour les grands modèles comme GPT-3。
OpenAI NewssélectionAI Score8888 OpenAI présente DALL·E, un réseau neuronal qui génère des images à partir de texte
OpenAI annonce avoir entraîné un réseau neuronal nommé DALL·E qui crée des images à partir de légendes textuelles, pour une large gamme de concepts exprimables en langage naturel.
Motif de la recommandation :Un réseau neuronal nommé DALL·E génère des images à partir de légendes textuelles, ce qui permet de situer le jalon de la génération texte-image.
OpenAI NewssélectionAI Score8585 OpenAI présente CLIP, un réseau de neurones qui associe texte et images
OpenAI présente CLIP, un réseau de neurones qui apprend efficacement des concepts visuels à partir d'une supervision en langage naturel. CLIP peut être appliqué à n'importe quel benchmark de classification visuelle en fournissant simplement les noms des catégories à reconnaître, à la manière des capacités zero-shot de GPT-2 et GPT-3.
OpenAI NewsAI Score55 OpenAI发布组织架构更新
OpenAI发布组织架构更新, 并称过去一年公司经历了剧烈变化与增长. 该更新以官方公告形式发布, 但正文未披露具体人事调整, 部门变动或业务数据.
OpenAI NewssélectionAI Score7070 OpenAI accorde une licence de la technologie GPT-3 à Microsoft
OpenAI a accepté d'accorder à Microsoft une licence de GPT-3 pour ses propres produits et services.
OpenAI NewssélectionAI Score6262 Modélisation générative du langage pour la démonstration automatique de théorèmes
OpenAI publie des travaux sur la modélisation générative du langage appliquée à la démonstration automatique de théorèmes.
OpenAI NewsAI Score5858 OpenAI 用人类反馈训练摘要模型
OpenAI 将基于人类反馈的强化学习应用于语言模型训练, 使其在摘要任务上表现更好.
OpenAI NewsAI Score1212 OpenAI Scholars 2020 : les projets finaux présentés lors du Demo Day virtuel
La troisième promotion des OpenAI Scholars a présenté ses projets finaux lors d'un Demo Day virtuel, exposant les résultats de recherche de plus de cinq mois.
OpenAI NewsAI Score2222 OpenAI co-organise les compétitions Procgen et MineRL à NeurIPS 2020
OpenAI co-organise deux compétitions à NeurIPS 2020 avec AIcrowd, Carnegie Mellon University et DeepMind, s'appuyant sur Procgen Benchmark et MineRL.
OpenAI NewssélectionAI Score7070 OpenAI 发布 Image GPT :用 Transformer 生成图像
OpenAI 发现, 正如在大规模语言上训练的 Transformer 模型能够生成连贯文本, 同一模型在像素序列上训练后也能生成连贯的图像补全与样本. 通过建立样本质量与图像分类准确率之间的相关性, OpenAI 表明其最佳生成模型在无监督设置下也包含可与顶级卷积网络媲美的特征.
Motif de la recommandation :OpenAI 展示同一 Transformer 架构在像素序列上也能生成连贯图像, 并给出生成质量与分类精度的关联.
OpenAI NewssélectionAI Score8080 OpenAI lance une API pour accéder à ses nouveaux modèles d'IA
OpenAI annonce la publication d'une API permettant d'accéder aux nouveaux modèles d'IA développés par OpenAI.
OpenAI NewssélectionAI Score6767 OpenAI analyse la baisse du calcul nécessaire à l'entraînement sur ImageNet
OpenAI publie une analyse montrant que depuis 2012。
Motif de la recommandation :L'analyse quantifie la baisse du calcul d'entraînement sur ImageNet depuis 2012 et la compare à la loi de Moore, offrant un repère concret sur le progrès algorithmique.
OpenAI NewssélectionAI Score7878 OpenAI présente Jukebox, un réseau de neurones qui génère de la musique en audio brut
OpenAI présente Jukebox, un réseau de neurones qui génère de la musique en audio brut。
Motif de la recommandation :Présente la génération de musique en audio brut et la mise à disposition des poids et du code, utile pour comprendre les capacités des modèles génératifs audio.
OpenAI NewsAI Score2222 OpenAI参与发布AI开发可验证性报告, 提出10项机制
OpenAI与30个组织的58位合著者共同发布了一份多利益相关方报告, 提出10项提升AI系统声明可验证性的机制. 这些机制可供开发者提供AI系统安全, 可靠, 公平或隐私保护方面的证据, 也可供用户, 政策制定者和公民社会评估AI开发流程.
OpenAI NewsAI Score5252 OpenAI lance Microscope, une collection de visualisations pour huit modèles de vision
OpenAI présente OpenAI Microscope, une collection de visualisations de chaque couche et neurone significatifs de huit « organismes modèles » de vision souvent étudiés en interprétabilité. L'outil vise à faciliter l'analyse des caractéristiques qui se forment à l'intérieur de ces réseaux neuronaux et à aider la communauté de recherche à mieux comprendre ces systèmes complexes.
OpenAI NewssélectionAI Score6262 OpenAI standardise son framework d'apprentissage profond sur PyTorch
OpenAI annonce standardiser son framework d'apprentissage profond sur PyTorch.
OpenAI NewssélectionAI Score6868 OpenAI 用大规模深度强化学习攻克 Dota 2
OpenAI 发布关于 Dota 2 与大规模深度强化学习的研究内容.
OpenAI NewsAI Score00 Deep double descent
OpenAI montre que le phénomène de double descent apparaît dans les CNNs, les ResNets et les transformers 。
OpenAI NewsAI Score4242 OpenAI 发布 Procgen Benchmark
OpenAI 发布 Procgen Benchmark, 包含 16 个易于使用, 程序化生成的环境, 用于直接衡量强化学习智能体学习可泛化技能的速度.
OpenAI NewsAI Score5353 OpenAI publie Safety Gym, une suite d'environnements pour évaluer la sécurité des agents RL
OpenAI publie Safety Gym, une suite d'environnements et d'outils destinée à mesurer les progrès vers des agents d'apprentissage par renforcement qui respectent des contraintes de sécurité pendant l'entraînement.
OpenAI NewssélectionAI Score8888 OpenAI publie GPT-2 1.5B, la version complète du modèle
OpenAI publie la plus grande version de GPT-2, avec 1,5 milliard de paramètres。
Motif de la recommandation :La publication de la version complète de GPT-2 1.5B et de ses poids permet de comprendre le processus de publication échelonnée et ses implications pour la détection des sorties.
OpenAI NewssélectionAI Score7878 OpenAI 用机械手解魔方
OpenAI 训练了一对神经网络, 让类人机械手解开魔方. 神经网络完全在模拟环境中训练, 使用与 OpenAI Five 相同的强化学习代码, 并搭配名为 Automatic Domain Randomization (ADR) 的新技术. 该系统能处理训练中从未见过的情况。
Motif de la recommandation :展示了纯模拟训练的策略如何迁移到真实机械手, 并应对训练中未见的干扰, 对具身智能研究有参考价值.
OpenAI NewsAI Score1010 OpenAI Scholars 2020 : les candidatures sont ouvertes
OpenAI ouvre les candidatures pour la troisième promotion de son programme OpenAI Scholars。
OpenAI NewssélectionAI Score6262 OpenAI ajuste GPT-2 774M par les préférences humaines
OpenAI a ajusté le modèle de langage GPT-2 de 774M paramètres à l'aide de retours humains pour diverses tâches。
Motif de la recommandation :L'original expose les préférences humaines et le nombre d'annotations nécessaires pour différentes tâches, ce qui permet de comprendre le coût et les limites du fine-tuning par retour humain.
OpenAI NewssélectionAI Score6262 OpenAI 在多智能体交互中观察到工具使用的涌现
OpenAI 在模拟捉迷藏环境中训练智能体, 观察到它们在游戏过程中逐步学会使用更复杂的工具, 并形成六种不同的策略与反策略, 其中一些策略是该环境原本未预设支持的. 研究指出, 这种在简单环境中自监督涌现出的复杂性, 进一步表明多智能体共同适应未来可能产生极其复杂且智能的行为.
Motif de la recommandation :通过捉迷藏环境观察智能体自发形成六种策略与反策略, 为多智能体协同演化提供可复现的实验线索.
OpenAI NewsAI Score3232 OpenAI开发UAR指标评估神经网络抵御未知对抗攻击的鲁棒性
OpenAI提出一种评估神经网络分类器能否可靠抵御训练中未见对抗攻击的方法, 并由此得出新指标UAR (Unforeseen Attack Robustness), 用于衡量单一模型面对未预期攻击时的鲁棒性. 该方法强调需要在更多样化的未知攻击范围内衡量模型表现.
OpenAI NewssélectionAI Score8383 OpenAI publie GPT-2 774M et un accord juridique open source
OpenAI publie le modèle de langage GPT-2 de 774 millions de paramètres, après la sortie du petit modèle 124M en février et la publication échelonnée du modèle moyen 355M en mai。
Motif de la recommandation :L'article retrace le calendrier de publication par étapes de GPT-2 et expose un accord juridique open source pour les partenariats de partage de modèles.
OpenAI NewsAI Score1212 OpenAI Learning Day : une journée hebdomadaire dédiée à l'autoformation technique
OpenAI consacre chaque jeudi à un Learning Day, une journée où les employés peuvent consacrer du temps à l'autoformation sur des compétences techniques utiles à leur travail mais non acquises dans les tâches quotidiennes. L'initiative est optionnelle et vise à renforcer les compétences des équipes au-delà des besoins immédiats du poste.