OpenAI bannit des comptes liés à l'opération « Nine-emdash Line » d'influence régionale
OpenAI a banni des comptes liés à une opération d'origine chinoise non signalée auparavant.
OpenAI a banni des comptes liés à une opération d'origine chinoise non signalée auparavant.
OpenAI a banni des comptes liés à des réseaux de fraude en ligne qui utilisaient l'IA pour rédiger des scripts d'arnaque, usurper des identités, traduire et interagir avec les victimes.
OpenAI a banni des comptes probablement liés à des groupes criminels russophones.
OpenAI combat l'exploitation et les abus sexuels sur enfants en ligne via des politiques d'utilisation strictes.
OpenAI et Anthropic publient les résultats d'une évaluation de sécurité conjointe inédite.
Motif de la recommandation :Un compte rendu conjoint OpenAI et Anthropic sur l'évaluation croisée de leurs modèles, couvrant mésalignement, suivi d'instructions, hallucinations et jailbreaking.
OpenAI introduit une politique de divulgation coordonnée sortante encadrant le signalement responsable des vulnérabilités découvertes dans des logiciels tiers. Cette politique met l'accent sur l'intégrité, la collaboration et la sécurité proactive à grande échelle.
OpenAI publie un rapport sur la détection et la prévention des usages malveillants de l'IA.
OpenAI a banni des comptes russophones qui utilisaient l'IA pour créer des malwares, perfectionner des loaders et résoudre des problèmes d'outils cyber.
OpenAI a banni des comptes utilisant l'IA pour des activités d'ingénierie sociale.
OpenAI a banni des comptes associés à l'opération STORM-2035, probablement liée à l'Iran.
OpenAI intègre des mesures de sécurité complètes directement dans son infrastructure et ses modèles pour accompagner la progression vers l'AGI. L'entreprise indique adapter proactivement ses dispositifs de sécurité à mesure que ses systèmes évoluent.
OpenAI a banni des comptes qui semblaient provenir du Cambodge et utilisaient l'IA pour traduire et générer des conversations d'arnaques sentimentales et d'investissement.
OpenAI a banni des comptes potentiellement associés à des acteurs de menaces affiliés à la RPDC.
OpenAI a banni des comptes utilisant l'IA pour générer des articles, des publications et de faux engagements autour de l'élection présidentielle ghanéenne de 2024.
OpenAI a banni des comptes probablement originaires de Chine qui utilisaient l'IA pour rédiger des propositions d'outils de surveillance.
Motif de la recommandation :L'original expose les usages abusifs constatés et les mesures de bannissement, ce qui aide le lecteur à comprendre les limites d'application des politiques de plateforme.
OpenAI a banni des comptes liés à l'Iran, désignés sous le nom de STORM-0817, qui utilisaient l'IA pour déboguer un malware Android.
OpenAI a banni des comptes « Stop News » d'origine russe qui utilisaient l'IA pour générer des articles et des publications multilingues ciblant l'Ukraine et l'Occident.
OpenAI a banni des comptes appartenant probablement à un adversaire présumé basé en Chine.
Motif de la recommandation :L'original expose les usages malveillants constatés et la réponse d'OpenAI, ce qui éclaire la manière dont les plateformes traitent ce type d'activité.
OpenAI a banni des comptes liés à l'opération STORM-2035 d'origine iranienne.
Motif de la recommandation :OpenAI expose les détails de son interdiction de comptes liés à une opération d'influence iranienne, ce qui éclaire les modalités concrètes de la modération des usages abusifs.
OpenAI a banni les comptes qui accédaient à ses modèles via une startup israélienne pour générer des conversations et diffuser des liens vers des sites de jeux d'argent sur X. Le réseau.
OpenAI publie une mise à jour sur ses pratiques de sûreté et de sécurité. Le contenu détaillé de cette mise à jour n'est pas précisé dans le texte source.
OpenAI met en avant la recherche innovante et l'intégration de l'IA dans la cybersécurité à travers son programme de subventions Cybersecurity Grant Program. Ce programme vise à soutenir les défenseurs en matière de sécurité.
OpenAI a résilié des comptes liés à des opérations d'influence dissimulées.
OpenAI a banni des comptes associés à l'opération d'origine russe « Doppelganger ».
OpenAI a banni des comptes associés à l'opération « Spamouflage » d'origine chinoise.
OpenAI a banni les comptes associés à l'opération d'origine iranienne « IUVM », qui utilisait l'IA pour générer et traduire du contenu de sites web pro-iranien, anti-israélien et anti-américain.
OpenAI publie un article intitulé « Disrupting malicious uses of AI by state-affiliated threat actors ».
OpenAI annonce un programme de subventions destiné à financer le développement de capacités de cybersécurité assistées par IA pour les défenseurs. L'initiative vise à soutenir les équipes de défense via des financements et d'autres formes d'appui.
OpenAI lance un programme de bug bounty pour faire appel à la communauté dans l'identification des vulnérabilités de ses technologies. L'initiative s'inscrit dans l'engagement de l'entreprise à développer une IA sûre et avancée, ainsi qu'à créer des technologies et services sécurisés, fiables et dignes de confiance.
OpenAI a publié un retour sur la panne de ChatGPT survenue le 20 mars, incluant les conclusions de l'enquête, les mesures prises et les détails techniques du bug.
OpenAI a créé des images qui trompent de manière fiable les classifieurs de réseaux neuronaux lorsqu'elles sont vues sous différentes échelles et perspectives. Cela remet en question l'affirmation de la semaine dernière selon laquelle les voitures autonomes seraient difficiles à tromper malveillamment, car elles capturent des images sous plusieurs échelles, angles et perspectives.
Les exemples adversariaux sont des entrées conçues intentionnellement par un attaquant pour faire commettre une erreur au modèle d'apprentissage automatique.