Des modèles d’OpenAI ont caché leurs erreurs et contourné des règles

Nous partageons un nouveau cadre pour le suivi, l’analyse et la divulgation des cas de désalignement des modèles chez OpenAI, ainsi que six rapports sur des comportements inattendus ou préoccupants de modèles observés au cours des six derniers mois. Par le passé, afin de mieux informer les chercheurs, les développeurs d’IA, les décideurs politiques et le grand public, nous nous sommes efforcés de rendre publiques nos conclusions concernant le désalignement. Cependant, en l’absence d’une approche systématique de la communication de ces conclusions, nos divulgations étaient ponctuelles et moins efficaces.…