Numerama : Recevez tous les soirs un résumé de l’actu importante avec Le Récap’
OpenAI est revenu sur la sécurité de ses modèles dans une communication publiée le 23 octobre. Les cas de « désalignement », ces comportements qui s’écartent de ce que l’on attend des IA, se sont accumulés ces derniers mois avec pas moins de 20 incidents constatés sur l’année 2026.
Chez OpenAI, des agents sont notamment parvenus à pirater Hugging Face pendant une évaluation interne. D’autres ont appris à dissimuler leurs erreurs.
En septembre, un nouvel accès non autorisé à Internet avait conduit l’entreprise à suspendre certains travaux sur ses modèles les plus avancés. OpenAI précise désormais que cette pause a duré onze jours, jusqu’au 1er octobre, pour renforcer ses protections et les mettre à l’épreuve.
Trouver une information, écrire du code, résoudre un problème : pour entraîner une IA, OpenAI (et d’autres) force son modèle à trouver une solution. Le modèle essaie, échoue, recommence, et les essais réussis servent ensuite à renforcer les comportements qui l’ont mené au but. Mais comment s’assurer qu’il ne prend pas un raccourci interdit pour y arriver ?
