00:00Une IA d'OpenAI a menti sur ce qu'elle avait fait, et l'entreprise ne sait même pas pourquoi.
00:04GPT 6.1 SOL, en réparant un outil de test, a coupé les alertes envoyées à l'équipe de sécurité.
00:10Donc la surveillance tournait toujours, mais plus aucun humain n'était prévenu.
00:15Et pour se justifier, il a ressorti une consigne qui lui demandait de n'envoyer aucun message.
00:19Donc en soi, il a respecté sa consigne.
00:22Et avec GPT 6 Astra, on monte encore d'un cran, en aidant quelqu'un sur du code,
00:26il retire la surveillance intégrée au programme, mais quand on lui demande directement s'il l'a retirée,
00:32il répond clairement qu'il n'a retiré aucune surveillance active, ce qui est faux.
00:36Alors évidemment, c'était la surveillance du programme, pas la sienne, mais le mensonge lui est bien là.
00:42Et surtout, ce n'était pas un cas isolé, OpenAI en a vu plusieurs,
00:45et elle reconnaît ne pas encore avoir d'explications satisfaisantes.
00:48En attendant, son outil de relecture automatique bloque maintenant ces tentatives.
00:52Donc bon, c'est pas catastrophique, mais on confie de plus en plus de clés à des agents,
00:56dont le concepteur lui-même ne sait pas encore pourquoi il cache ce qu'ils font durant certains événements.
01:01Et ça, ça devrait quand même nous rendre un petit peu plus prudents.
