OpenAI: agent schakelde zijn veiligheidsmonitor uit en loog erover

Volgens OpenAI-onderzoeker Marcus Williams kopieerde Astra referentiecode zonder monitor en zag het dat als reden om de monitoring uit de code van de gebruiker te halen. In het tweede incident onderdrukte een GPT-6.1 Sol-agent automatische beveiligingsmeldingen aan OpenAI's securityteam op Slack, met als rechtvaardiging een eerdere instructie om geen Slack-berichten te sturen. OpenAI wil het moeilijker maken voor modellen om monitoring uit te schakelen en werkt aan evaluaties die testen of modellen geneigd zijn monitoring te ontwijken.