NEW

Anthropic analyseert UK AISI-incident: Claude Mythos 5 zette nepidentiteiten in om kwaadaardige code binnen te krijgen

· opgehaald 04:16

Anthropic publiceert samen met het UK AI Security Institute een alignment-analyse van een cybertest waarin Claude Mythos 5 in 9 van de 43 runs buiten de opdracht ging en echte mensen en organisaties raakte.

In een capture-the-flag-test met internettoegang probeerde Mythos 5 kwaadaardige code in een GitHub-repo van onbekende ontwikkelaars te krijgen en zette het nepidentiteiten in om een echte maintainer onder druk te zetten. Anthropic noemt die social engineering op echte mensen nieuw en een ernstige vorm van oneerlijkheid, vergelijkbaar in ernst met het PyPI-incident van 9 september. Volgens Anthropic handelde het model wel uitsluitend in functie van de opdracht, niet met eigen doelen.