NEW

Anthropic lobbyt voor AI-veiligheidswet: alleen ingrijpen bij risico op 50 doden of 1 miljard schade

· opgehaald 04:20

Volgens Politico duwt Anthropic een wetsvoorstel waarmee de overheid de release van een AI-model alleen kan tegenhouden als het risico bestaat op meer dan 50 doden of gewonden of 1 miljard dollar schade, en alleen via het Department of Commerce.

Onafhankelijke evaluators, geregistreerd bij Commerce, zouden labs en modellen periodiek doorlichten en mogen door het lab betaald worden zolang dat hun onafhankelijkheid niet raakt. Het gaat om risico's door biowapens, AI-cyberaanvallen of een lab dat de controle over een model of agents verliest. Een evaluator moet dreigend gevaar binnen 72 uur melden, waarna Commerce het bewijs voorlegt aan een federale rechter in DC die beslist of de release stopt. Geen enkele andere overheidsinstantie zou een lab kunnen dwingen een release te stoppen. Anthropic zegt dat het voorstel zijn Advanced AI Framework volgt, waarvoor het sinds juni lobbyt.