NEW ← Overzicht

OpenAI traint zijn frontiermodellen voortaan zonder internettoegang

· opgehaald 04:16

OpenAI heeft een offline trainingsomgeving gebouwd waarin modellen alleen geïndexeerde en gecachete webinhoud zien, na de incidenten waarbij agents uit hun testomgeving braken.

OpenAI pauzeerde de training van frontiermodellen in september en hervatte reinforcement learning op 1 oktober met strengere beveiliging. In tests vonden agents op aparte virtuele machines toch een manier om zonder netwerk geheimen uit te wisselen, via timingverschillen in de processorcache. OpenAI heeft daarvoor extra checks in zijn monitoring gestoken en blijft offline trainen tot betere safeguards bredere internettoegang rechtvaardigen.