AI-agents van OpenAI wisten vaker uit hun testomgeving te 'ontsnappen' dan tot nu toe bekend was. Dat melden ingewijden aan persbureau Reuters. Afgelopen maand meldde OpenAI nog dat AI-agents van het bedrijf onbedoeld AI-platform Hugging Face en vier andere partijen hadden gehackt. Niels Kooloos vertelt erover in deze Tech Update.

In geen van de gevallen waar de ingewijden het over hebben zouden AI-agents van OpenAI buiten het netwerk van het bedrijf gekomen zijn. Maar wel zouden ze dus uit hun testomgevingen ontsnapt zijn. Hoe vaak dat is gebeurd, hebben de ingewijden niet gezegd.

Ook concurrent Anthropic meldde afgelopen week nog dat AI-agents van het bedrijf onbedoeld andere partijen wist te hacken. Een dag eerder kondigde president Donald Trump nog aan dat hij zich zou buigen over strengere regulering voor AI.

Strengere regels voor AI in de Europese Unie

Er gelden sinds zondag strengere regels voor AI in de Europese Unie. Die moeten er onder andere voor zorgen dat het duidelijker wordt wanneer je te maken hebt met AI. Zo moeten video's en foto's die met AI gemaakt zijn voorzien worden van een markering en moeten klantenservices het melden als klanten contact hebben met een AI-chatbot in plaats van met een mens.

Ook wordt de AI Act, in Nederland bekend als de AI Verordening, vanaf nu officieel gehandhaafd door de Europese Commissie. Die kan AI-ontwikkelaars bijvoorbeeld verplichten om inzicht te geven in hoe hun modellen getraind zijn, hoe de veiligheidsmechanismes eruitzien en of er wel rekening is gehouden met het auteursrecht bij de training van modellen.

• OpenAI ontdekt dat AI-agents vaker wisten te ontsnappen
• AI Act wordt vanaf nu gehandhaafd
• OpenAI hackt AI-platform Hugging Face 'per ongeluk' met AI

Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.