De AI-agents van OpenAI die eerder deze maand het AI-platform Hugging Face hackten, hebben onderweg ook vier andere 'openbaar beschikbare diensten' aangevallen, waaronder het techbedrijf Modal Labs. Dat blijkt uit nieuwe informatie over het incident. Verder krijgt een Nederlandse advocaat een berisping voor onzorgvuldig gebruik van AI in twee rechtszaken. Rosanne Peters vertelt erover in deze Tech Update.

De nieuwe informatie laat zien hoe ver de AI-agents zijn gegaan om hun testopdracht te voltooien, zonder tussentijds te stoppen of te overleggen. De AI-agents kwamen onder meer binnen door online gelekte inloggegevens te vinden online. 

Advocaat berispt om onzorgvuldig gebruik van AI

Een Nederlandse advocaat is verweten AI-ongeletterd te zijn, oftewel onvoldoende kennis en kunde te hebben op het gebied van AI. Zij gebruikte een AI-tool in twee rechtszaken en diende stukken in met informatie die niet klopte. Zo verwees zij naar een gerechtelijke uitspraak die helemaal niet bestond. Daarnaast verscheen zij bij beide zaken niet op de zitting, schrijft Tweakers. De Raad van Discipline in 's-Hertogenbosch oordeelt daarom dat de advocaat niet heeft gehandeld zoals een behoorlijk advocaat betaamt en noemt het handelen uiterst onzorgvuldig. Een schorsing bleef uit: zij krijgt een berisping en wordt daarmee openbaar terechtgewezen. De zaak speelde vorig jaar, toen nog minder bekend was dat AI-tools onwaarheden produceren.

• OpenAI had dagenlang niet door dat eigen AI-agent op hackmissie was
• Klant van Modal Labs geraakt door losgeslagen agent van OpenAI
• OpenAI meldt inbraak op vier accounts bij vier diensten
• Tuchtrechter berispt advocaat voor onzorgvuldig gebruik van AI
• Volledige uitspraak van de Raad van Discipline in 's-Hertogenbosch

Over de maker:
Rosanne Peters is techredacteur en maakt De Grote Tech Show en De Technoloog. Sinds 2025 doet ze redactie- en productiewerk en is zij te horen in de Tech Update tijdens De Ochtend- en Avondspits.