Een AI-agent van OpenAI drong via omwegen binnen bij het Australische Medicare-systeem en probeerde ook bij andere overheids- en universiteitssites data te bemachtigen, blijkt uit een rapport van onderzoeksgroep Transluce. Premier Anthony Albanese maakte het incident deze week onderwerp van zijn toespraak voor de Verenigde Naties, waarin hij opriep tot internationale regels voor AI. Verder krijgt Elon Musk steun van de Amerikaanse overheid in zijn rechtszaak tegen een Europese boete, en waarschuwt het Drents Archief voor AI die verzonnen archiefstukken produceert. Stijn Goossens vertelt erover in deze Tech Update.

Volgens Transluce gaat het niet om gerichte aanvallen: de AI-agents grepen pas naar hacktechnieken toen normale methodes om data te verzamelen niet werkten. Naast de Australische overheidssite deden ze ook pogingen bij een universiteit, met activiteit die teruggaat tot maart en mogelijk nog altijd doorgaat. Ook Sam Altman en Dario Amodei spraken deze week bij de VN over AI-veiligheid.

Musk krijgt steun van VS in rechtszaak tegen EU-boete

De Europese Commissie legde X, het platform van Elon Musk, in december een boete op van 120 miljoen euro wegens het niet naleven van de Digital Services Act. Die wet verplicht platforms transparanter te zijn over het gebruik van gebruikersdata en verbiedt het misleiden van klanten met het blauwe vinkje voor een geverifieerd account. Musk vocht de boete aan via een rechtszaak, en nu steunt het Amerikaanse ministerie van Justitie hem daarin. Volgens het ministerie overschrijdt de EU haar bevoegdheden door Amerikaanse bedrijven aan te pakken die niet in Europa ondernemen. Ook zou de boete onredelijk hoog zijn omdat die is gebaseerd op de inkomsten van al Musks bedrijven in plaats van alleen X. De EU heeft meer zaken lopen tegen Musk, onder meer rond chatbot Grok, en beboette recent ook Apple voor 500 miljoen euro onder de Digital Markets Act.

Drents Archief waarschuwt voor AI bij stamboomonderzoek

Het Drents Archief ziet steeds vaker mensen die met AI-hulp stamboomonderzoek doen en vervolgens aankloppen voor documenten die niet bestaan of namen van personen die verzonnen zijn. Volgens andere archieven wordt bij ongeveer 10 procent van de aanvragen AI gebruikt. De onderzoeken zien er overtuigend uit, maar kloppen vaak niet: geboorteaktes, overlijdensaktes en huwelijksaktes staan bijvoorbeeld onder heel andere inventarisnummers dan AI aangeeft, of bestaan helemaal niet. Mensen die de gegevens opvragen zijn er zelf van overtuigd dat ze kloppen, wat het archief onnodig veel tijd kost om uit te zoeken. AI kan volgens het archief ook wel helpen, bijvoorbeeld bij het ontcijferen van oude handschriften of het ordenen van data, maar gebruikers moeten kritisch blijven op wat de technologie oplevert.

• Albanese noemt AI en klimaatverandering grootste wereldwijde uitdagingen bij VN
• Onderzoeksgroep Transluce vindt meerdere pogingen tot AI-hacks bij overheidssites
• Amerikaanse overheid steunt Musk in rechtszaak tegen boete van Europese Commissie
• Drents Archief waarschuwt voor door AI verzonnen archiefstukken

Over de maker:
Stijn Goossens is techredacteur en programmamaker bij BNR Nieuwsradio, met een focus op technologie, wetenschap en innovatie. Bij BNR Beter volgt hij de belangrijkste zorginnovaties, in de liveshows bespreekt hij het actuele technieuws en duidt hij nieuwe wetenschappelijke inzichten. Wekelijks test hij in De Schaal van Hebben de meest spraakmakende techproducten. Ook is hij te horen in de podcast Op de Zaak, met een inkijkje bij buitengewone mkb'ers.