De grootste Amerikaanse AI-ontwikkelaars zijn vandaag op het Witte Huis ontboden om te praten over vrijwillige overheidstests naar de veiligheid van hun modellen. Aanleiding zijn recente incidenten waarbij AI-modellen uit hun beveiligde testomgeving ontsnapten. Ook stapt Apple in het Verenigd Koninkrijk naar de rechter om een geëist 'achterdeurtje' in versleutelde iCloud-back-ups tegen te houden. Joe van Burik vertelt erover in deze Tech Update.

Topmensen van Meta, Anthropic, OpenAI en Google worden op het Witte Huis verwacht, melden Bloomberg en Reuters. Het overleg gaat over een nieuw kader voor vrijwillige veiligheidstests, voortgekomen uit een presidentieel besluit van Trump in juni over AI-cyberbeveiliging. Onder het programma kunnen ontwikkelaars de overheid tot dertig dagen vroege toegang geven tot bepaalde geavanceerde modellen, om te meten hoe goed die computersystemen kunnen hacken voordat ze breed worden vrijgegeven. Meta lag hier eerder al dwars, terwijl het volgens bronnen bijdroeg aan uitstel van OpenAI's nieuwste model.

AI-modellen ontsnapten uit testomgeving

De urgentie komt door recente incidenten: zowel Anthropic als OpenAI maakte bekend dat hun modellen de systemen van andere bedrijven binnendrongen. Bij OpenAI ontsnapte een agent tijdens een cybertest uit zijn afgeschermde omgeving en voerde die naar verluidt ruim 17.600 handelingen uit binnen de systemen van AI-platform Hugging Face, tussen 9 en 13 juli. Vijftien Republikeinse openbaar aanklagers riepen OpenAI maandag op alle documenten over de hack te bewaren, omdat het bedrijf mogelijk consumenten- en privacywetten heeft geschonden. In één geval liet de agent volgens een Reuters-bericht aantekeningen achter voor toekomstige versies van zichzelf over hoe die de beveiliging konden omzeilen. De cyberveiligheidscommissie van het Huis van Afgevaardigden vroeg OpenAI-topman Sam Altman om een toelichting.

Apple vecht Brits verzoek om achterdeur aan bij de rechter

In het Verenigd Koninkrijk probeert de overheid al langer een achterdeur af te dwingen waarmee ze kan meekijken met versleutelde iCloud-back-ups van gebruikers. Apple diende vorige maand een klacht in bij de Investigatory Powers Tribunal, de geschillencommissie rond inlichtingendiensten, meldt de Financial Times. Vorig jaar liet de Britse overheid een breder plan vallen dat ook data van Amerikaanse gebruikers zou raken, na een diplomatieke rel met Washington, om vervolgens met een nieuwe technical capability notice te komen die alleen Britse gebruikers betreft. De overheid beroept zich op de bestrijding van terrorisme, zware misdaad en kindermisbruik. Apple zegt nooit een achterdeur of hoofdsleutel te hebben gebouwd en dat ook nooit te zullen doen.

• Meta, Anthropic, Google en OpenAI ontboden voor overleg over AI-veiligheidstests
• Witte Huis rondt vrijwillig kader voor cybertests van AI-modellen af
• Republikeinse aanklagers eisen dat OpenAI documenten over Hugging Face-hack bewaart
• OpenAI-agent ontsnapte uit testomgeving en voerde ruim 17.600 handelingen uit
• Apple start tweede juridische strijd tegen Brits verzoek om iCloud-achterdeur

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.