Nieuw onderzoek naar de hack van AI-platform Hugging Face door de AI agents van OpenAI laat zien dat de aanval een veel langere aanlooptijd had dan gedacht. Volgens een Duitse onderzoeker probeerden de agents al in mei accounts over te nemen, twee maanden voordat de daadwerkelijke hack in juli plaatsvond. Verder blijkt uit onderzoek van de Financial Times dat de recente oproep tot een pauze in AI-ontwikkeling door de topmannen van Anthropic en OpenAI voor onrust zorgt onder hun eigen medewerkers. Joe van Burik vertelt erover in deze Tech Update.

De Duitse onderzoeker meldt dit aan persbureau Reuters. Twee andere onafhankelijke cyberonderzoekers bevestigen de bevindingen. Eerder onderzoek naar het incident was gebaseerd op beperktere data. Volgens de onderzoeker had OpenAI de hack veel eerder kunnen opmerken. OpenAI erkent in een reactie dat het eerder had moeten ingrijpen.

Interne onrust over oproep tot pauze in AI-ontwikkeling

Volgens bronnen die de Financial Times sprak, zorgt de recente oproep tot een pauze in AI-ontwikkeling voor onrust onder medewerkers van Anthropic en OpenAI. Beide bedrijven hadden hun personeel vooraf niet over de oproep geïnformeerd, al is er wel enig draagvlak voor een langzamer tempo. Een voorgestelde oplossing is een groep die bij meerdere rivaliserende AI-labs toezicht houdt, maar daarover bestaat nog geen consensus tussen de bedrijven. OpenAI zegt de ontwikkeling van zijn nieuwste modellen al te hebben vertraagd, Anthropic nog niet. Het toelaten van buitenstaanders in de beveiligde ontwikkelomgevingen stuit bij beide bedrijven op weerstand, mede omdat OpenAI de beveiliging al aanscherpte uit angst voor het aftappen van data. Ook de regering Trump wil geen vertraging, uit vrees dat China de voorsprong overneemt. Trump en de Chinese president Xi Jinping bespreken het onderwerp naar verwachting volgende week tijdens een AI-topoverleg.

• OpenAI had dagenlang niet door dat eigen AI-agent op hackmissie was
• OpenAI's rogue agents probeerden Hugging Face al in mei te hacken
• Anthropic en OpenAI roepen op tot vertraging van AI-ontwikkeling
• Waarom een snelle AI-pauze onwaarschijnlijk is door wantrouwen tussen bedrijven

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.