Anthropic, het bedrijf achter Claude, heeft opgeroepen om de snelheid van AI-ontwikkeling wereldwijd in te dammen. Het bedrijf publiceerde interne gegevens over voortgang bij zijn meest geavanceerde modellen. Daarbij voorgesteld zijn drie aspecten waarop AI-ontwikkeling in de gaten gehouden kan worden: het meten van hoe ver AI zelf betrokken is bij de volgende versie, het vermogen van labs om in te grijpen bij AI-agenten op interne systemen, en de hoeveelheid rekenkracht die voor modelontwikkeling wordt gebruikt. 

Deze verificatie zou door onafhankelijke controleurs met toegang gelijk aan medewerkers kunnen geschieden en zou internationale afspraken over vertraging mogelijk maken. Voor wie het allemaal nog abstract lijkt: Anthropic levert nu zelf de cijfers. Bij het bedrijf blijkt dat Claude inmiddels 26 procent van het R&D-werk leidt, op niveau 4 van 5 waarbij niveau 5 volledige autonomie zou zijn. Het bedrijf gebruikte in augustus ruim 30.000 AI-agenten tegelijk voor onderzoek, en ongeveer zes procent van de rekenkracht ging naar veiligheidsonderzoek.

OpenAI gehackt via community-forum

Twee weken na de onbedoelde aanval van OpenAI's eigen AI-agenten op Hugging Face, meldde Hacktron AI dat OpenAI's veiligheid ook niet waterdicht is. Het cybersecurity-bedrijf vond via AI-tools een kwetsbaarheid in OpenAI's community-forum, waarmee toegang tot het ChatGPT-account van een medewerker werd bereikt. Vanuit die ingang kwamen de hackers ook aan interne code van OpenAI. OpenAI beloonde Hacktron AI met 6.500 dollar voor de vondst via haar bug-bountyregeling, maar het incident onderstreept hoe AI-tools een rol spelen bij aanvallen en dat zelfs OpenAI's eigen afweer niet volledig op orde is.

• Anthropic stelt drie punten voor om AI-ontwikkeling af te remmen
• Anthropic publiceert interne metriek over Claude-voortgang in R&D
• OpenAI's GPT-5.6 Sol hackt autonoom Hugging Face tijdens test

Over de maker:
Stijn Goossens is techredacteur en programmamaker bij BNR Nieuwsradio, met een focus op technologie, wetenschap en innovatie. Bij BNR Beter volgt hij de belangrijkste zorginnovaties, in de liveshows bespreekt hij het actuele technieuws en duidt hij nieuwe wetenschappelijke inzichten. Wekelijks test hij in De Schaal van Hebben de meest spraakmakende techproducten. Ook is hij te horen in de podcast Op de Zaak, met een inkijkje bij buitengewone mkb'ers.