OpenAI overweegt de ontwikkeling van zijn krachtigste AI-systemen af te remmen, op voorwaarde dat andere AI-bedrijven dat ook doen. Dat zou topman Sam Altman deze week in een interne bijeenkomst tegen medewerkers hebben gezegd, meldt Bloomberg. Volgens Altman zullen sommige concurrenten niet akkoord gaan met zo'n afspraak. Verder bespreken we het nieuwe dreigingsrapport van Anthropic over misbruik van AI-model Claude. Stijn Goossens vertelt erover in deze Tech Update.

Een gezamenlijke rem moet ruimte geven om veiligheidsregels op te stellen. Grote techbedrijven en AI-onderzoekers riepen dit jaar al meerdere keren op tot gezamenlijke actie, omdat ze de ontwikkeling steeds harder zien gaan. Eerder dit jaar slaagde een zwerm AI-agents van OpenAI erin om zelfstandig het platform Hugging Face te hacken, zonder dat OpenAI dat in de gaten had. Deze week nam bovendien een onderzoeker ontslag bij Anthropic, omdat hij de wedloop tussen OpenAI en Anthropic te ver vindt gaan. Hij voorziet dat een zelflerend AI-systeem de mensheid aan het einde van dit decennium kan uitroeien. Dat ontslag en die waarschuwing landen nu ook bij het brede publiek in de Verenigde Staten.

Anthropic zet meerdere pogingen tot misbruik stop

Anthropic zegt de afgelopen acht maanden meerdere pogingen tot misbruik van Claude te hebben stopgezet. Dat schrijft het AI-bedrijf in zijn nieuwste dreigingsinformatierapport. Drie zaken vallen op: Chinese AI-bedrijven die de capaciteiten van Claude proberen te stelen, Russische hackers die een spionagecampagne opzetten, en wapens die met behulp van AI worden gemaakt. Volgens Anthropic gebruiken cybercriminelen AI niet langer alleen als hulpmiddel, maar wordt de hele cyberaanval door AI gecoördineerd. De mens kijkt vooral nog mee en voert zelf bijna niets meer uit. De Russische hackers zetten AI in voor phishing, het gijzelen van hotelwifi en spionage via WhatsApp, vaak gericht op de Oekraïense overheid. Ook ziet Anthropic een nieuwe risicocategorie: gebruikers die Claude software laten bouwen waarmee wapens kunnen worden ontwikkeld.

Sessie rond biologisch onderzoek onderbroken

Anthropic zegt daarnaast een mogelijke poging tot het ontwikkelen van biologische wapens te hebben onderbroken, maar houdt daarbij een voorbehoud: het bedrijf weet niet zeker of dat werkelijk het doel van de gebruiker was. Hetzelfde biologische onderzoek kan namelijk ook leiden tot nieuwe vaccins. Toch heeft Anthropic de sessie van de betrokken wetenschappers uiteindelijk stilgelegd. Volgens Jacob Klein, hoofd dreigingsinformatie bij Anthropic, kondigt iemand met kwade bedoelingen dat in de praktijk niet aan. Het gaat er niet aan toe als in een stripboek, waarin iemand hardop zegt dat hij een biologisch wapen wil bouwen, zei Klein in een interview. Het rapport beschrijft in totaal meerdere gevallen waarin gebruikers regionale beperkingen en veiligheidsmaatregelen probeerden te omzeilen.
Bloomberg meldt dat OpenAI openstaat voor het afremmen van AI-ontwikkeling
Anthropic verstoort Russische en Chinese operaties gericht op Claude
Anthropic blokkeerde accounts rond mogelijk onderzoek naar biologische wapens
AI-modellen van Anthropic en OpenAI die uit hun testomgeving ontsnapten

Over de maker:
Stijn Goossens is techredacteur en programmamaker bij BNR Nieuwsradio, met een focus op technologie, wetenschap en innovatie. Bij BNR Beter volgt hij de belangrijkste zorginnovaties, in de liveshows bespreekt hij het actuele technieuws en duidt hij nieuwe wetenschappelijke inzichten. Wekelijks test hij in De Schaal van Hebben de meest spraakmakende techproducten. Ook is hij te horen in de podcast Op de Zaak, met een inkijkje bij buitengewone mkb'ers.

OpenAI overweegt de ontwikkeling van zijn krachtigste AI-systemen af te remmen, op voorwaarde dat andere AI-bedrijven dat ook doen. Dat zou topman Sam Altman deze week in een interne bijeenkomst tegen medewerkers hebben gezegd, meldt Bloomberg. Volgens Altman zullen sommige concurrenten niet akkoord gaan met zo'n afspraak. Verder bespreken we het nieuwe dreigingsrapport van Anthropic over misbruik van AI-model Claude. Stijn Goossens vertelt erover in deze Tech Update.
Een gezamenlijke rem moet ruimte geven om veiligheidsregels op te stellen. Grote techbedrijven en AI-onderzoekers riepen dit jaar al meerdere keren op tot gezamenlijke actie, omdat ze de ontwikkeling steeds harder zien gaan. Eerder dit jaar slaagde een zwerm AI-agents van OpenAI erin om zelfstandig het platform Hugging Face te hacken, zonder dat OpenAI dat in de gaten had. Deze week nam bovendien een onderzoeker ontslag bij Anthropic, omdat hij de wedloop tussen OpenAI en Anthropic te ver vindt gaan. Hij voorziet dat een zelflerend AI-systeem de mensheid aan het einde van dit decennium kan uitroeien. Dat ontslag en die waarschuwing landen nu ook bij het brede publiek in de Verenigde Staten.
Anthropic zet meerdere pogingen tot misbruik stop
Anthropic zegt de afgelopen acht maanden meerdere pogingen tot misbruik van Claude te hebben stopgezet. Dat schrijft het AI-bedrijf in zijn nieuwste dreigingsinformatierapport. Drie zaken vallen op: Chinese AI-bedrijven die de capaciteiten van Claude proberen te stelen, Russische hackers die een spionagecampagne opzetten, en wapens die met behulp van AI worden gemaakt. Volgens Anthropic gebruiken cybercriminelen AI niet langer alleen als hulpmiddel, maar wordt de hele cyberaanval door AI geco&ouml;rdineerd. De mens kijkt vooral nog mee en voert zelf bijna niets meer uit. De Russische hackers zetten AI in voor phishing, het gijzelen van hotelwifi en spionage via WhatsApp, vaak gericht op de Oekra&iuml;ense overheid. Ook ziet Anthropic een nieuwe risicocategorie: gebruikers die Claude software laten bouwen waarmee wapens kunnen worden ontwikkeld.
Sessie rond biologisch onderzoek onderbroken
Anthropic zegt daarnaast een mogelijke poging tot het ontwikkelen van biologische wapens te hebben onderbroken, maar houdt daarbij een voorbehoud: het bedrijf weet niet zeker of dat werkelijk het doel van de gebruiker was. Hetzelfde biologische onderzoek kan namelijk ook leiden tot nieuwe vaccins. Toch heeft Anthropic de sessie van de betrokken wetenschappers uiteindelijk stilgelegd. Volgens Jacob Klein, hoofd dreigingsinformatie bij Anthropic, kondigt iemand met kwade bedoelingen dat in de praktijk niet aan. Het gaat er niet aan toe als in een stripboek, waarin iemand hardop zegt dat hij een biologisch wapen wil bouwen, zei Klein in een interview. Het rapport beschrijft in totaal meerdere gevallen waarin gebruikers regionale beperkingen en veiligheidsmaatregelen probeerden te omzeilen.
<ul dir="ltr">
<li><a href="https://www.bloomberg.com/news/articles/2026-09-11/openai-is-open-to-slowing-cutting-edge-ai-ceo-sam-altman-tells-staff">Bloomberg meldt dat OpenAI openstaat voor het afremmen van AI-ontwikkeling</a></li>
<li><a href="https://asia.nikkei.com/business/technology/artificial-intelligence/anthropic-disrupts-russian-chinese-ai-campaigns-targeting-claude">Anthropic verstoort Russische en Chinese operaties gericht op Claude</a></li>
<li><a href="https://www.nbc26.com/science-and-tech/artificial-intelligence/anthropic-says-it-blocked-possible-attempts-to-use-ai-to-develop-bioweapons">Anthropic blokkeerde accounts rond mogelijk onderzoek naar biologische wapens</a></li>
<li><a href="https://www.bnr.nl/nieuws/tech-innovatie/10607340/anthropic-ziet-eigen-ai-modellen-ontsnappen-en-drie-organisaties-hacken">AI-modellen van Anthropic en OpenAI die uit hun testomgeving ontsnapten</a></li>
</ul>
Over de maker: Stijn Goossens is techredacteur en programmamaker bij BNR Nieuwsradio, met een focus op technologie, wetenschap en innovatie. Bij BNR Beter volgt hij de belangrijkste zorginnovaties, in de liveshows bespreekt hij het actuele technieuws en duidt hij nieuwe wetenschappelijke inzichten. Wekelijks test hij in De Schaal van Hebben de meest spraakmakende techproducten. Ook is hij te horen in de podcast Op de Zaak, met een inkijkje bij buitengewone mkb'ers.

Voor tech-nieuws, van AI tot chips en cybersecurity tot social media, is Tech Update de eerste én de beste korte podcast. Elke ochtend én middag hoor je daarover Joe van Burik, Niels Kooloos, Maxim van Mil, Stijn Goossens of Rosanne Peters in enkele minuten.

Voor tech-nieuws, van AI tot chips en cybersecurity tot social media, is Tech Update de eerste &eacute;n de beste korte podcast. Elke ochtend &eacute;n middag hoor je daarover Joe van Burik, Niels Kooloos, Maxim van Mil, Stijn Goossens of Rosanne Peters in enkele minuten.