AI-bedrijf Anthropic pleit voor een wereldwijde mogelijkheid om de ontwikkeling van de krachtigste AI te kunnen pauzeren. Volgens medeoprichter Jack Clark heeft de AI-industrie nu wel een gaspedaal, maar geen rempedaal, terwijl systemen straks zichzelf kunnen verbeteren zonder tussenkomst van de mens. Stijn Goossens bespreekt het in deze Tech Update.

Anthropic, het bedrijf achter chatbot Claude, roept andere AI-labs op om een gecoördineerde, tijdelijke pauze of vertraging van de ontwikkeling van de meest geavanceerde modellen mogelijk te maken. In een gesprek met de BBC legde medeoprichter en beleidshoofd Jack Clark uit waarom overheden de optie moeten hebben om in te grijpen. Op dit moment ziet het bedrijf geen reden om zo'n noodrem te gebruiken, maar het wil dat die mogelijkheid er in de toekomst wel is.

De urgentie zit volgens Clark in het tempo waarmee AI zichzelf versnelt. Hij stelde dat de code van Claude inmiddels voor ongeveer 80 procent door het systeem zelf is geschreven, en dat dit binnen twee jaar 100 procent zou kunnen zijn. Dan kan AI zichzelf in de praktijk verbeteren zonder dat er een mens aan te pas komt, iets wat onderzoekers "recursieve zelfverbetering" noemen. Clark vergeleek de situatie met een auto die wel een gaspedaal heeft, maar geen rem.

Verder in deze Tech Update

• Amsterdam gunt IT-diensten aan KPN om digitaal soevereiner te worden. Diensten als hosting en digitale beveiliging die eerder bij Amerikaanse techbedrijven lagen, gaan naar KPN, dat met het Duitse Schwarz Digits werkt aan een Europese cloud die naar verwachting medio 2027 in Nederland beschikbaar komt. Het is de tweede Amsterdamse aanbesteding waarin zeggenschap over kritieke digitale infrastructuur expliciet meeweegt, mede ingegeven door eerdere ophef rond DigiD-leverancier Solvinity.

Straks in De Schaal van Hebben: Anker Soundcore Sleep A30