Anthropic houdt zijn nieuwste AI-model Mythos bewust buiten publiek bereik, omdat het in staat is duizenden onbekende kwetsbaarheden te vinden in vrijwel elk groot digitaal systeem. Minister van Financiën Scott Bessent en Fed-voorzitter Jerome Powell riepen deze week topbestuurders van Wall Street-banken bijeen voor een urgente bespreking van de risico's. Stijn Goossens bespreekt het in deze Tech Update.

Tijdens de testfase identificeerde Mythos Preview duizenden zogenaamde zero-day kwetsbaarheden, in elk groot besturingssysteem en elke grote webbrowser. In één geval vond het model volledig zelfstandig een zeventien jaar oud beveiligingslek in FreeBSD waarmee een aanvaller op afstand volledige controle over een server kan overnemen. Anthropic benadrukt dat het model niet specifiek is getraind op cyberbeveiligingstaken: de gevaarlijke capaciteiten kwamen voort uit algemene verbeteringen in redeneren en programmeervaardigheden.

Bessent en Powell riepen Wall Street-leiders bijeen voor een urgente bijeenkomst op het ministerie van Financiën in Washington, om er zeker van te zijn dat banken op de hoogte zijn van de mogelijke risico's van Mythos en vergelijkbare toekomstige modellen, en dat ze maatregelen nemen om hun systemen te beschermen. Voor Nederland en Europa stelt dit een bredere vraag: hoe afhankelijk zijn we van Amerikaanse techbedrijven als het gaat om de beveiliging van onze digitale infrastructuur, en wat kunnen overheden hier zelf in betekenen?

Verder in deze Tech Update

• Steeds meer jonge Nederlandse kinderen gebruiken dagelijks meerdere digitale apparaten. Uit onderzoek van Netwerk Mediawijsheid blijkt dat kinderen onder de zes jaar gemiddeld ruim twee apparaten per dag gebruiken, met een gemiddelde schermtijd van 102 minuten, ruim boven het landelijk advies. Experts waarschuwen dat tablets en touchscreens dichtbij het gezicht oogproblemen zoals bijziendheid kunnen versterken, terwijl een kwart van de ouders zelf moeite heeft de telefoon weg te leggen.

Zometeen in De Schaal van Hebben: Philips OneTurn hybride strijkijzer