Binnen een tot twee jaar kan AI écht grote incidenten veroorzaken als overheden en bedrijven geen maatregelen nemen. Daarvoor waarschuwt Demis Hassabis van Google DeepMind, het AI-onderzoekslab van Google. Hij pleit voor een wereldwijde standaard. Verder investeert Nvidia 250 miljoen dollar in onderzoek naar AI-veiligheid in het Verenigd Koninkrijk. Rosanne Peters vertelt erover in deze Tech Update.

Volgens Hassabis zijn de incidenten waar we nu van schrikken pas het begin. Over een of twee jaar is de technologie echt krachtig, en dan worden ook de incidenten veel groter. Er is volgens hem nog tijd om het ergste te voorkomen. Een wereldwijde standaard moet dan wel flexibel en genuanceerd zijn, want de innovatie mag niet worden afgeremd. Eerder deze week pleitte ook Microsoft-topman Satya Nadella voor regels en een ingebouwde noodrem. Bedrijven kunnen dan blijven experimenteren met AI-agents, systemen die zelfstandig taken uitvoeren, maar kunnen altijd ingrijpen als het misgaat.

Nvidia investeert in Britse AI-veiligheid

Nvidia heeft toegezegd 250 miljoen dollar te investeren in AI-veiligheid. Het gaat niet om geld, maar om producten en diensten van Nvidia, uitgesmeerd over vijf jaar. De investering gaat naar het Verenigd Koninkrijk, dat het leidende land op het gebied van AI-veiligheid probeert te zijn. Britse onderzoekers kunnen daarmee onderzoek doen naar de veiligheid van krachtige AI-agents. Om zulke agents goed te kunnen draaien, zijn juist de producten en diensten nodig die Nvidia levert. Het onderzoek moet uiteindelijk bijdragen aan veiligere technologie en concrete oplossingen opleveren voor de toekomst en voor de wetenschap, waar de hele wereld van kan profiteren.

• Hassabis noemt hacks door AI een eerste waarschuwingsschot
• Microsoft-topman Nadella wil noodrem voor krachtige AI
• Nvidia zegt 250 miljoen dollar toe voor Brits onderzoek naar AI-veiligheid
• Nvidia over de besteding van zijn investering in Britse AI-agents

Over de maker:
Rosanne Peters is techredacteur en maakt De Grote Tech Show en De Technoloog. Sinds 2025 doet ze redactie- en productiewerk en is zij te horen in de Tech Update tijdens De Ochtend- en Avondspits.