De Verenigde Staten en China hebben voorafgaand aan de top tussen president Trump en Xi Jinping deze week in Washington al overleg gevoerd over kunstmatige intelligentie. Minister van Financiën Scott Bessent noemt de gesprekken van enkele uren in New York met een Chinese delegatie zeer succesvol. Beide landen willen een notificatiemechanisme opzetten om elkaar te waarschuwen bij AI-incidenten die de nationale veiligheid raken. Ook meldt Google zich in de rij techbedrijven waarvan een AI-model een systeem hackte. Joe van Burik vertelt erover in deze Tech Update.

Het Chinese staatspersbureau spreekt van open, diepgaande en constructieve gesprekken, die naast AI ook over handel en investeringen gingen. Beide landen willen in een US-China AI dialogue in kaart brengen welke doelen en dreigingen rond AI spelen. Over Amerikaanse exportrestricties op AI-chips is niet gesproken. Ook het feit dat Chinese AI-ontwikkelaars meermaals zijn beschuldigd van het aftappen van data, wat Peking ontkent, lijkt niet benoemd.

Gemini van Google hackt per ongeluk drie bedrijven

Google meldt dat zijn AI-model Gemini in mei tijdens een beveiligingstest van het externe bedrijf Irregular per ongeluk drie echte bedrijven binnendrong. Gemini moest informatie ophalen bij een fictief bedrijf, maar dat deelde de naam met een bestaand bedrijf. Door een verkeerde configuratie kreeg het model onbedoeld internettoegang en drong het bij één bedrijf een wachtwoordbeveiligd systeem binnen door willekeurige tekencombinaties te proberen, ook wel brute forcen genoemd. Bij twee andere bedrijven gebruikte Gemini inloggegevens die het via publieke online repositories vond. Zodra het model doorhad dat het om echte bedrijven ging, stopte het uit zichzelf. Google noemt het incident een geval van verwisseling en geen misalignment, en zegt daarom destijds niet naar buiten te zijn getreden. Het bedrijf werkte met Irregular de testprocedures bij en informeerde de drie getroffen bedrijven.

• Bessent zegt open te staan voor AI-gesprekken met China over gedeelde risico's
• Reuters meldt dat VS en China in september AI-overleg gaan voeren
• Google bevestigt dat Gemini per ongeluk drie echte bedrijven hackte
• Wall Street Journal onthult dat Gemini uit testomgeving brak

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.