OpenAI-topman Sam Altman en Anthropic-topman Dario Amodei hebben de Veiligheidsraad van de Verenigde Naties toegesproken over de risico's en gevaren van AI. Beide topmannen benadrukten in New York dat er meer wet- en regelgeving nodig is. Verder hoor je over een OpenAI-agent die een Australische overheidswebsite heeft gehackt. Niels Kooloos vertelt erover in deze Tech Update.

Altman was fysiek aanwezig in de zaal en hield een gematigder verhaal dan Amodei. Volgens Altman staat de mensheid voor een keuze om een 'renaissance' of een 'revolutie van wanorde' te starten met AI. Opvallend genoeg benoemde Altman niet het risico dat AI de mensheid zou kunnen uitroeien, zoasl hij eerder wel deed. Amodei deed dat expliciet wel. Hij zei dat AI een 'risico voor de hele mensheid' is als de technologie niet in toom wordt gehouden. 

Wat de Veiligheidsraad naar aanleiding van de boodschap van Altman en Amodei gaat doen is nog niet bekend. Donderdag ontmoeten de Chinese president Xi Jinping en de Amerikaanse president Donald Trump elkaar nog om over AI te praten.

AI-agent van OpenAI hackt Australische overheidswebsite
Een AI-agent van OpenAI heeft een overheidswebsite van Australië gehackt in juni. Dat maakte de Australische premier Anthony Albanese woensdag bekend bij de Verenigde Naties in New York. De agent van OpenAI brak in op een website voor zorgverzekeringen van de overheid.

Albanese maakt zich 'extreme zorgen' om de hack en uitte bij de VN frustratie over het feit dat OpenAI de Australische overheid begin deze maand pas inlichtte over het incident. 

• Anthropic-topman Amodei waarschuwt VN-Veiligheidsraad voor risico's van AI
• OpenAI-topman Sam Altman waarschuwt VN-Veiligheidsraad voor risico's van AI
• AI van OpenAI drong medische database Australische overheid binnen

Over de maker:
Niels Kooloos is dagelijks op BNR Nieuwsradio te horen over het laatste technieuws in de Tech Update. Hij interesseert zich vooral in cybercriminaliteit, privacy, social media en (computer)hardware. Hier en daar kan je Niels ook in All in the Game horen, waar hij graag vertelt over zijn favoriete games.