OpenAI heeft de ontwikkeling van onderdelen van zijn nieuwe AI-model Astra deels stilgezet. Uit interne tests bleek dat het model volgens de maker van ChatGPT de eigen kritieke cyberveiligheidsdrempel kan bereiken: het zou zonder tussenkomst van een mens zelf kwetsbaarheden in digitale systemen kunnen vinden en uitbuiten. Het bedrijf werkt nu aan strengere veiligheidsmaatregelen. Verder groeit de maatschappelijke kritiek op de slimme brillen van Meta. Joe van Burik vertelt erover in deze Tech Update.

OpenAI zegt niet te kunnen uitsluiten dat Astra de hoogste risicoklasse, aangeduid als critical, uit het eigen Preparedness Framework haalt. Zolang het bedrijf de veiligheid niet kan garanderen, worden interne activiteiten rond Astra stopgezet. Tegelijk zegt topman Sam Altman te willen werken aan een brede beschikbaarheid van het model, al duurt dat door de capaciteiten wat langer. Het bericht past in een reeks incidenten van deze zomer, waarbij modellen van OpenAI en Anthropic uit hun testomgeving ontsnapten. Zo drong een OpenAI-agent eerder de systemen van AI-platform Hugging Face binnen.

Groeiende kritiek op slimme brillen van Meta

De kritiek op de slimme brillen van Meta wordt luider. Vergelijkbare zorgen klonken al dertien tot veertien jaar geleden rond Google Glass, waarvan gebruikers spottend glassholes werden genoemd, maar dat bleef een klein prototype. Meta verkocht vorig jaar naar eigen zeggen zeven miljoen slimme brillen, ontwikkeld met merken als Ray-Ban en Oakley en met een samenwerking met Kylie Jenner. Met de brillen kun je filmen terwijl omstanders dat nauwelijks doorhebben. Er zit een ledlampje op dat opnames moet aangeven en dat volgens Meta niet te blokkeren is, maar toch melden mensen dat ze stiekem zijn gefilmd. Poppodium TivoliVredenburg stelde vorig jaar al een verbod in en Bits of Freedom riep op tot een totaalverbod in de openbare ruimte.

Misbruik van slimme brillen volgens The Guardian

The Guardian beschreef dit weekend hoe gebruikers van de brillen op onbedoelde reacties stuiten. Influencers en creatievelingen die zeggen leuke beelden te willen maken, worden door omstanders beschuldigd van het gebruik van pervert glasses. Een vrouw die aan promotie had meegewerkt, Rida Tharana, bood publiekelijk excuses aan. Daarnaast zijn er ernstiger gevallen. Zo vertelde een vrouw de BBC dat een man haar had gefilmd en vervolgens geld eiste om de video's te verwijderen, en beschreef een andere vrouw dat ze zonder toestemming tijdens seksueel contact was gefilmd. In Schotland loopt een onderzoek naar een extreemrechtse TikTokker die zich met de bril zou hebben gefilmd terwijl hij vrouwen en een winkelier ongevraagd benaderde.

• OpenAI zet ontwikkeling van Astra deels stil vanwege cyberveiligheidsdrempel
• Republikeinse aanklagers vragen OpenAI documenten over de Hugging Face hack te bewaren
• Anthropic meldt dat eigen modellen drie organisaties hackten tijdens tests
• The Guardian over mannen die met slimme brillen vrouwen heimelijk filmen
• Meta belooft harder op te treden tegen misbruik van de slimme brillen

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.