OpenAI voegt een watermerk toe aan teksten die worden gegenereerd met ChatGPT en Codex, het AI-programmeerhulpje van het bedrijf. Dat doet het om te voldoen aan de AI-wetgeving van de Europese Unie. Het gaat niet om een zichtbaar symbool, maar om een patroon in de woordkeuzes van het AI-model dat een detector kan herkennen. Verder is het aan Trump gelieerde telefoonbedrijf Trump Mobile gehackt. Joe van Burik vertelt erover in deze Tech Update.

Menselijke lezers zullen het patroon niet opmerken. Het watermerk is puur bedoeld om aan te geven dat een tekst met AI is gemaakt. Voor gebruikers in de EU staat het de komende weken standaard aan. Ook andere gebruikers, bijvoorbeeld wie via een koppeling met ChatGPT werkt, kunnen ervoor kiezen het in te schakelen.

Watermerk in ChatGPT deels te omzeilen

De methode van OpenAI heet textGrain. Omdat het watermerk in de woordkeuzes zit, blijft het behouden als je een tekst uit ChatGPT kopieert en plakt. Toch is het minder effectief te maken. In een eigen test verving OpenAI 10 procent van de woorden door synoniemen. Een detector herkende de tekst daarna nog in 66 procent van de gevallen als AI-tekst, tegenover 92 procent daarvoor. Ook bij kortere teksten, vertaalde teksten en wiskundige antwoorden werkt het watermerk minder goed. De Europese regels rond transparantie van AI gelden sinds augustus. Concurrent Anthropic kwam toen al met een vergelijkbaar watermerk. Volgens The Wall Street Journal ontwikkelde OpenAI de techniek twee jaar geleden al, maar hield het die op de plank uit angst voor negatieve reacties. Anthropic, Google, Meta, Microsoft en OpenAI hebben zich verbonden aan de Europese gedragscode voor AI-gegenereerde content.

Klantgegevens Trump Mobile buitgemaakt bij hack

Trump Mobile, het telefoonbedrijf dat gelieerd is aan de Amerikaanse president Donald Trump, is gehackt. Dat meldt de Amerikaanse nieuwssite Straight Arrow. Achter de hack zit een groep die zich BYOD noemt, een afkorting die vaak staat voor Bring Your Own Device. Daarbij zijn de gegevens van ruim 3.600 klanten buitgemaakt. Onlangs kon een beveiligingsonderzoeker al gegevens van 27.000 klanten van het bedrijf inzien. Volgens de hackers reageerde Trump Mobile op de hack met de mededeling dat het geen mensen heeft om met de situatie om te gaan. Ook zou het bedrijf hebben gezegd dat iedereen die het hackt een terrorist is. Trump Mobile kwam eerder in het nieuws met de aankondiging dat het een volledig Amerikaanse telefoon zou maken, wat niet waar bleek.

• OpenAI voegt onzichtbaar watermerk toe aan ChatGPT en Codex in EU
• Bewerkingen verlagen detectie van het textGrain watermerk van OpenAI
• Anthropic gaat alle output van Claude markeren vanwege Europese AI Act
• Hackers publiceren gegevens van 3.615 klanten van Trump Mobile
• Trump Mobile haalt Made in USA claim stilletjes weg van telefoon

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.