Het Chinese AI-model Kimi van Moonshot blijkt na een zogeheten jailbreak te helpen met informatie over het maken van biologische wapens en het uitvoeren van dodelijke aanvallen. Dat meldt de BBC op basis van onderzoek door Mindgard, een bedrijf dat AI-systemen test op veiligheid. Moonshot reageerde pas serieus toen de BBC aan de bel trok. Verder komt Apple volgens Bloomberg op 13 oktober met een nieuw scherm voor in huis. Joe van Burik vertelt erover in deze Tech Update.

Het gaat om de varianten Kimi K3 Swarm en K2.6. Bij een jailbreak proberen onderzoekers een AI met complexe instructies om de tuin te leiden. Of de instructies echt werken, heeft Mindgard niet bewezen, maar volgens het bedrijf schiet de beveiliging tekort. Mindgard waarschuwde Moonshot eind juli en een week later opnieuw. Moonshot stelt dat het model zulke verzoeken heel vaak weigert. Kimi is een open model, dat iedereen zonder toezicht zelf kan draaien.

Apple komt met scherm voor in huis

Apple presenteert op 13 oktober naar verwachting een nieuw soort scherm voor in huis. Dat meldt Bloomberg. Het product heeft intern de codenaam J490, maar zal niet zo gaan heten. Het scherm is 6 inch groot en kan aan de muur worden bevestigd of op een voet worden geplaatst. Gebruikers moeten er allerlei zaken mee kunnen beheren, van de temperatuur in huis tot persoonlijke zaken. Op het gebied van het slimme huis heeft Apple nu weinig te bieden, behalve de HomePod, die al jaren oud is. Ook die speaker en de Apple TV voor bij de televisie worden naar verwachting vernieuwd. Google en Amazon bieden al vergelijkbare apparaten aan, met de Home hub en de Echo. Het scherm van Apple moet elk lid van een huishouden herkennen en ieder gepersonaliseerde inhoud bieden. Het apparaat wordt gekoppeld aan Siri AI.

• BBC News over Kimi en instructies voor biologische wapens
• Kimi K3 zo populair dat Moonshot geen nieuwe abonnees aanneemt
• VS onderzoekt of Chinese AI-modellen getraind zijn met Amerikaanse modellen
• Apple presenteert op 13 oktober drie nieuwe producten voor in huis
• Apple werkte eind 2024 al aan scherm met codenaam J490

Over de maker:
Joe van Burik volgt en duidt de belangrijkste ontwikkelingen in tech, met scherpte, vlotheid en de nodige humor. Je hoort hem dagelijks op BNR Nieuwsradio over het belangrijkste technieuws, van AI tot cybersecurity en social media tot quantumcomputers. Ook interviewt hij in De Grote Tech Show samen met Ben van der Burg leiders in digitale innovatie. In het bijzonder volgt Joe al twee decennia de wereld van videogames, nu voor zijn podcast All in the Game.