Waarom draait je AI nog in de cloud?

 

Grote AI-modellen zijn een V16-motor in een grasmaaier, zegt Paul Veugen. Met Desert Ant Labs bouwt hij de miertjes. Wie wint?

Een V16-motor in een grasmaaier: zo ziet Paul Veugen de manier waarop we nu grote taalmodellen inzetten. Met Desert Ant Labs bouwt hij kleine, gespecialiseerde AI-modellen die lokaal op je telefoon of laptop draaien. Een dag na de aankondiging van het lab stond zijn app Detail in een Apple-keynote. Paul vertelt hoe een clipfunctie die volgens hem eerst vijftig seconden in de cloud nodig had, nu in zo'n vijf seconden op een iPhone draait. Cohost Felienne Hermans vraagt door over digitale soevereiniteit, over wat er overblijft van SaaS en over de vraag of programmeurs met AI nog goede programmeurs worden. Randal bekent dat Opus gewoon zijn daily driver blijft. Verder: honderdtien versies van één model, een telefoon die in een kelder een nieuw toetsenbord test, en waarom Paul niets moet hebben van het Calimero-complex rond Europese tech.

Over Paul Veugen
Paul Veugen is CEO en medeoprichter van Desert Ant Labs, samen met CTO Laurier Rochon en Fredrik Wallin. Met datzelfde team bouwde hij eerder de video-app Detail en daarvoor Human, dat in 2016 bij Mapbox terechtkwam. Na jaren bij start-ups in de VS koos hij bewust voor Nederland. Hij laat zien dat Europa zijn eigen AI-fundament kan bouwen.
LinkedIn: https://nl.linkedin.com/in/pveugen
Website: https://desertant.com/about/

In deze aflevering
0:00:12 Intro: Detail in een Apple-keynote en geheimhouding tot op de bank
0:08:38 Klok op 9:41, batterij vol: de obsessie achter keynote-screenshots
0:12:17 Waarom miertjes in de woestijn? Van on-device video naar eigen modellen
0:19:01 Een V16 voor je grasmaaier: waarom grote modellen vaak overkill zijn
0:22:47 Clips zoeken: vijftig seconden in de cloud of vijf op een iPhone
0:36:19 Facturen ophalen, Moneybird en de SaaS-pocalypse
0:49:24 Hoe train je een model? Honderdtien versies van een clipper
0:59:47 Een telefoon die in de kelder typt: het zelfgebouwde toetsenbord
1:15:43 Calimero-complex: waarom Europa kan meedoen met OpenAI en Anthropic
1:21:18 Luistervragen van Rob G, Ivo en Stefan de Groot: breiwerk, vacatures en lokale AI voor Home Assistant

Sponsor: Personio
Personio is hét intelligente HR-platform, gebouwd voor alles wat HR vandaag de dag is geworden. Ontdek wat Personio voor jouw organisatie kan betekenen op https://www.personio.nl/.

Genoemd in deze aflevering
Introducing Desert Ant Labs, lanceringsblog met modellen en voorwaarden: https://desertant.com/blog/introducing-desert-ant-labs/
Over Desert Ant Labs, missie: kleine, gespecialiseerde lokale modellen: https://desertant.com/about/
Desert Ant Labs pers, team en achtergrond van het lab: https://desertant.com/press/
Detail: The third act, hoe het team achter Detail begon: https://detail.co/blog/the-third-act
Alfred Snippets, tekstexpansie op macOS, Felienne's tip: https://www.alfredapp.com/help/features/snippets/

Tips van de tafel
Felienne Hermans: Zet een middag lang je vaste linkjes en standaardmails in Alfred-snippets, zodat een afkorting als "RR" in elke app je hele roosterantwoord tevoorschijn tovert.

Paul Veugen: Gebruik Apples tekstvervanging voor je IBAN, e-mailadressen en KVK-nummer en stel die in op je laptop, want via de synchronisatie bespaar je juist op je telefoon de meeste tijd.

Paul Veugen: Zet een oude of krachtige computer zonder scherm in de kelder en laat daar al het AI-werk doordraaien, zodat het doorgaat als je je laptop dichtklapt.

Randal Peelen: Kijk of je muis duimknoppen heeft en leg kopiëren en plakken daaronder; dat scheelt volgens hem uren.

Met Nerds om Tafel - een podcast over technologie, wetenschap en popcultuur

Jurian Ubachs en Randal Peelen praten over alles dat nerds interesseert. Van technologie en wetensch… 

Social links

Follow podcast