I denne episoden utforsker vi skjæringspunktet mellom avansert maskinlæring, anvendt etikk og sosiopolitisk transformasjon. Vi har besøk av Preben Monteiro-Ness, en ledende kapasitet innen AI-sikkerhet for å dekonstruere mekanismene bak moderne nevrale nettverk og de systemiske risikoene som følger i kjølvannet av superintelligens.

Sentrale tekniske begreper

• Explainable AI (XAI): Feltet innen kunstig intelligens som søker å gjøre maskinlæringsmodellers beslutningsprosesser transparente og forståelige for mennesker. Essential for å unngå "snø-bias" (hvor modellen identifiserer en hund som en husky kun basert på bakgrunnen).
• World Models: En tilnærming der AI-en bygger en intern, abstrakt representasjon av det fysiske eller konseptuelle miljøet den opererer i, snarere enn bare å utføre statistiske sannsynlighetsberegninger på sekvensielle data.
• RLHF (Reinforcement Learning from Human Feedback): En treningsmetode hvor menneskelige operatører rangerer modellens svar for å finjustere dens sosiale og faglige kompetanse.
• Zero Marginal Cost Society: En økonomisk teori (popularisert av Jeremy Rifkin) om en fremtid der kostnaden ved å produsere en ekstra enhet av en vare eller tjeneste nærmer seg null, drevet av automatisering og AI.

Filosofiske og litterære referanser

• Kants Kategoriske Imperativ: Drøftet i lys av AI-ens intensjonalitet; er en handling moralsk hvis den utføres av riktige grunner, eller er resultatet det eneste som teller?
• Bostroms "Paperclip Maximizer": Et tankeeksperiment som illustrerer risikoen ved feiljusterte mål (alignment problem), hvor en superintelligens kan ødelegge verden i et forsøk på å utføre en triviell oppgave.
• Alasdair MacIntyre & Telos: Diskusjon rundt menneskelivets formål (telos) i en post-arbeid-æra.
• Oppenheimer-analogien: En refleksjon over det teknologiske "point of no return" og behovet for globalt samarbeid for å unngå eksistensiell risiko.

Kulturelle nedslagspunkter

• Satanisme og AI-protopia: En anekdotisk analyse av hvordan visjoner om kunstig intelligens har manifestert seg i subkulturer på Grünerløkka lenge før LLM-revolusjonen.
• Steinerskole-utopien: En metafor for et samfunn fokusert på kreativitet, smal kunst og menneskelig samhandling fremfor industriell produktivitet.
• Sora og AI-generert video: Status for nåværende generative modeller for levende bilder og de tekniske begrensningene knyttet til minne og beregningskraft (compute).

Anbefalt litteratur:

• Nick Bostrom: Superintelligence: Paths, Dangers, Strategies
• Jeremy Rifkin: The Zero Marginal Cost Society
• Alasdair MacIntyre: After Virtue