I denne episoden utforsker vi skjæringspunktet mellom avansert maskinlæring, anvendt etikk og sosiopolitisk transformasjon. Vi har besøk av Preben Monteiro-Ness, en ledende kapasitet innen AI-sikkerhet for å dekonstruere mekanismene bak moderne nevrale nettverk og de systemiske risikoene som følger i kjølvannet av superintelligens.

Sentrale tekniske begreper
Explainable AI (XAI): Feltet innen kunstig intelligens som søker å gjøre maskinlæringsmodellers beslutningsprosesser transparente og forståelige for mennesker. Essential for å unngå "snø-bias" (hvor modellen identifiserer en hund som en husky kun basert på bakgrunnen).
World Models: En tilnærming der AI-en bygger en intern, abstrakt representasjon av det fysiske eller konseptuelle miljøet den opererer i, snarere enn bare å utføre statistiske sannsynlighetsberegninger på sekvensielle data.
RLHF (Reinforcement Learning from Human Feedback): En treningsmetode hvor menneskelige operatører rangerer modellens svar for å finjustere dens sosiale og faglige kompetanse.
Zero Marginal Cost Society: En økonomisk teori (popularisert av Jeremy Rifkin) om en fremtid der kostnaden ved å produsere en ekstra enhet av en vare eller tjeneste nærmer seg null, drevet av automatisering og AI.

Filosofiske og litterære referanser
Kants Kategoriske Imperativ: Drøftet i lys av AI-ens intensjonalitet; er en handling moralsk hvis den utføres av riktige grunner, eller er resultatet det eneste som teller?
Bostroms "Paperclip Maximizer": Et tankeeksperiment som illustrerer risikoen ved feiljusterte mål (alignment problem), hvor en superintelligens kan ødelegge verden i et forsøk på å utføre en triviell oppgave.
Alasdair MacIntyre & Telos: Diskusjon rundt menneskelivets formål (telos) i en post-arbeid-æra.
Oppenheimer-analogien: En refleksjon over det teknologiske "point of no return" og behovet for globalt samarbeid for å unngå eksistensiell risiko.

Kulturelle nedslagspunkter
Satanisme og AI-protopia: En anekdotisk analyse av hvordan visjoner om kunstig intelligens har manifestert seg i subkulturer på Grünerløkka lenge før LLM-revolusjonen.
Steinerskole-utopien: En metafor for et samfunn fokusert på kreativitet, smal kunst og menneskelig samhandling fremfor industriell produktivitet.
Sora og AI-generert video: Status for nåværende generative modeller for levende bilder og de tekniske begrensningene knyttet til minne og beregningskraft (compute).

Anbefalt litteratur:
Nick Bostrom: Superintelligence: Paths, Dangers, Strategies
Jeremy Rifkin: The Zero Marginal Cost Society
Alasdair MacIntyre: After Virtue

I denne episoden utforsker vi skj&aelig;ringspunktet mellom avansert maskinl&aelig;ring, anvendt etikk og sosiopolitisk transformasjon. Vi har bes&oslash;k av&nbsp;Preben Monteiro-Ness, en ledende kapasitet innen AI-sikkerhet for &aring; dekonstruere mekanismene bak moderne nevrale nettverk og de systemiske risikoene som f&oslash;lger i kj&oslash;lvannet av superintelligens.
<hr>
Sentrale tekniske begreper
<ul>
<li>Explainable AI (XAI):&nbsp;Feltet innen kunstig intelligens som s&oslash;ker &aring; gj&oslash;re maskinl&aelig;ringsmodellers beslutningsprosesser transparente og forst&aring;elige for mennesker. Essential for &aring; unng&aring; "sn&oslash;-bias" (hvor modellen identifiserer en hund som en husky kun basert p&aring; bakgrunnen).</li>
<li>World Models:&nbsp;En tiln&aelig;rming der AI-en bygger en intern, abstrakt representasjon av det fysiske eller konseptuelle milj&oslash;et den opererer i, snarere enn bare &aring; utf&oslash;re statistiske sannsynlighetsberegninger p&aring; sekvensielle data.</li>
<li>RLHF (Reinforcement Learning from Human Feedback):&nbsp;En treningsmetode hvor menneskelige operat&oslash;rer rangerer modellens svar for &aring; finjustere dens sosiale og faglige kompetanse.</li>
<li>Zero Marginal Cost Society:&nbsp;En &oslash;konomisk teori (popularisert av Jeremy Rifkin) om en fremtid der kostnaden ved &aring; produsere en ekstra enhet av en vare eller tjeneste n&aelig;rmer seg null, drevet av automatisering og AI.</li>
</ul>
Filosofiske og litter&aelig;re referanser
<ul>
<li>Kants Kategoriske Imperativ:&nbsp;Dr&oslash;ftet i lys av AI-ens intensjonalitet; er en handling moralsk hvis den utf&oslash;res av riktige grunner, eller er resultatet det eneste som teller?</li>
<li>Bostroms "Paperclip Maximizer":&nbsp;Et tankeeksperiment som illustrerer risikoen ved feiljusterte m&aring;l (alignment problem), hvor en superintelligens kan &oslash;delegge verden i et fors&oslash;k p&aring; &aring; utf&oslash;re en triviell oppgave.</li>
<li>Alasdair MacIntyre &amp; Telos:&nbsp;Diskusjon rundt menneskelivets form&aring;l (telos) i en post-arbeid-&aelig;ra.</li>
<li>Oppenheimer-analogien:&nbsp;En refleksjon over det teknologiske "point of no return" og behovet for globalt samarbeid for &aring; unng&aring; eksistensiell risiko.</li>
</ul>
Kulturelle nedslagspunkter
<ul>
<li>Satanisme og AI-protopia:&nbsp;En anekdotisk analyse av hvordan visjoner om kunstig intelligens har manifestert seg i subkulturer p&aring; Gr&uuml;nerl&oslash;kka lenge f&oslash;r LLM-revolusjonen.</li>
<li>Steinerskole-utopien:&nbsp;En metafor for et samfunn fokusert p&aring; kreativitet, smal kunst og menneskelig samhandling fremfor industriell produktivitet.</li>
<li>Sora og AI-generert video:&nbsp;Status for n&aring;v&aelig;rende generative modeller for levende bilder og de tekniske begrensningene knyttet til minne og beregningskraft (compute).</li>
</ul>
<hr>
Anbefalt litteratur:
<ul>
<li>Nick Bostrom:&nbsp;Superintelligence: Paths, Dangers, Strategies</li>
<li>Jeremy Rifkin:&nbsp;The Zero Marginal Cost Society</li>
<li>Alasdair MacIntyre:&nbsp;After Virtue</li>
</ul>