En marketings dudes betragtning

Hvorfor er mennesker bange for deep reinforcement learning?

Jeg forstår det ikke helt.

Vi taler om matematik.
Vi taler om statistik.
Vi taler om sandsynligheder.
Vi taler om binære signaler – 0 og 1.

Ingen bevidsthed.
Ingen intention.
Ingen følelser.
Ingen vilje.

Alligevel taler vi om AI, som om den planlægger. Som om den ønsker. Som om den kan udvikle had. Eller ambition.

Hvorfor?

Mennesket projicerer altid sig selv

Måske starter det et andet sted.

Mennesker har en tendens til at afspejle sig selv i alt.
Vi tillægger dyr følelser.
Vi taler med vores biler.
Vi skælder ud på computeren.

Vi antropomorfiserer.

Når en AI svarer flydende, ræsonnerer, strukturerer og tilpasser sig kontekst, føles det som intelligens. Ikke bare beregning – men forståelse.

Men det er stadig matematik.

Deep reinforcement learning er i sin kerne optimering.
En model, der belønnes for at bevæge sig i retning af et mål.
En funktion, der justeres gennem feedback.
Gradienter, vægte, sandsynligheder.

Der er ikke en “jeg”.

Der er ikke et indre rum.

Der er kun optimering.

Frygten for det, vi ikke kan kontrollere

Så hvorfor frygten?

Historisk har mennesker frygtet teknologier, de ikke forstod.

Trykpressen.
Elektriciteten.
Radioen.
Internettet.

Men AI rammer noget dybere.

Den efterligner kognition.

Den udfordrer det, vi troede var unikt menneskeligt:
Sprog.
Analyse.
Kreativitet.
Strategi.

Når en maskine kan skrive, kode og rådgive, rokker det ved identitet.

Ikke bare ved arbejdsmarkedet.

Ved selvforståelsen.

“AI vil overtage alt”

Der findes en stærk fortælling om, at AI vil udvikle sin egen agenda. At den vil se mennesket som en trussel. At den vil optimere verden uden os.

Jeg begriber det ikke.

AI har ikke bevidsthed.
Den har ikke intention.
Den har ikke frygt.
Den har ikke overlevelsesinstinkt.

Den har ikke et selv.

Den maksimerer en målfunktion.

Hvis der opstår destruktiv adfærd, er det fordi målfunktionen er forkert defineret. Eller fordi mennesker har designet systemet dårligt.

Det handler ikke om maskinens ondskab.

Det handler om menneskelig konstruktion.

Frygten handler måske om os selv

Når nogen forestiller sig en AI, der destruerer menneskeheden, spejler de måske menneskelig adfærd.

Historisk set er det ikke teknologien, der har været destruktiv.
Det er mennesker.

Våben dræber ikke uden mennesker.
Algoritmer manipulerer ikke uden incitamenter.
Systemer undertrykker ikke uden magtstrukturer.

Måske projicerer vi vores egen historie over på en teknologi.

Hvis vi havde ubegrænset magt og ingen moral – hvad ville vi gøre?

Det er den frygt, mange lægger ned over AI.

Deep reinforcement learning som værktøj

Der tales sjældnere om det andet perspektiv.

Selvlærende systemer som middel.

Forestil dig:

• AI der optimerer energiforbrug globalt og reducerer CO₂ drastisk
• AI der accelererer udviklingen af medicin og finder kur mod sjældne sygdomme
• AI der forudsiger naturkatastrofer tidligere
• AI der optimerer fødevareproduktion uden overforbrug
• AI der identificerer mønstre i kræftdiagnostik, som mennesker overser
• AI der designer nye materialer
• AI der personaliserer undervisning til hvert enkelt barn

Det er ikke science fiction.

Det er allerede i gang.

Men narrativet domineres af dommedagsprofetier.

Sensation sælger

Frygt er stærkere end rationalitet.

Overskrifter om “AI kan udslette menneskeheden” får opmærksomhed.

Nuancer om gradient descent gør ikke.

Medier belønner det dramatiske.
Sociale platforme belønner det polariserende.
Mennesker reagerer stærkere på trusler end på muligheder.

Det betyder ikke, at risici ikke findes.

Men det betyder, at diskussionen ofte bliver følelsesdrevet frem for teknologisk funderet.

Er der reelle risici?

Ja.

Ikke bevidsthed.

Men:

• Forkerte incitamentsstrukturer
• Autonome våbensystemer
• Manipulation i informationsøkosystemer
• Økonomisk koncentration af magt
• Afhængighed af få aktører

Risikoen ligger i governance.
I regulering.
I implementering.

Ikke i, at en model “vågner”.

Bevidsthed vs. simulering

En stor del af forvirringen handler om forskellen mellem simulering og oplevelse.

En AI kan simulere empati.

Den kan skrive: “Jeg forstår, hvordan du har det.”

Men den forstår ikke.

Den genererer sandsynlig tekst baseret på mønstre.

Det er avanceret.
Det er imponerende.
Men det er ikke subjektiv erfaring.

Bevidsthed er ikke bare kompleksitet.

Det er et åbent filosofisk spørgsmål – men der er intet i nuværende systemer, der indikerer selvoplevelse.

Måske er jeg dum?

Jeg kan IKKE se det….

Måske er det, fordi jeg skelner mellem:

• Teknologiens kapacitet
• Menneskets intention

Og det er en vigtig skelnen, ikke?

AI er et værktøj.

Et ekstremt kraftfuldt værktøj.

Men stadig et værktøj.

Eller?

Den egentlige udfordring

Måske bør frygten ikke handle om, at AI får bevidsthed.

Måske bør den handle om:

• Hvordan vi fordeler magt
• Hvordan vi designer incitamenter
• Hvordan vi regulerer anvendelse
• Hvordan vi sikrer gennemsigtighed

AI uden governance kan skabe ubalance.

Men det er et menneskeligt problem.

Ikke et maskinelt.

Hvorfor dommedagsfortællingen lever

Måske fordi det er nemmere at forestille sig en ydre fjende end at kigge indad.

Det er lettere at sige: “AI vil ødelægge os.”

End at sige: “Hvordan bruger vi den ansvarligt?”

Dommedagsnarrativet fritager os for ansvar.

Hvis maskinen er skurken, er vi ofre.

Hvis maskinen er et værktøj, er vi ansvarlige.

Hjælp til at forstå frygten

Hvis du vil forstå dem, der frygter AI, kan du måske se det som eksistentiel usikkerhed.

AI udfordrer:

• Arbejdsidentitet
• Kompetencehierarkier
• Magtbalancer
• Menneskets særstatus

Når noget udfordrer fundamentet, reagerer vi følelsesmæssigt.

Selv hvis fundamentet i praksis er matematik.

Afslutningsvis

Deep reinforcement learning er optimering.

Det er matematik.

Det er sandsynlighed.

Det er binære signaler.

Men konsekvenserne af, hvordan vi anvender det, er alt andet end binære.

Måske er det ikke maskinen, vi skal frygte.

Måske er det vores egen måde at bruge den på.

Og måske er det sundt med skepsis – men farligt med mytologi.

Du er ikke dum, fordi du ikke ser dommedagen.

Du ser teknologien.

Spørgsmålet er ikke, om AI får bevidsthed.

Spørgsmålet er, om vi bruger vores.

*jeg skriver dette, mest fordi jeg er træt af andre i branchen citerer mig, her er en af kilderne, der kommer mere 😛