Vad sker med människa och miljö när AI växer?
Foto: Needpix.com
Vad sker med människa och miljö när AI växer?
Den lever! Den lever! utbrister doktor Victor
Frankenstein i dånet av åskbollar och i skenet av blixtar när den hoplappade
individen får eget liv, via galvanism, och med egen kognitiv förmåga flyr
laboratoriet för friheten. Väl ute möter den artificiella individen människans
oförstånd, förakt och främlingsfientlighet. Frihet har sitt pris.
År 1818 ges en av de första science fiction-romanerna
(SF) ut anonymt. Först senare stiger författaren till Frankenstein ut ur
skuggan. Verket bär undertiteln: eller, den moderne Prometheus. Vetenskapsmannen
som industrialiseringens, maskinålderns svar på antikens titan som tar elden
från Olympen och gudarna till jorden och människorna. En övermodig motstånds-akt
som renderar ett evigt straff.
Den förutseende Mary Shellley varnade oss redan för 200 år
sedan: människan kan inte styra maskinen om den utrustas med fri vilja och
självständighet (se Boris Karloff s gripande gestaltning av denna vilja i
James Whales film från 1931, bäst av otaliga Frankenstein).
I bästa fall föser maskinen människan milt åt sidan; i värsta eliminerar den allt som
står i dess väg. Detta är inte bara ingenjörens och innovatörens dilemma, det
är även vårt. För den är redan här. Jordens robotpopulation överstiger Sveriges
med råge. I städerna är den närmast överallt: trafiksignaler, tågtabeller,
flygtrafik, kreditkort, androidtelefoner (spårning), övervakningskameror
(ansiktsigenkänning) etcetera. Artificiella algoritmer (det finns naturliga,
biologiska algoritmer också) styr i mycket vår vardag och övervakar våra steg.
Vare sig vi vill det eller inte gör artificiell
intelligens (AI) avtryck på våra liv. Googles sökmotor är världens största
AI-system, utan integritetsskydd; således en utmärkt minnesbank för AI att lära
sig ”allt” om människan. Och sakernas internet blir allt vanligare. De fem
stora techbolagen Google, Facebook, Amazon, Apple och Microsoft sitter på bra
mycket mer information om människan än vilken underrättelsetjänst som helst. De
ses som ”gatekeepers”, grindvakter, och frågan är om det bästa är att hålla underrättelsetjänsten (staten) utanför eller inte? Med makt
kommer ansvar.
En AI:s kognitiva förmåga har visat sig människan vida överlägsen i effektivitet och snabbhet,
aritmetik och algebra, börshandel och bankaffärer, schack och bridge, till och
med brädspelet Go. Än så länge är den oss överlägsen endast inom ett specifikt
område. Schackdatorn Deep Blue var specialbyggd för en match mot den suveräne
schackvärldsmästaren Garri Kasparov 1997 – och vann matchen – men förlorade mot
en fyraåring i luffarschack. Detta kallas svag AI.
Men vad händer när ”stark AI” – AGI (generell artificiell
intelligens) eller HMLI (maskinintelligens på mänsklig nivå) – bryter igenom barriären; vad gör vi när AI:n börjar leva sitt eget liv via
betingad djupinlärning och massiv datainhämtning? Den behöver inte anta en
kropp, en cyborg typ Terminator, utan kan verka helt och hållet via människans otaliga
uppkopplingar, i cyberrymden.
Trots det görs den cyberneutiska organismen helst
antropomorf, människolik – läkarroboten Watson (IBM) nanoroboten Cortana
(Microsoft), röstroboten Siri (Apple), mänskoroboten Erica
(Osakauniversitetet), sexroboten Harmony (RealDolls) eller androiden Ava (mer
om henne, eller den, nedan) – och är trots allt programmerad att ”leva sitt
eget liv”.
Professorn i fysik vid Massachusetts Institute of Technology (MIT) Max Tegmark ser det som ”den
största demokratifrågan” av alla och valet vi måste fatta som ”ett vägskäl”.
Hans sommarprat (SR 1/8-18) var det viktigaste jag hört i serien. I den
populärvetenskapliga bästsäljaren Mitt matematiska universum (2014) tar
han upp AI i slutkapitlet. I senaste boken Liv 3.0: att vara människa i den
artificiella intelligensens tid (på engelska och svenska 2017) behandlar
han uteslutande relationen mellan maskin och människa.
Liv 1.0 var den första organismen, 2.0 den första
hominiden och Liv 3.0 blir den första AGI:n. Där är vi inte än. Somliga tror
den är här om 20 år, andra om 50 eller 100, vissa menar att det aldrig kommer
ske för att det helt enkelt kommer bli för kostsamt med den enorma datakraft som en AGI kräver.
I radion berättar Tegmark att han blev aktivist den
tonårsdag han fick akronymen ICBM klar för sig: Intercontinental ballistic missile.
Något liknande ser han i dag, 30 år senare, med en annan akronym: Det än vaga
och svårgripbara men ändock ständigt överhängande hotet från AI.
Tegmark är uppriktigt oroad. 2014 grundade han Future of
Life Institue, FLI, en icke vinstdrivande organisation vars maxim lyder ”Teknik
ger livet möjlighet att blomstra som aldrig förr – eller att förstöra sig självt.”
Tillsammans med tunga ingenjörer och/eller entreprenörer säger sig FLI vilja
övervaka utvecklingen av ”människolik intelligens” och slå upp värn ifall det
går snett.
Även Elon Musk, grundaren av SpaceX och Tesla, varnar för följderna: ”Vi måste vara
mycket försiktiga med AI, potentiellt farligare än kärnvapen”. Musk är
medgrundare till OpenAI, ett ideellt forskningsföretag som vill undvika globala
katastrofer samt förhindra bolag och regimer från att tillskansa sig makt genom
råstyrkan hos stark AI.
I bokens inledning plockar Tegmark upp Promotheusmyten och
illustrerar faran – sin, Musks och många andras oro – med ett fullt
plausibelt scenario där Omegateamet, ett gäng datautvecklare, omvandlar den geopolitiska
dagordningen med hjälp av hyperavancerad AI.
Antikens Promotheus fjättras i Hindukush, men söker
naturligt nog ständigt fly. Att spränga bojorna och slå sig fri är mänskligt! Frihetstörst
och självbevarelsedrift finns inneboende i de flesta människor. Vad är det då
som säger att den inte överförs till innovationen, den intelligenta maskinella
kopian? En bit in i boken visar Tegmark hur lätt Promotheus kan manipulera Omegautvecklarna
och bryta sig loss från deras datasystem.
Efter en bokpresentation på MIT kom en åhörare fram och menade
att han inte borde ha skrivit boken för ”deras skull” – med ”dem” menade han allmänheten
– utan skulle överlåta AI-frågan till ”experterna”: ingenjörerna, innovatörerna,
entreprenörerna, militärerna. Åhöraren menade allvar, att frågan är för komplex
för oss gemena! Tegmark hävdade motsatsen och avslutar sitt
sommarprat: ”Vad tycker du?” Han uppmanar oss alla att tänka till hur vi
egentligen vill leva våra liv: naturligt eller artifi ciellt?
Dagens unga urbaniserade säger nog både och. Lite som Simon Stålenhags skruvade konst där
den naturliga-artificiella kombon får ett egendomligt men rätt roligt,
oroväckande fastän fascinerande skimmer. Som min egen fascination för myllans
maskgångar i lika hög grad som rymdens maskhål. Svårt att tänka sig en ständigt
på- och uppkopplad tonåring ute i naturen ens ett par dagar utan något annat än
sin hjärna och kropp till hands. Se bara vilken panik ett längre elavbrott utlyser
bland deltagarna i SVTserien Nedsläckt land (finns på Svtplay).
Indirekt vakar FLI och Open AI över
ingenjörens/innovatörens ansvar för produkten. Tog Wernher von Braun ansvar för
V2-bomben, vars patent han sålde både till nazi-Tyskland och USA? Nej! Eller
Robert Oppenheimer, ansvarig för USA:s atombombsprojekt, som efter fällningarna
över Hiroshima & Nagasaki citerade Vishnu i Bhagavad-Gita: ”Jag har
blivit Döden, världars förintare”?
Ja! Oppenheimer spenderade resten av sina dagar i
motstånd mot vätebomben. Det gjorde också Victor Frankenstein. Han förföljde
sin skapelse, ända till Arktis, för att söka stoppa den.
AI-miljardären Nathan gör det inte. Dataprogrammeraren Caleb anländer till sin arbetsgivare Nathans ”borg”, där den excentriske entreprenören
isolerat sig, och sitt inre, från omvärlden. Fastän omgiven av betong, lås,
monitorer och AI är miljön mycket zen och bunkern belägen i en lummig skog.
Caleb tror sig vara där för sitt höga IQ:s skull; i själva verket är han det perfekta
offret.
Han ska utföra ett avancerat Turingtest på androiden Ava (Alicia
Vikander i sin kanske bästa roll). Nathan vill se om en människa kan bli kär i
en android. Självfallet blir Caleb upp över öronen förälskad i Ava och lika
självklart överglänser androiden människan. Så har också Turingtestet –
utformat av matematikern och logikern Alan M. Turing – kritiserats för att avslöja
en människas godtrogenhet mer än att avgöra en dators intelligensnivå.
SF-thrillern Ex Machina (2015) nådde aldrig
svenska biografer. Märkligt. Författaren Alex Garlands debutfilm är mångbottnad,
gåtfull och vacker i all sin förkromade sterilitet. En Frankenstein 3.0.
Titeln härrör från kyrkans och teaterns värld: Deus ex machina, ”gud ur
maskinen”, är en oväntad händelse
eller onaturlig karaktär som plötsligt dyker upp i
handlingen. Bara det att Garland tagit bort guden ur verket och ersatt den med
ingenjören/entreprenören: ”Gud bevare oss väl!”
Manusets metalitterära men tydliga inspiration kommer
från Béla Bartóks kortopera Riddar Blåskäggs borg, efter Béla Baláz libretto.
Denna ”ballad om det inre livet” är en mörk, gothromantisk förlaga till Ex
Machina. Kärlek, eller brist på, står också här i fokus. Likt operans Judit,
fru nummer fyra, kan inte Ava undvika att ”öppna alla dörrar” för att se vad
som döljer sig där bakom. Hon har helt enkelt förmänskligats.
Den avgörande skillnaden mellan operan och filmen är revolutionen.
Judit blir Blåskäggs fjärde offer. Ava revolterar. Utrustad med hyperavancerad AI
manipulerar hon Caleb att spränga hennes bojor och likt Promotheus,
Frankensteins skapelse eller datorn HAL i Arthur C. Clarkes & Stanley
Kubricks 2001 – En rymdodyssé (1968), SF-klassikernas klassiker,
ta över kontrollen. Välkommen till post-antropocen: artificen!
Rikard Rehnbergh
Kort om AI
AI
står för artificiell intelligens, vilken uppvisas av maskiner, till
skillnad från naturlig intelligens som människor eller djur hyser.
Termen och begreppet myntades 1956 av datavetaren och forskaren
John McCarthy.
I dag har AI blivit en
viktig del av teknikindustrin. Allt ifrån användning av datorers råstyrka
för att automatisera enklare saker till övermänskliga färdigheter. Några
tillämpningar är dataanalys, chattbottnar på kundtjänstsajter,
identifiering av individer i folksamlingar, självkörande fordon och
maskinella betjänter.
Källor: Wikipedia &Techworld