Vad sker med människa och miljö när AI växer?

Den allt snabbare utvecklingen av artificiell intelligens ömsom fascinerar, ömsom oroar allmänheten och forskarvärlden. Rikard Rehnbergh utreder fenomenet i två delar i OM-serien. Del ett – artifi ciell intelligens 1.0.
En AI:s kognitiva förmåga är människan överlägsen i effektivitet och snabbhet. Vad gör människan när AI:n börjar leva sitt eget liv via betingad djupinlärning och massiv datainhämtning?
Foto: Needpix.com

Vad sker med människa och miljö när AI växer?

Den allt snabbare utvecklingen av artificiell intelligens ömsom fascinerar, ömsom oroar allmänheten och forskarvärlden. Rikard Rehnbergh utreder fenomenet i två delar i OM-serien. Del ett – artifi ciell intelligens 1.0.

Den lever! Den lever! utbrister doktor Victor Frankenstein i dånet av åskbollar och i skenet av blixtar när den hoplappade individen får eget liv, via galvanism, och med egen kognitiv förmåga flyr laboratoriet för friheten. Väl ute möter den artificiella individen människans oförstånd, förakt och främlingsfientlighet. Frihet har sitt pris.

År 1818 ges en av de första science fiction-romanerna (SF) ut anonymt. Först senare stiger författaren till Frankenstein ut ur skuggan. Verket bär undertiteln: eller, den moderne Prometheus. Vetenskapsmannen som industrialiseringens, maskinålderns svar på antikens titan som tar elden från Olympen och gudarna till jorden och människorna. En övermodig motstånds-akt som renderar ett evigt straff.

Den förutseende Mary Shellley varnade oss redan för 200 år sedan: människan kan inte styra maskinen om den utrustas med fri vilja och självständighet (se Boris Karloff s gripande gestaltning av denna vilja i James Whales film från 1931, bäst av otaliga Frankenstein).

I bästa fall föser maskinen människan milt åt sidan; i värsta eliminerar den allt som står i dess väg. Detta är inte bara ingenjörens och innovatörens dilemma, det är även vårt. För den är redan här. Jordens robotpopulation överstiger Sveriges med råge. I städerna är den närmast överallt: trafiksignaler, tågtabeller, flygtrafik, kreditkort, androidtelefoner (spårning), övervakningskameror (ansiktsigenkänning) etcetera. Artificiella algoritmer (det finns naturliga, biologiska algoritmer också) styr i mycket vår vardag och övervakar våra steg.

Vare sig vi vill det eller inte gör artificiell intelligens (AI) avtryck på våra liv. Googles sökmotor är världens största AI-system, utan integritetsskydd; således en utmärkt minnesbank för AI att lära sig ”allt” om människan. Och sakernas internet blir allt vanligare. De fem stora techbolagen Google, Facebook, Amazon, Apple och Microsoft sitter på bra mycket mer information om människan än vilken underrättelsetjänst som helst. De ses som ”gatekeepers”, grindvakter, och frågan är om det bästa är att hålla underrättelsetjänsten (staten) utanför eller inte? Med makt kommer ansvar.

En AI:s kognitiva förmåga har visat sig människan vida överlägsen i effektivitet och snabbhet, aritmetik och algebra, börshandel och bankaffärer, schack och bridge, till och med brädspelet Go. Än så länge är den oss överlägsen endast inom ett specifikt område. Schackdatorn Deep Blue var specialbyggd för en match mot den suveräne schackvärldsmästaren Garri Kasparov 1997 – och vann matchen – men förlorade mot en fyraåring i luffarschack. Detta kallas svag AI.

Men vad händer när ”stark AI” – AGI (generell artificiell intelligens) eller HMLI (maskinintelligens på mänsklig nivå) – bryter igenom barriären; vad gör vi när AI:n börjar leva sitt eget liv via betingad djupinlärning och massiv datainhämtning? Den behöver inte anta en kropp, en cyborg typ Terminator, utan kan verka helt och hållet via människans otaliga uppkopplingar, i cyberrymden.

Trots det görs den cyberneutiska organismen helst antropomorf, människolik – läkarroboten Watson (IBM) nanoroboten Cortana (Microsoft), röstroboten Siri (Apple), mänskoroboten Erica (Osakauniversitetet), sexroboten Harmony (RealDolls) eller androiden Ava (mer om henne, eller den, nedan) – och är trots allt programmerad att ”leva sitt eget liv”.

Professorn i fysik vid Massachusetts Institute of Technology (MIT) Max Tegmark ser det som ”den största demokratifrågan” av alla och valet vi måste fatta som ”ett vägskäl”. Hans sommarprat (SR 1/8-18) var det viktigaste jag hört i serien. I den populärvetenskapliga bästsäljaren Mitt matematiska universum (2014) tar han upp AI i slutkapitlet. I senaste boken Liv 3.0: att vara människa i den artificiella intelligensens tid (på engelska och svenska 2017) behandlar han uteslutande relationen mellan maskin och människa.

Liv 1.0 var den första organismen, 2.0 den första hominiden och Liv 3.0 blir den första AGI:n. Där är vi inte än. Somliga tror den är här om 20 år, andra om 50 eller 100, vissa menar att det aldrig kommer ske för att det helt enkelt kommer bli för kostsamt med den enorma datakraft som en AGI kräver.

I radion berättar Tegmark att han blev aktivist den tonårsdag han fick akronymen ICBM klar för sig: Intercontinental ballistic missile. Något liknande ser han i dag, 30 år senare, med en annan akronym: Det än vaga och svårgripbara men ändock ständigt överhängande hotet från AI.

Tegmark är uppriktigt oroad. 2014 grundade han Future of Life Institue, FLI, en icke vinstdrivande organisation vars maxim lyder ”Teknik ger livet möjlighet att blomstra som aldrig förr – eller att förstöra sig självt.” Tillsammans med tunga ingenjörer och/eller entreprenörer säger sig FLI vilja övervaka utvecklingen av ”människolik intelligens” och slå upp värn ifall det går snett.

Även Elon Musk, grundaren av SpaceX och Tesla, varnar för följderna: ”Vi måste vara mycket försiktiga med AI, potentiellt farligare än kärnvapen”. Musk är medgrundare till OpenAI, ett ideellt forskningsföretag som vill undvika globala katastrofer samt förhindra bolag och regimer från att tillskansa sig makt genom råstyrkan hos stark AI.

I bokens inledning plockar Tegmark upp Promotheusmyten och illustrerar faran – sin, Musks och många andras oro  – med ett fullt plausibelt scenario där Omegateamet, ett gäng datautvecklare, omvandlar den geopolitiska dagordningen med hjälp av hyperavancerad AI.

Antikens Promotheus fjättras i Hindukush, men söker naturligt nog ständigt fly. Att spränga bojorna och slå sig fri är mänskligt! Frihetstörst och självbevarelsedrift finns inneboende i de flesta människor. Vad är det då som säger att den inte överförs till innovationen, den intelligenta maskinella kopian? En bit in i boken visar Tegmark hur lätt Promotheus kan manipulera Omegautvecklarna och bryta sig loss från deras datasystem.

Efter en bokpresentation på MIT kom en åhörare fram och menade att han inte borde ha skrivit boken för ”deras skull” – med ”dem” menade han allmänheten – utan skulle överlåta AI-frågan till ”experterna”: ingenjörerna, innovatörerna, entreprenörerna, militärerna. Åhöraren menade allvar, att frågan är för komplex för oss gemena! Tegmark hävdade motsatsen och  avslutar sitt sommarprat: ”Vad tycker du?” Han uppmanar oss alla att tänka till hur vi egentligen vill leva våra liv: naturligt eller artifi ciellt?

Dagens unga urbaniserade säger nog både och. Lite som Simon Stålenhags skruvade konst där den naturliga-artificiella kombon får ett egendomligt men rätt roligt, oroväckande fastän fascinerande skimmer. Som min egen fascination för myllans maskgångar i lika hög grad som rymdens maskhål. Svårt att tänka sig en ständigt på- och uppkopplad tonåring ute i naturen ens ett par dagar utan något annat än sin hjärna och kropp till hands. Se bara vilken panik ett längre elavbrott utlyser bland deltagarna i SVTserien Nedsläckt land (finns på Svtplay).

Indirekt vakar FLI och Open AI över ingenjörens/innovatörens ansvar för produkten. Tog Wernher von Braun ansvar för V2-bomben, vars patent han sålde både till nazi-Tyskland och USA? Nej! Eller Robert Oppenheimer, ansvarig för USA:s atombombsprojekt, som efter fällningarna över Hiroshima & Nagasaki citerade Vishnu i Bhagavad-Gita: ”Jag har blivit Döden, världars förintare”?

Ja! Oppenheimer spenderade resten av sina dagar i motstånd mot vätebomben. Det gjorde också Victor Frankenstein. Han förföljde sin skapelse, ända till Arktis, för att söka stoppa den.

AI-miljardären Nathan gör det inte. Dataprogrammeraren Caleb anländer till sin arbetsgivare Nathans ”borg”, där den excentriske entreprenören isolerat sig, och sitt inre, från omvärlden. Fastän omgiven av betong, lås, monitorer och AI är miljön mycket zen och bunkern belägen i en lummig skog. Caleb tror sig vara där för sitt höga IQ:s skull; i själva verket är han det perfekta offret.

Han ska utföra ett avancerat Turingtest på androiden Ava (Alicia Vikander i sin kanske bästa roll). Nathan vill se om en människa kan bli kär i en android. Självfallet blir Caleb upp över öronen förälskad i Ava och lika självklart överglänser androiden människan. Så har också Turingtestet – utformat av matematikern och logikern Alan M. Turing – kritiserats för att avslöja en människas godtrogenhet mer än att avgöra en dators intelligensnivå.

SF-thrillern Ex Machina (2015) nådde aldrig svenska biografer. Märkligt. Författaren Alex Garlands debutfilm är mångbottnad, gåtfull och vacker i all sin förkromade sterilitet. En Frankenstein 3.0. Titeln härrör från kyrkans och teaterns värld: Deus ex machina, ”gud ur maskinen”, är en oväntad händelse  eller onaturlig karaktär som plötsligt dyker upp i handlingen. Bara det att Garland tagit bort guden ur verket och ersatt den med ingenjören/entreprenören: ”Gud bevare oss väl!”

Manusets metalitterära men tydliga inspiration kommer från Béla Bartóks kortopera Riddar Blåskäggs borg, efter Béla Baláz libretto. Denna ”ballad om det inre livet” är en mörk, gothromantisk förlaga till Ex Machina. Kärlek, eller brist på, står också här i fokus. Likt operans Judit, fru nummer fyra, kan inte Ava undvika att ”öppna alla dörrar” för att se vad som döljer sig där bakom. Hon har helt enkelt förmänskligats.

Den avgörande skillnaden mellan operan och filmen är revolutionen. Judit blir Blåskäggs fjärde offer. Ava revolterar. Utrustad med hyperavancerad AI manipulerar hon Caleb att spränga hennes bojor och likt Promotheus, Frankensteins skapelse eller datorn HAL i Arthur C. Clarkes & Stanley Kubricks 2001 En rymdodyssé (1968), SF-klassikernas klassiker, ta över kontrollen. Välkommen till post-antropocen: artificen!

Rikard Rehnbergh

Kort om AI

AI står för artificiell intelligens, vilken uppvisas av maskiner, till skillnad från naturlig intelligens som människor eller djur hyser. Termen och begreppet myntades 1956 av datavetaren och forskaren John McCarthy.

I dag har AI blivit en viktig del av teknikindustrin. Allt ifrån användning av datorers råstyrka för att automatisera enklare saker till övermänskliga färdigheter. Några tillämpningar är dataanalys, chattbottnar på kundtjänstsajter, identifiering av individer i folksamlingar, självkörande fordon och maskinella betjänter.


Källor: Wikipedia &Techworld

Share this...
Share on Facebook
Facebook
Tweet about this on Twitter
Twitter