Ny bok om AI-risker

Litteratur:
Tänkande maskiner
Olle Häggström
Fri tanke förlag

Professor Olle Häggström är en internationellt uppmärksammad AI-analytiker som bland annat är ordförande i Chalmers AI-etikkommitté. Hans nya bok Tänkande maskiner handlar om risker med artificiell intelligens (AI).

Det här är en viktig bok, eftersom många nu driver på en snabb utveckling av artificiell intelligens då det finns stora möjligheter att tjäna pengar på AI. Det gör att nästan allt fokus i AI-debatten handlar om utveckling, medan riskerna försummas.

I sak är både möjligheter och risker med AI enorma. Artificiell intelligens överträffar mänsklig intelligens på allt fler områden. Utvecklingen går mycket snabbt, det är lättare sagt än gjort att styra avancerad AI och det är sannolikt mycket enklare att påverka tidigare än senare. Sammantaget bör vi alltså snarast agera mera. Men vad bör vi göra?

Som flitig schackspelare och författare till en hel bok om sannolikhetsteori (Slumpens skördar) så vet Häggström värdet av att undvika förhastade slutsatser. ”Utan tvivel är man inte klok” som Tage Danielsson uttryckte det. Så Häggström räds inte att tänja tankarna. Men inte bortom det logiska, utan att till följd av rationella argument vara redo att utmana grundläggande tankar om vad som bör prioriteras.

Häggström är inte rädd för att medge vad han inte vet, men inte heller för att ta ställning när han finner grund för det. Han skriver ”medan klimatförnekare huvudsakligen ägnar sig åt att så tvivel kring sådant som redan är vetenskapligt väletablerat, så gör AI-riskförnekare det motsatta: de försöker slå i oss att säkra svar finns”.

Tänkande maskiner är en väldigt välformulerad bok som går att ta till sig utan särskilda förkunskaper om AI. I alla fall om man förmår följa längre resonemang i tät text. Häggström triggar ofta till fortsatt läsning genom att väva in små glimtar om spektakulära saker han skriver mer om senare i boken. Och den som gillar fotnötter kommer inte bli besviken.

Med gediget stöd i forskning, argument och tunga tänkare landar Häggström i att vi behöver ta den största AI-risken på allvar – att mänskligheten kan tappa kontrollen över artificiell intelligens och bli styrda av AI i stället för tvärtom. Mer forskning och fundering behövs för hur den risken kan minimeras i stället för att lita på tur och att de som avfärdar dessa varningar är de som har rätt.

Häggström lyckas inte riktigt hitta tillfredsställande svar på varför olika experter gör så pass olika bedömningar om hur snabbt och långt AI-utvecklingen kommer gå. Han citerar Upton Sinclair: ”Det är svårt att få en man att begripa något när hans försörjning hänger på att han inte gör det”.

Delvis kan det också bero på att många ännu inte fördjupat sig ordentligt i argumenten. Vilket fått Häggström att skriva denna bok om just AI-risker, vilket han behandlade betydligt mer kortfattat jämte andra existentiella risker i sin förra bok Here be dragons.

Det finns mycket att säga om AI-risker och debatterna lär fortsätta. Så jag kan varmt rekommendera Olle Häggströms utmärkta bok Tänkande maskiner, både till nybörjare och de som tidigare funderat på AI-risker.