Därför har Max Tegmark (nog) fel om AI-apokalypsen – Sydsvenskan

Jag älskar historien om den brasilianske fotbollsspelaren Roberto Carlos och hans vänsterskott. 

Även den som är helt ointresserad av fotboll har förmodligen sett klippet med hans mest välkända frispark – man kan på goda grunder påstå att det är det maffigaste målet i fotbollshistorien. Skottet ser ut att gå långt ut, males Carlos har satt en så vansinnig spinn på bollen att den hinner byta bana och ta sig innanför stolpen. Målvakten kan bara titta på.

I något sammanhang fick Roberto Carlos frågan: Hur blev du en så unikt skicklig vänsterskytt?

Roberto Carlos tackade då sin pojklagstränare. Tränaren hade sett den råa talangen, kraften i det där tonåriga vänsterbenet, och uppmuntrade Roberto att stanna kvar efter träningen och skjuta hundra extraskott. Varje gång.

”Gör du det så får du världens bästa vänster”, sa tränaren.

Specialisering är underbart. Det är genom specialisering som vi når spets. De allra bästa forskarna och musikerna och kockarna blir bra genom att gradvis renodla och vässa sitt kunnande.

Roberto Carlos kunde som vuxen se det unika i tränarens coachning: nästan alla juniortränare hade förmodligen gjort tvärt om, och uppmuntrat en väldigt enfotad spelare att också träna upp den andra foten. För att bli jämnbra, och ha en bredare arsenal. Här blev det motsatsen: 

Specialisering, spets, världsklass.

Det händer att jag tänker på historien om Roberto Carlos när jag hör några av världens främsta entreprenörer och forskare måla upp apokalyptiska scenarier om hur artificiella intelligenser kommer att ta över och eliminera alla människor.

Forskaren Max Tegmark, lika specialiserad superstjärna i sitt fält som Roberto Carlos i sitt, gjorde ett minnesvärt ”Sommar” i P1 förra året. Han varnar där för hur en framtida superstark AI skulle kunna bestämma att alla människor står i vägen för ett viktigt mål, låt säga att stoppa klimatkrisen, och därför bestämma sig för att döda oss alla. Det här scenariot återkommer hela tiden i diskussioner om hur AI kan bli livsfarligt i framtiden.

Males det är här – tror jag, som verkligen är generalist och inte knowledgeable – som Max Tegmarks tekniska specialisering leder honom och andra domedagsprofeter fel.

Så här:

Om en framtida AI har utvecklats så långt bortom vad vi ser i dag, och blivit så otroligt tekniskt sensible, tekniskt stark och tekniskt effektiv att den kan ha ihjäl mänskligheten – kan man inte tänka sig att den samtidigt har gjort humanistiska framsteg? Att den samtidigt har lärt sig lika mycket historia, filosofi, etik, faith och samhällskunskap för att förstå att den inte bör döda oss alla?

Den som främst tänker som en ingenjör, och har renodlat det tänkandet för att nå världsklass, missar denna enkla och tämligen logiska omständighet.