Olle Häggström påpekar att redan dagens smarta algoritmer är problematiska: »Facebookflödet är designat för att attrahera din uppmärksamhet, och har blivit mer effektivt än jag tror att ingenjörerna tänkte sig från början.«

»Båda lägren gör samma fel«

Som om det inte räckte med pandemier och klimatet: Chalmersforskaren Olle Häggström vill uppmärksamma riskerna med artificiell superintelligens.

Du varnar för tidpunkten då artificiell intelligens blir smartare än människan. Men är inte faran snarare att den blir lika dum som vi? Självisk, ignorant …

– Dum kan dels betyda korkad, dels ond. Det är viktigt att hålla isär de två begreppen, eftersom vilken intelligensnivå som helst kan kombineras med vilken målsättning som helst. Att en AI agerar själviskt behöver inte innebära att den är korkad. Är dess målsättning att producera gem så kommer den att producera så många gem som möjligt, och då kan följden bli som i det tankeexperiment riskforskaren Eliezer Yudkowsky har formulerat: gemapokalypsen. Där tar en AI över jordens resurser för att göra gem. Det kan vi tycka är korkat, eftersom målsättningen är främmande för våra egna värderingar, men för AI:n är det rationellt.

Men måste den ha målsättningar? Kan det inte ingå i superintelligens att stå över sådana saker?


Den här artikeln är låst!

För att läsa vidare behöver du välja något av följande alternativ:

35 kr
Köp artikeln!

Efter köpet har du tillgång till artikeln direkt.

39 kr Prenumerera

Betalningen dras varannan månad (78 kr) från ditt kort.

Har du redan ett konto? här! Fakturaprenumerant? Aktivera ditt konto

Artikeln publicerades i Filter #79 (22 mars 2021) och är skriven av .