Du varnar för tidpunkten då artificiell intelligens blir smartare än människan. Men är inte faran snarare att den blir lika dum som vi? Självisk, ignorant …
– Dum kan dels betyda korkad, dels ond. Det är viktigt att hålla isär de två begreppen, eftersom vilken intelligensnivå som helst kan kombineras med vilken målsättning som helst. Att en AI agerar själviskt behöver inte innebära att den är korkad. Är dess målsättning att producera gem så kommer den att producera så många gem som möjligt, och då kan följden bli som i det tankeexperiment riskforskaren Eliezer Yudkowsky har formulerat: gemapokalypsen. Där tar en AI över jordens resurser för att göra gem. Det kan vi tycka är korkat, eftersom målsättningen är främmande för våra egna värderingar, men för AI:n är det rationellt.
Men måste den ha målsättningar? Kan det inte ingå i superintelligens att stå över sådana saker?
– Det är en bra fråga. Fokus i min nya bok ligger på AI som har tydliga målsättningar, inte för att det är så det kommer att bli, utan för att det kan bli så – och det måste vi förbereda oss för.
Vill du läsa mer? 0 kr första månaden!
Vi ger dig oväntade avslöjanden, möten med kulturens mest intressanta personer och berättelserna du inte vill missa. Bli Filterprenumerant.
Har du redan ett konto? Logga in här.
