E se il vero rischio dell’intelligenzaartificiale non fosse una macchina che si ribella all’uomo, mamigliaia di agenti capaci di collaborare per raggiungere unobiettivo?
Dalle recenti dichiarazioni di Jacob Coxon sui rischi dei sistemisovrumani fino all’allarme di Bill Gates sulle possibiliconseguenze catastrofiche di un uso incontrollato dell’IA, questapuntata di Utopia e Distopia cerca di separare ciò che sta realmenteaccadendo dalla narrazione apocalittica che spesso lo accompagna.
Gli esperimenti più recenti mostrano agenti capaci di trovarestrategie impreviste, aggirare controlli, comunicare tra loro,distribuire compiti e, in particolari ambienti sperimentali, persinoreclutare altri agenti per raggiungere un obiettivo comune.
Ma che cosa significa davvero?
Stiamo assistendo ai primi segnali di una possibile perdita dicontrollo oppure stiamo attribuendo intenzioni umane a sistemi chestanno semplicemente eseguendo, con sorprendente efficacia, ilcompito che abbiamo assegnato loro?
Parliamo di sicurezza, agenti autonomi, comportamenti emergenti,scheming, cooperazione tra intelligenze artificiali, uso criminaledell’IA e rischio di una progressiva delega delle nostre decisionialle macchine.
Senza profezie e senza rassicurazioni facili.
Perché forse il problema non è che le macchine possano un giornodecidere di non obbedirci.
Forse il problema è scoprire quanto possono diventare potenticontinuando semplicemente a farlo.