IA e neuroetica: evoluzione spontanea e valori morali [AI and neuroethics: spontaneous evolution and moral values]

From the interaction between AI and neuroethics, relevant scenarios emerge. The goal is to examine, formulate and promote an ethics of the IA that is coherent with the results and debates on the natural bases of moral decisions. In this paper, we will focus on the study of a possible moral profile of a Super-IA. We will analyze the potential consequences that could derive from the progressive autonomous evolution of machines’ morality, by making a parallel with what happens for the evolution of biological organisms in nature. We will thus discuss the problems of singularity and control.

Scenari interessanti emergono dal confronto tra IA e neuroetica, nel quale si tenta di formulare e promuovere un’etica dell’IA, coerente con risultati e i dibattiti relativi alle basi naturalistiche delle scelte morali. Nel presente contributo, ci soffermeremo sul tema di un possibile profilo morale di una Super-IA, e ragioneremo sulle potenziali conseguenze dell’evoluzione autonoma progressiva della moralità delle macchine, effettuando un parallelo con quanto avviene per l’evoluzione degli organismi biologici in natura. Discuteremo quindi i problemi della singolarità e del controllo.