Algoritmi e Big Data: Un'analisi critica dei meccanismi di riproduzione delle disuguaglianze sociali

In questo capitolo si propone una riflessione critica sui meccanismi di riproduzione delle disuguaglianze sociali, indotti dal diffuso utilizzo ed espansione dell’Intelligenza Artificiale (IA) in ogni spazio della vita umana. L’IA interagisce, si intreccia, dialoga costantemente con, si integra in ogni tipo di attività umana, influendo sull’agire sociale, economico, politico e scientifico. Sebbene l’IA sia sostanzialmente sociotecnica (Sartori e Theodorou, 2022), in quanto risultante dal complesso intreccio tra tecnologia e sociale, capita spesso che la si riduca esclusivamente alla sua componente tecnica – di ineludibile rilevanza – trascurando che chi la progetta e implementa opera all’interno di un sistema socio-culturale, economico e politico complesso, che incorpora valori, norme e narrazioni, le cui asimmetrie sono spesso riprodotte attraverso formule algoritmiche non sempre trasparenti. L’IA è, dunque, esposta al serio rischio di incorporare nei suoi algoritmi, talora opachi, strabismi informativi che possono contribuire a consolidare stereotipi e pregiudizi, favorendo il processo di consolidamento e rafforzamento delle disuguaglianze esistenti. La tesi di questo studio è che l’IA non generi di per sé disuguaglianze (Alegria e Yeh, 2023) ma possa costituire un potente driver per la trasformazione, riproduzione, consolidamento e amplificazione di quelle esistenti (Jia, 2024), oltre a contribuire alla normalizzazione di forme di discriminazione basate su sistemi asimmetrici di potere e dominio dalle radici storiche.