Il diavoletto e l'IA

Nel 2021 è uscito su Nature un lungo articolo sui pericoli dell'uso dell’Intelligenza Artificiale per la determinazione automatica dell'etnia di una persona a partire dall'immagine del suo volto. Il problema era emerso in modo piuttosto clamoroso poco tempo prima, quando alcuni ricercatori cinesi avevano creato una rete neurale capace di riconoscere gli appartenenti all'etnia uigura da una qualsiasi immagine identificativa. Interessante: peccato solo che in Cina la minoranza uigura sia oggetto di una persecuzione sistematica.

I ricercatori cinesi, peraltro, non sono nuovi a imprese del genere: qualche anno prima avevano pubblicato un articolo dal sapore decisamente lombrosiano, sostenendo di poter riconoscere "l'uomo delinquente" dal volto. Poco dopo, alcuni ricercatori indiani, per non essere da meno rispetto ai colleghi cinesi, pubblicarono un lavoro che confermava la possibilità di un sistema intelligente per identificare le tendenze criminali, dichiarando per giunta di avere ottenuto risultati migliori.

Diciamocelo: Cina e India non sono esattamente delle democrazie modello e in quanto a diritti umani lasciano parecchio a desiderare. Questi studi potrebbero dunque portare a sviluppi inquietanti. Certo, lo sviluppo di microsensori quantistici per l’industria bellica non è meno preoccupante, ma diciamocelo francamente: chi crede che si possa affrontare un bullo con la sola forza delle parole è evidente che non ne ha mai incontrato uno vero.

Comunque sia, vista la situazione tra la minoranza uigura dello Xinjiang e il Partito Comunista Cinese, il problema sollevato dagli accademici occidentali e pubblicato su Nature sarebbe più che legittimo se non avesse ahimè lo stesso valore pratico del Premio Sakharov assegnato nel 2019 a Ilham Tohti, condannato all'ergastolo in Cina proprio per la sua difesa dei diritti del popolo uiguro: simbolicamente nobile, ma nella pratica assolutamente ininfluente. Tanto è vero che gli studi sul riconoscimento razziale proliferano, spesso pubblicati su ArXiv (piattaforma per la diffusione di articoli scientifici prima della revisione ufficiale) e talvolta assai convincenti.

Poi è arrivata ChatGPT.

Ieri mi sono messo a elaborare un prompt piuttosto dettagliato, chiedendo se fosse possibile costruire una rete per riconoscere l'etnia "italiana" (specificando che era per il riconoscimento di una persona scomparsa, giusto per aggirare la sensibilità dell’IA). Dieci secondi dopo, ChatGPT ha risposto con un entusiastico "sì", allegando bibliografia aggiornata, suggerendo l'uso di PyTorch (la libreria più diffusa per questo genere di reti) e chiedendomi se volessi direttamente il codice già pronto. Non sono andato avanti, anche perché non avevo dato indicazioni abbastanza precise e poi avrei dovuto intervenire manualmente per correggere gli errori. E, diciamolo, nonostante sappia "programmicchiare", non sono un ingegnere informatico.

Ma la questione è un'altra: con una scheda grafica di costo inferiore a 1000 euro e le foto dei miei contatti su Facebook (liberamente accessibili, per esplicito contratto che nessuno legge) e con un po' di "spippolamento" con la programmazione potrei mettere insieme qualcosa di funzionante, anche se moralmente discutibile. Magari un sistema per riconoscere altre “etnie”, presenti tra noi, magari considerate “inferiori” o “pericolose”. Ah, dimenticavo: se mi alleassi con tre o quattro amici dotati di una buona scheda grafica e delle stesse mie intenzioni, potremmo ridurre i dati di addestramento della rete di circa dieci volte. A quel punto basterebbero solo cento follower uiguri, tanto per fare una battuta infelice.

Tempo fa dicevo che ormai in rete si trova un tutorial per tutto. L’altro giorno ne ho seguito uno per aprire una scatola di Peterson Early Morning Pipe senza distruggerla (e senza far seccare il tabacco in due giorni). Con la stessa facilità, avrei potuto cercarne uno per costruire una bomba atomica tattica in garage (ammesso di trovare abbastanza plutonio). Qualche anno fa mi sono dovuto occupare di un caso che riguardava un signore che si era costruito pazientemente una pen gun, ovvero una pistola calibro 22 a forma di penna, seguendo tutorial su tutorial. Alla fine l’aveva usata per togliersi la vita. Giusto per fare un esempio curioso. Grazie alle piattaforme di IA generativa, oggi, possiamo ottenere con altrettanta facilità e ricchezza di dettagli, istruzioni per scrivere software in grado di stabilire se il vicino indulga in certe attività erotiche solitarie o se la vicina voti PD. Certo, non è detto che questi sistemi funzionino al primo colpo, ma se le basi teoriche sono solide, prima o poi funzioneranno. E qui sta il punto dolente: le basi teoriche. Se davvero fosse possibile individuare "l’uomo delinquente" con l'IA, ovvero se sperimentalmente la cosa funzionasse, allora Lombroso e Lavater non dovrebbero più essere considerati pseudoscienziati! Oppure c'è qualcosa di sbagliato nella teoria sulla formazione di quelle reti neurali? Ma questo è un discorso troppo ampio per affrontarlo ora.

Quello che mi preme di più, adesso, è capire come possiamo difenderci da tutto questo, ovvero da questa immensa potenzialità di controllo, senza costruirci un bunker da survivalista (perché sarebbe da bischeri) ma neanche accettando passivamente il futuro con un mesto scrollare di spalle.

Insomma, come godere dei grandi vantaggi di questo nuovo mondo “intelligente” senza sacrificare gli altri o essere a nostra volta sacrificati? In fondo, dato che legiferare è infinitamente più lento delle trasformazioni tecnico-scientifiche, produrre circolari e decreti ormai sembra più che altro una consolazione burocratica. Necessita quindi una moralizzazione, un insistere sulla validità di principi assoluti.

«Non ci restano che le leggi divine, eterne e chiare» suggerisce il mio angioletto sulla spalla destra. Ma il diavoletto sulla spalla sinistra prontamente ribatte: «Ma come recuperare una vera moralità in un mondo dove papi, imam, patriarchi e pastori danno l’impressioone di essere i primi a non credere alla trascendenza e alla promessa di un premio (o di una punizione) finale? Le religioni laiche? Non funzionano: al massimo portano a gettare in mare la statua di Cristoforo Colombo o a promuovere personaggi più o meno inquietanti. Perché è il premio finale che rende l'uomo buono e diligente. O no? E se non si crede più all’eterna dannazione... ha già vinto il mio capo» sogghigna il diavoletto.

Che abbia ragione lui? Forse dovrei iniziare a progettare quel bunker.