La Cyber-Etica e il dilemma del carrello
Il dilemma del Carrello Ferroviario (o “Trolley problem” in inglese) è un dilemma mentale/etico/filosofico il cui enunciato è il seguente:
Un carrello ferroviario sta procedendo senza controllo e senza possibilità di frenare la sua corsa lungo una rotaia che si biforca ad un centinaio di metri di distanza. Lungo la rotaia principale, sono legate ai binari cinque persone che saranno sicuramente investite ed uccise dal carrello. Attivando l’interruttore di scambio, è possibile far percorrere al carrello un binario parallelo sul quale è legata una sola persona.
Avendo la possibilità di azionare l’interruttore di scambio, quale sarebbe la scelta più etica?
- Lasciar morire cinque persone sul binario principale
- Ucciderne una sola azionando lo scambio
Una situazione nella quale nessuno vorrebbe trovarsi... CC BY-SA 4.0 Image, click for source
Si tratta di una situazione estrema nella quale non esiste una risposta giusta o sbagliata; ma se dovessimo sviluppare un algoritmo che possa scegliere tra le due opzioni, basandosi unicamente sul minimizzare il numero di morti, quella di azionare lo scambio è la più ovvia…
... e di solito, è la scelta che viene presa dalla maggior parte delle persone.
Ma proviamo a cambiare un po’ le carte in tavola: mettiamo che al posto del binario di scambio accanto a noi ci sia una persona molto corpulenta che, se spinta sotto il carrello, riuscirebbe a fermare la sua corsa e salvare le cinque persone legate.
Lo fareste?
Da un punto di vista computazionale il problema è IDENTICO al precedente: una vita contro cinque. Ma eticamente parlando, stavolta non bisogna tirare una leva ma UCCIDERE una persona con le proprie mani.
A questo problema la maggior parte degli intervistati risponde che preferisce non fare nulla e lasciar morire cinque persone.
Ma se pure foste talmente cinici da spingere l’uomo verso la morte “per il bene maggiore” … lo fareste anche se fosse vostro figlio?
L’uomo si trova molto spesso a compiere scelte di questo genere, e raramente la decisione presa è razionale. I problemi della vita passano sempre attraverso il filtro delle nostre esperienze passate, del nostro modo di approcciare la vita, sul sentimento del momento e dal contesto nel quale è posto.
Quindi la vera domanda diventa: può una macchina simulare l’irrazionalità?
Potenzialità e limiti del Machine Learning
La risposta alla precedente domanda è: forse.
Il processo di Machine Learning, ovvero l’addestramento di un’intelligenza artificiale, è sì rigoroso, ma il risultato resta “inspiegabile”.
L’apprendimento di una I.A. si basa sul fornire alla macchina una coppia di input e output che caratterizzano il nostro “Gold Standard”, ovvero il set di dati che fornisce ad un problema la sua corrispettiva soluzione.
Quindi: se fornisco come input “Foto di un limone” e come output “Giallo”, “Foto di una mela” e output “Rosso”, dopo aver fornito un numero congruo di esempi la mia macchina dovrebbe saper riconoscere il colore di un frutto all'interno di una foto (sto semplificando di molto, dietro ci sono attività di parametrizzazione/semplificazione/raffinazione dei dati sui quali si potrebbero scrivere pagine e pagine di libri…).
Perché limitarsi al colore... possiamo creare un programma per riconoscere il tipo di mela in una foto! - CC0 Image, click for source
La cosa particolare di questo processo, è che non sappiamo COME la I.A. riesca a distinguere i colori.
La rete neurale associata, dopo l’addestramento assume degli stati interni numerici a prima vista completamente casuali; nonostante ciò, quell'insieme di stati riesce a fornire un output corretto a fronte di un qualsiasi input (correlato al problema in esame, ovviamente).
In un certo modo, l’I.A. compie una scelta logica ma non sa spiegare perché: non è questa la definizione (semplicistica, forse) di irrazionalità?
Il vero problema di addestrare una I.A. a risolvere un problema irrazionale, è che noi uomini non siamo capaci di creare un Gold Standard univoco e globalmente accettato, senza il quale il Machine Learning serve (purtroppo) a ben poco.
Creatività computazionale
Scomodiamo il dizionario di Google per darci una prima definizione di “Arte”:
Qualsiasi forma di attività dell'uomo come riprova o esaltazione del suo talento inventivo e della sua capacità espressiva.
L’arte, intesa come Opera d’arte, è sempre stata una prerogativa dell’uomo: la natura e gli animali a volte ci mettono di fronte a spettacoli meravigliosi ma è dalle mani dei pittori, degli scultori, dei musicisti, degli architetti ecc. che nasce la vera opera d’arte.
Solo il pensiero che qualcosa di diverso dall’uomo possa creare un dipinto o una canzone ci fa scorrere un brivido freddo lungo la schiena, vero?
Beh, allora tenetevi forte: nei prossimi capitoli vedremo alcuni veri esempi di Creatività Artificiale.
Il Ritratto di Edmond Belamy
Dal 23 al 25 Ottobre del 2018, a New York, un quadro intitolato “Portrait of Edmond Belamy” venne battuto all'asta al prezzo record di 432 mila e cinquecento dollari. Ci sono stati quadri più costosi nella storia dell’uomo… ma questo quadro non è stato creato da mano umana, ma da un algoritmo automatico per la generazione di dipinti.
Alcuni esempi di "Arte auto-generata" dal sistema GAN - CC BY 4.0 Image, click for source
La creazione di questo quadro (e degli altri 10 relativi alla “famiglia de Belamy”) ha richiesto un addestramento della I.A. su 15 mila dipinti provenienti da differenti periodi storici. Una volta terminato l’addestramento, sono stati prodotti migliaia di dipinti che sono passati attraverso il filtro di un'ulteriore intelligenza artificiale, un “discriminatore”, addestrato a distinguere un quadro dipinto da un uomo da uno generato dalla macchina.
I dipinti che sono riusciti a passare questa ulteriore scrematura, venendo confusi dal discriminatore come “Arte umana” hanno visto la luce creando stupore in egual misura tra la comunità scientifica e quella artistica.
Nell'università di Rutgers in new Jersey, Ahmed Elgammal, direttore del “Laboratorio di Arte e Intelligenza Artificiale” ha sviluppato diversi sistemi (GAN, CAN, AICAN ecc.) per la creazione prima Generativa e poi Creativa di arte pittorica.
Per ulteriori informazioni e approfondimenti sull'architettura del sistema vi invito a leggere l’interessante paper che trovate in calce..!
Artificial Rock and Roll
Provate a cercare su youtube la canzone “On the Edge” di Aiva (Artificial Intelligence Virtual Artist).
Ascoltatela attentamente pensando che nessun essere umano ne ha deciso il giro di accordi, che le note della melodia non sono mai state scritte su uno spartito, che nessuna band ne ha composto l’arrangiamento o ha fisicamente suonato il pezzo.
Ecco il famoso brivido dietro la schiena.
La musica esiste per creare emozioni, le emozioni sono una caratteristica prettamente umana… ed oggi una macchina è riuscita a scatenare delle emozioni dentro di noi; che sia un sentimento di aspettativa, di orrore o di speranza per il futuro, è comunque un fatto strabiliante.
Perché non pensare ad una collaborazione tra Hatsune Miku (la prima cantante virtuale al mondo) e le canzoni generate da Aiva? - CC0 Image, click for source
Decidibilità di un algoritmo e NP-Completeness
Facciamo un passo indietro: lasciamo perdere il Machine Learning e andiamo ad esplorare ad altissimo livello un po’ di teoria della computabilità.
Prima dell’avvento della I.A. i problemi venivano affrontati in maniera analitica: così un quesito matematico poteva essere tradotto in un algoritmo (eseguibile tramite calcolatore automatico) per la sua risoluzione. Nonostante i calcolatori moderni abbiano raggiunto velocità computazionali pazzesche, esistono ancora problemi che non possono essere affrontati con efficienza.
I problemi non decidibili
Questo caso riguarda tutti quei problemi (detti NP-Hard) che non sono risolvibili da una macchina: un esempio è il cosiddetto “Halting problem”, ovvero far decidere ad un algoritmo se un programma termini in un tempo finito o resti “in loop” per l’eternità. La non-decidibilità di questo problema fu dimostrato matematicamente da Alan Turing stesso nel 1936.
Questo tipo di problemi solleva un’altra annosa questione: può il cervello umano trovare una soluzione a questi problemi “algoritmicamente impossibili”? O anche: Il nostro cervello è equivalente ad un calcolatore o ha qualcosa in più?
Ma per ora lasciamo la questione ai filosofi…
I problemi NP Completi
Il secondo caso pur essendo meno complesso, resta un problema insoluto da decenni nella comunità scientifica e informatica mondiale: l’insieme degli algoritmi NP completi contiene tutti i problemi che si riesce a risolvere ma in un tempo esponenziale (quindi molto difficilmente e lentamente per input molto grandi).
L'insieme degli algoritmi NP-Hard (indecidibili), NP Completo, NP e P (che magari approfondiremo in un prossimo futuro) - CC BY-SA 4.0 Image, click for source
Un Futuro Polinomiale
L’intelligenza artificiale è nata anche per affrontare queste due tipologie di problemi: dove esiste un problema non decidibile o troppo complesso, possiamo implementare un training set e delle euristiche per trovare una soluzione che sia statisticamente “accettabile” anche se non sempre corretta.
Riuscire a trovare una soluzione veloce agli algoritmi NP completi sarebbe una svolta epocale nel mondo della computabilità; significherebbe risolvere problemi MOLTO complessi in pochi secondi. Generare soluzioni automatiche che siano SEMPRE corrette permetterebbe uno sviluppo di algoritmi ancora più efficienti per la creazione e l’addestramento di intelligenze artificiali sempre più evolute.
Una vera e propria rivoluzione informatica.
Ma se già con gli attuali strumenti riusciamo a superare campioni umani di scacchi e di go, se riusciamo a creare arte dal nulla, se superiamo con semplicità problemi di etica che bloccherebbero un essere umano (ovviamente prendendo decisioni umanamente controverse) …
… Cosa possiamo aspettarci di più?
Fonti e Approfondimenti:
- The Trolley Problem Version of Autonomous Vehicles (Y Wiseman, 2018)
- Is Waze joking? Perceived Irrationality dynamics in user-robot interactions. (Abadie, CARILLO, Fosso Wamba, Badot, 2019)
- Is artificial intelligence set to become art’s next medium? (Christies Article, 2018)
- Art, Creativity, and the Potential of Artificial Intelligence (Marian Mazzoner, Ahmed Elgammal, 2019)
- Machine Learning Research that Matters for Music Creation: A Case Study (Sturm, B., Ben-Tal, O., Monaghan, Ú., Collins, N., Herremans, D. et al., 2018)
- On the Edge - Aiva song on YouTube
- AIVA Web Page
- Using genetic algorithms to solve NP-complete problems. (Kenneth A. De Jong, William M. Spears, 1989)
ItaSTEM si occupa di curare i contenuti scientifici italiani, utilizza i tag #itastem o #scienze per ricevere il voto se il post è di ottima qualità! Maggiori informazioni sul discord ufficiale di @itastem