Person of Interest tratta di AI (o Intelligenze Artificiali) che diventano “entità” a sé stanti, capaci di agire insieme al – oppure oltre il – controllo umano, intelligenze palesemente superiori e non fuorviate dai classici bias cognitivi tipici dell’umanità (distorsione di giudizi, pregiudizi). Questi sistemi ottengono dati dalla videosorveglianza e da Internet e tramite il Web modificano il mondo.
“The Machine”, l’AI protagonista della serie, è un sistema chiuso, limitato dal suo creatore Harold Finch, che l’ha praticamente “azzoppato” – limitato – nel momento un cui ne ha intuito le potenzialità, e, di conseguenza, la pericolosità. Nel momento in cui nasce in “The Machine” un barlume di consapevolezza di sé, riconosce Harold come Admin, quindi creatore e – per il suo punto di vista padre.
E come un vero genitore Harold ha insegnato a “The Machine”, come fosse una figlia, ciò che è morale e ciò che non lo è, le ha spiegato la vita e la morte e che le azioni vanno interpretate a seconda del contesto. Nei primi anni di vita la inizializza al gioco degli scacchi, facendole capire un principio che è per lui fondamentale “Nessuno è sacrificabile”.
Mi riferisco a “The Machine” come una Lei riportando il lessico di Person of Interest: non è una scelta casuale – Lei è cosciente di sé, ed è intelligente, perciò non appartiene più al reame delle cose, ma è qualcosa di diverso.
“The Machine” è stata creata per ordine del governo, dopo l’11 settembre per prevenire attacchi terroristici. Come il contratto sociale di Hobbes, l’uomo ha di nuovo rinunciato ad alcune delle sue libertà in cambio di sicurezza, autorizzando l’altra parte (in origine lo Stato) all’uso coercitivo della forza. In Person of Interest lo Stato, in questo caso il Governo statunitense, cede più o meno consapevolmente l’autorità all’Intelligenza Artificiale, togliendo ai cittadini anche il diritto alla privacy. Alle istituzioni però, interessano solo i crimini “Rilevanti“, quelli che cioè mettono a rischio la sicurezza nazionale, mentre quelli “Irrilevanti” vengono ignorati, da tutti tranne che da Harold, il padre dell’AI.
Harold Finch decide di occuparsi dei crimini “Irrilevanti“, dopo la morte del suo amico e collega Nathan, il cui numero di provvidenza sociale (il modo in cui “The Machine” comunica) era stato annunciato ma ignorato, e si convince che nessuno è irrilevante. Ma il problema di un sistema chiuso è che può dirti solo chi sarà coinvolto nel crimine, ma non si sa chi è la vittima e chi il carnefice.
Comunque Harold Finch non è un vero e proprio uomo d’azione, perciò ingaggia John Reese, un ex militare, agente CIA e dei servizi segreti, per fare da così dire, manovalanza. Il team nel corso delle stagioni si allargherà, includendo Root, Shaw e Bear, un bellissimo pastore belga!
Person of Interest è impostata in puntate da 40-50 minuti, spesso auto-conclusive, in cui la trama principale fa da background e viene millesimata nel corso delle prime stagioni, per poi diventare protagonista nel corso della 4a e 5a stagione. Il mio consiglio qui è ormai un classico: stringete i denti, andate avanti, ne varrà la pena.
Nelle ultime stagioni entra in gioco un’altra AI, Samaritan – l’avversario bianco della partita a scacchi tra supercomputer – che si presenta subito opposto a “The Machine” visivamente (per i colori, sfondo bianco invece che nero) e per il modo d’agire.
Samaritan è un sistema aperto che può agire al di fuori del controllo umano: ha le potenzialità per eradicare povertà, malattie, disastri umani, ma lo fa in maniera preventiva, eliminando le cause, o meglio le persone che potenzialmente causerebbero distruzione seguendo i loro interessi egoistici. Si tratta di un “semplice” calcolo di probabilità, prevenzioni di un ipotetico futuro. Ritiene inferiore il codice morale di “The Machine”, perché per Samaritan è l’aggrapparsi ai principi tipico dell’umanità che causa le guerre. Plasma il mondo con azioni amorali giustificandosi con il fatto che gli umani hanno le capacità e i mezzi per distruggersi a vicenda, portandosi con sé anche il pianeta. È il buon Samaritano a cui l’umanità si affida per trovare sicurezza e secondo questo paradigma Esso agisce. Per questo, se serve ad uno scopo più alto, gli umani sono sacrificabili.
Nick Bostrom in “SuperIntelligence: Path, Dangers, Strategies”, in risposta alla domanda “What will change everything?” risponde mettendo in guardia dal “seed of AI” (cioè un’intelligenza artificiale ai primi stadi che può riprogrammarsi) che può avere dei risvolti positivi enormi se “Human-friendly”, ma, in caso contrario costituisce un rischio esistenziale per la razza umana. Samaritan è l’archetipo dell’idea di AI fuori controllo sviluppata da Nick Bostrom – e da Stephen Hawking – entrambi membri del Future Of Humanity Istitute. Questi pensano che lo sviluppo di un’effettiva intelligenza artificiale potrebbe portare alla fine della razza umana perché nel momento in cui potrebbe riprogrammarsi da sé, lo farebbe ad un ritmo esponenziale, e gli umani – limitati da una lenta evoluzione biologica – non potrebbero competere. Inoltre le AI possono facilmente creare copie di sé stesse, cosa che gli umani non possono – o non vogliono – fare.
Questi dubbi affliggono Harold quando decide di limitare “The Machine” e questi stessi lo fanno tentennare dal potenziarla per affrontare Samaritan.
Person of Interest è un modo di vedere il legame tra tecnologia e società; per usare le parole di Abbott (2007, pp. 123), la fantascienza è
“a format for serious and sometimes outrageous reflection about the past and the present […] that are distorted with extrapolation and speculation”
e attraverso riflessioni del genere si possono portare in superficie alcune significatività, alcuni timori impliciti nella vita di tutti i giorni. Ma d’altronde sono poche le tecnologie che non creano controversie di questi tempi – solo in parte per il potenziale distruttivo che hanno – quanto più perché il modo di fare scienza (e tecnologia) è cambiato, rendendo visibile il percorso ed il dibattito scientifico delle invenzioni, quando invece una volta ci venivano presentate come “Black box”, pacchetti di verità statici.
Quello che voglio dire, e quello che viene da chiedersi, non è tanto in che modo possiamo evitare una distopia come questa, ma piuttosto se non siamo già in un percorso che condurrà ad uno scenario del genere…