«È semplice: in un mondo integralmente post-umano, noi - io e voi - non siamo più necessari. Siamo in sovrannumero, siamo in eccedenza rispetto allo stretto necessario. Indegni anche del disprezzo, e destinati, nel migliore dei casi, a un’irrilevante sussistenza, stiamo diventando qualcosa da ricacciare il più lontano possibile. È a partire da questo contesto che dobbiamo interpretare l’attuale retorica sugli agenti e le organizzazioni autonome. Si tratta di passi consapevoli verso un ordinamento del mondo di tipo transumano, o addirittura completamente post-umano, e ciò non vuol dire che i suoi progettisti stiano pensando per davvero a tecnologie autonome che lavorino accanto a esseri umani nel quadro di una relazione produttiva e solidale; al contrario, l’umanità, dal loro punto di vista, è qualcosa che va trasceso. Queste persone costituiscono tout court questo progetto e ci credono per davvero - e stando a quanto affermano, ci hanno sempre creduto senza esitare. Dato che da trent’anni a questa parte non hanno smesso di dimostrare quanto siano determinati nel perseguire i loro scopi, dobbiamo dedurne che si tratta di personaggi coerenti, disciplinati, che hanno tutte le capacità e l’ostinazione necessarie per sviluppare quegli strumenti e quelle infrastrutture che, secondo loro, li condurranno nella maniera più rapida possibile all’ordine che intendono costruire. Ciò non significa affatto che riusciranno davvero a realizzare i loro desideri. Tuttavia, una delle cose che la storia ci insegna è che, quando delle persone vogliono cambiare il mondo in questo modo rendono pubblici i loro intenti e descrivono chiaramente le loro motivazioni, allora è bene pensare all’eventualità di credergli sulla parola.»

✄

«Si può insegnare abbastanza in fretta ad un algoritmo a riconoscere un tavolo, sulla base delle sue caratteristiche e dei modi con cui si mette in relazione con gli altri contenuti del mondo. Potrebbe essere in grado di identificare, con gradi sempre maggiori di precisione, un veicolo, un’automobile, un’automobile della polizia, un’automobile della polizia di New York. Questo è abbastanza facile, ma come si fa a insegnargli a riconoscere la povertà?  

[…]  

Noi possiamo definirci come lavoratori, o scozzesi irlandesi, sikh, di San Diego o repubblicani, ma per un algoritmo di apprendimento nessuna di queste categorie significa nulla, se non forse come contrassegno dei comportamenti umani ai quali si possono collegare.»

✄

«Considerate cosa ha detto il maestro di go Fan Hui sulle ultime mosse della sfida persa da Lee Sedol contro AlphaGo: «Non è una mossa umana. Non ho mai visto un essere umano fare questa mossa. È bellissimo». Il giocatore Intelligenza Artificiale, libero da limitazioni strutturali, convenzioni di gusto o dai pregiudizi inerenti al gioco umano, esplora percorsi radicalmente diversi – e, di nuovo, l’assoluta estraneità del suo pensiero ha una componente estetica.»