La ricerca della perfezione è una delle più antiche ossessioni dell’umanità, ma questa lunga ricerca parte da un errore di fondo. L’etimologia di questo termine risale infatti al latino perfectio, che a sua volta proviene da perficio, che per i padri della nostra lingua significava portare a compimento, ultimare, finire. Un concetto sfumato, perché si finisce davvero qualcosa quando essa non necessità di ulteriori perfezionamenti, ma tuttavia abbastanza lontano dalla nostra attuale idea di perfezione, che non indica ciò che non ha bisogno di ulteriori lavorazioni o ritocchi, ma semmai qualcosa di egregio e insuperabile.
Un errore di prospettiva di cui si attribuisce la soluzione, almeno dal punto di vista linguistico, ad Aristotele; questi, riflettendo sul significato latino del termine e su quello greco, che non dava adito a nessuna interpretazione e che intendeva esclusivamente finito, compiuto, individuò tre diverse sfumature, tra le quali anche quella che ci è oggi familiare e che indica qualcosa di non ulteriormente migliorabile.

Questo fraintendimento ha segnato il percorso della nostra civiltà fino alla genesi dell’era dell’informatica, dell’automazione e delle macchine. Capolavori della tecnologia che dovrebbero colmare le lacune della nostra finitezza e portarci verso una perfezione cui l’essere umano può soltanto ambire, ma che, se recuperassimo il senso originario del termine, sarebbe addirittura deleteria.

Ciò che non è più perfezionabile è infatti finito, compiuto, portato a termine.

Non abbiamo mai abbandonato l’illusione
di poter generare un’intelligenza
che superasse quella umana:
una macchina onnisciente
e incapace di esitazioni e di errori

Uno stato che si contrappone in modo netto alla nostra natura di esseri umani, che invece perseguiamo una costante e infinita evoluzione. Se così non fosse avremmo smesso di progredire nel momento in cui le nostre fragili esistenze fossero state sufficientemente lontane dai pericoli della natura, dalle intemperie, da tutto ciò che ci minacciava quotidianamente prima che imparassimo a costruire e a migliorare quelle case in cui oggi troviamo riparo, ristoro e intimità. Case in cui oggi viviamo meglio di quanto non fosse concesso ai sovrani dei secoli scorsi e più di questi possiamo circolare nel mondo e girarlo tutto nell’arco di poche ore, comodamente seduti in aereo a diecimila metri, ad ammirare il panorama e gustare bibite e stuzzichini.

Nonostante questo non abbiamo mai abbandonato l’illusione di poter generare un’intelligenza che superasse quella umana e ci portasse ancora oltre: una macchina onnisciente e incapace di esitazioni e di errori. Un sistema infallibile, che oggi molti individuano nell’intelligenza artificiale alla sua massima evoluzione (ASI – Artificial SuperIntelligence), che però, al di là della sua eventuale fattibilità, soffre di una grave pecca concettuale. Un errore di fondo che rivela la sua più grande imperfezione nell’ipotesi stessa che possa o che debba esistere una macchina infallibile, priva di qualsiasi margine d’errore.

Quel livello di perfezione, infatti, sovrumano e ineffabile, non soltanto non è alla portata della nostra comprensione, ma, se potesse esserlo, darebbe vita ad un corto circuito che, quasi certamente, metterebbe fine all’esperienza del genere umano.
Chi crede nella possibilità che una ASI possa un giorno svegliarsi e mostrare al mondo la sua perfezione, sa che questa potrebbe eventualmente derivare soltanto da un compromesso tra gli uomini e la tecnologia. Qualcosa di non troppo diverso dalla reazione a catena che ci permise di governare l’atomo e la sua energia, mettendo in moto un processo che, tuttavia, può essere misurato e guidato, come dimostra il livello di sicurezza raggiunto nella costruzione e operatività delle centrali nucleari.

Ciò che a torto definiamo errore,
è invece l’essenza stessa dell’opportunità,
del cambiamento, della mutevolezza
e, in definitiva, della vita

La “reazione a catena” che, teoricamente, potrebbe dar vita ad una vera intelligenza artificiale è però molto più complessa e molto meno governabile. Se ciò dovesse mai verificarsi (cosa su cui non tutti gli esperti concordano) ci troveremmo di fronte a quella che i futurologi definiscono come una singolarità tecnologica, ovvero un punto, nello sviluppo tecnologico, in cui il progresso accelera ad una velocità tale da non essere più alla portata della capacità umana di comprenderlo.

Questa clamorosa scintilla darebbe vita a una super intelligenza cui alcuni attribuiscono addirittura la pretesa dell’infallibilità, che agli esseri umani è preclusa e che ci metterebbe inevitabilmente in un angolo, perché la nostra fallibilità non è affatto un limite, ma uno dei segni distintivi della nostra umanità, che dovremmo a tutti i costi tutelare.

Sbagliare non è semplicemente umano, come recita un vecchio adagio. La storia della nostra civiltà è costellata di errori, di sviste, di fraintendimenti e incomprensioni, ma tutto questo ci ha permesso di evolvere e di comprendere il mondo molto più in profondità. Ciò che oggi sappiamo deriva da grandi studi, ricerche e intuizioni, ma è anche figlio di sbagli e di false convinzioni che ci hanno costretti a guardare bene le cose, oltre che limitarci a vederle.

Ciò che a torto definiamo errore, è invece l’essenza stessa dell’opportunità, del cambiamento, della mutevolezza e, in definitiva, della vita. Tutto ciò che vediamo e che conosciamo deriva da eventi che, se fossero stati determinati dagli uomini, probabilmente definiremmo errori o alla meglio casualità. Niente che si coniughi con l’utopia di una macchina perfetta, di una ASI che dovrebbe, secondo alcuni, portarci verso un’altra dimensione della nostra civiltà, oltre i confini della Terra e del conosciuto e verso l’infinito.

Evitare l’errore di ricercare la perfezione e l’infallibilità, oltre alla pretesa di comprendere l’eterno e l’infinito, è il solo modo in cui possiamo difenderci dalla peggiore declinazione del progresso che possiamo immaginare. Un futuro distopico in cui una scintilla, che alla sua massima espressione sarebbe solo in parte scaturita dal nostro ingegno, potrebbe costringerci a scegliere se ibridarci con essa o limitarci a usarla; sempre ammesso che sia possibile usare un’intelligenza superiore alla nostra, che per qualche assurda ragione vorremmo ci impedisca di sbagliare. Un corto circuito le cui possibili conseguenze ci dovrebbero apparire tutt’altro che insondabili.