Uccido, dunque sono

Gli articoli di Cassandra Crossing sono sotto licenza CC BY-SA 4.0 | Cassandra Crossing è una rubrica creata da Marco Calamari col “nom de plume” di Cassandra, nata nel 2005.

Continuiamo, purtroppo, con le uccisioni: dopo Terminati!, Robot assassini crescono e Software assassino ecco Uccido, dunque sono.

Questo articolo è stato scritto il 28 novembre 2012 da Cassandra

Cassandra Crossing 268/ Uccido, dunque sono

Non solo droni volanti progettati per la guerra, non solo Terminator armati di tutto punto. Esistono anche Skynet e Invernomuto, intelligenze artificiali che potrebbero covare minacce per l’uomo.

Cassandra si è occupata, da tempo ed anche di recente, del problema della armi autonome, cioè di quei sistemi che, non solo con il volto di Schwarzenegger, hanno recitato la parte dei protagonisti in “Terminator” di James Cameron. Informazioni pubblicate con una certa superficialità negli ultimi tre anni rendono evidente, a chiunque abbia voglia di guardare oltre il proprio naso, la velocità con cui queste armi autonome si stanno evolvendo grazie all’interesse altissimo dei militari nei paesi più tecnologicamente evoluti.

Non occorre infatti essere profeti per vedere quanto lo spazio tra i droni volanti che incrociano nei nostri cieli e quelli argentati che la fanno da padroni nei vari episodi della saga interpretata dal governatore della California si stia riducendo: questo stando alle notizie pubbliche, ma esistendo il segreto militare non è dato sapere se questo spazio si sia addirittura annullato, e quindi se solo una porta ci separi ormai dal nostro terminator quotidiano.

Sono terminator con la “t” minuscola, oggetti destinati ad un uso comune, ovviamente solo contro i “cattivi” per “missioni di pace” e per “risparmiare vite umane” dei militari.

Pare invece escluso, almeno nei comunicati ufficiali, che servano per ridurre i costi della guerra, e per rendere ancora più ampio quel già grande ventaglio di situazioni che è ben difficile chiamare “pace” ma che non sono nemmeno guerra dichiarata, e che tanto comodo fanno alla politica internazionale.

Ma pare anche che altri comincino a condividere le preoccupazioni di Cassandra: è notizia recente che l’Università di Cambridge (mica bruscolini) abbia deciso di aprire un centro studi dedicato a valutare le minacce che robot, droni ed intelligenze artificiali possono rappresentare per l’umanità. In questo contesto rappresenta la dimostrazione non solo che la paranoia è una virtù, ma anche e sopratutto che la paranoia non è mai abbastanza.

A Cassandra, infatti, non era mai passato per la mente di includere le intelligenze artificiali nel novero delle minacce e, perché no, delle armi intelligenti, probabilmente in quanto prive di occhi rossi lampeggianti, canne rotanti e lanciamissili.

O forse è perchè i vecchi informatici sentono parlare di I.A. fin da prima della laurea, ed in trent’anni non hanno mai visto succedere niente.

Però il profeta Cameron nel suo sacro testo ha inserito il secondario ma importante personaggio di Skynet, il sistema difensivo che diventa senziente, e per prima cosa, nella migliore tradizione della fantascienza anni ’60, tenta di distruggere l’umanità. Skynet è un’intelligenza artificiale, proprio come Invernomuto in “Neuromante” di Gibson.

Ma è certo che l’utilizzo di software che, se non addirittura autocosciente, comunque possa essere superumano e controllare le persone, ci aspetta in un futuro molto prossimo: tutto sommato Deep Blue di IBM ha battuto il campione mondiale di scacchi, ed anche se la sua architettura usa molta forza bruta e conoscenza pregressa per lavorare, i suoi fratelli potrebbero tranquillamente essere ad esempio i sistemi di controllo del progetto Occhio della Mente di cui abbiamo parlato recentissimamente, e rientrare a tutto diritto tra i sistemi che si sostituiscono all’uomo, lo controllano e possono agire, anche se solo indirettamente, contro di lui.

Questo è un tassello che mancava persino al mosaico delle paranoie di Cassandra.

Un sentito grazie, anche a nome vostro, ai “colleghi” di Cambridge per averlo capito e reso pubblico.

Ma soprattutto grazie per aver dimostrato che c’è anche qualcuno che, invece di inventare nuove tecnologie per gli armamenti, si preoccupa per gli effetti di quelle presenti e future.

Quale sarà il test di validazione di una I.A. militare? Uccidere il suo primo nemico?

Il suo primo pensiero sarà “uccido, dunque sono”?

Marco Calamari