Takenspace, 08/04/2014 14:16:
Quoto questo passaggio:
L'avventura del supercomputer più veloce, potente ed intelligente mai creato prima divide però la scienza. Tra sostenitori e contrari alla realizzazione del progetto, con questi ultimi che si appellano al rischio di una "singolarità tecnologica" che accelererebbe la capacità di comprensione e previsione degli esseri umani.
Hai quotato il vero problema, o almeno quello che a me personalmente crea più timore. D'accordo che tutto il filone della fantascienza spesso si basa proprio sulla singolarità tecnologica, ma penso che sia un timore più che fondato, un rischio inevitabile, ed è un processo che è già iniziato anche se non ce ne rendiamo conto.
Se la tecnologia che usiamo è una calcolatrice è piuttosto facile verificare che non ci siano errori o bug, dei semplici controlli incrociati confermano o meno se i calcoli sono corretti, quindi "l'utente finale" si affiderà completamente alla calcolatrice per risolvere operazioni lunghe e complesse. Ma che comunque potranno sempre e in ogni caso essere verificate.
Ma a un super computer come quello dell'articolo potremmo non limitarci ad affidargli la soluzione di calcoli matematici. Se è in grado di "ragionare" e prendere delle decisioni, in modo molto simile a quello umano ma più velocemente e con più accuratezza, potremmo affidargli la completa gestione di meccanismi da cui potremmo non essere più in grado di uscirne o gestire: la sanità, il cibo, l'industria in genere.
Già oggi è facile ricevere una cartella esattoriale generata da un errore. Molto complesso evitare di doverla pagare. C'è gente che si è dovuta rivolgere a stampa e TV e in linea di massima prima di risolvere il problema dobbiamo pagare.
Per non parlare di chi ha dovuto dimostrare di essere vivo, nonostante risulti passato a miglior vita, quindi senza più diritti.
Semplicemente perché lo ha deciso un software.
Nel caso di un supercomputer? Chi verifica le scelte etiche? Ma soprattutto come ci accorgeremmo di un errore?
Bisogna fare molta attenzione, già oggi ci affidiamo con disinvoltura a software e hardware di cui non abbiamo la più pallida idea di come funzionano, dal navigatore gps al controllo della glicemia eccetera.
Cosa succede nel momento in cui anche le nostre scelte verranno stabilite da un sistema che realmente sceglie per noi, in apparenza per il nostro bene e quello della società?
Se c'è un errore nel sistema potremmo non saperlo mai, o almeno fino al punto in cui è tardi per porre rimedio.