Cervello artificiale che prova emozioni e il pericolo della singolarità

www.repubblica.it/scienze/2014/04/07/news/cervello_artificiale_losanna-82941651/?ref...

Si sono ritrovati a Losanna gli scienziati che lavorano allo Human Brain Project (HBP) è ad oggi il più ambizioso studio neuroscientifico mai avviato a livello mondiale: un supercomputer capace di replicare i sistema nervoso centrale dell'uomo. Entro 10 anni. Ma gli scienziati sono divisi

RIPRODURRE in un unico substrato di silicio le funzioni di un intero cervello umano. Lo Human Brain Project (HBP) è ad oggi il più ambizioso studio neuroscientifico mai avviato a livello mondiale. Un supercomputer alla cui realizzazione stanno lavorando 135 importanti istituzioni, soprattutto europee, grazie a un nuovo e ulteriore finanziamento della UE, pari a 1 miliardo e 19 milioni di euro. Data di ultimazione: anno 2024. Dieci anni ancora, quindi, per studiare e raccogliere ogni dato appartenente al nostro encefalo e costruire un sistema, il più potente al mondo, che possa simulare i 100 miliardi di neuroni contenuti in un cervello, e le 10 mila connessioni che si realizzano per ognuno di essi.


Leggete l'articolo intero dalla fonte originale.

Quoto questo passaggio:

---

L'avventura del supercomputer più veloce, potente ed intelligente mai creato prima divide però la scienza. Tra sostenitori e contrari alla realizzazione del progetto, con questi ultimi che si appellano al rischio di una "singolarità tecnologica" che accelererebbe la capacità di comprensione e previsione degli esseri umani. In parole più chiare: la creazione di una macchina in grado non solo di pensare ma anche-in un prossimo futuro- di provare emozioni, spaventa quanti prefigurano la fine della stessa umanità di fronte alla creazione di macchine "superiori" che, a loro volta, potrebbero progettare tecnologia non controllabile dall'uomo.

---

Come sempre si tratta della paura ancestrale dell'uomo di essere controllato e non di controllare le macchine.

Takenspace, 08/04/2014 14:16:

---

Quoto questo passaggio:

---

L'avventura del supercomputer più veloce, potente ed intelligente mai creato prima divide però la scienza. Tra sostenitori e contrari alla realizzazione del progetto, con questi ultimi che si appellano al rischio di una "singolarità tecnologica" che accelererebbe la capacità di comprensione e previsione degli esseri umani.

---

---

Hai quotato il vero problema, o almeno quello che a me personalmente crea più timore. D'accordo che tutto il filone della fantascienza spesso si basa proprio sulla singolarità tecnologica, ma penso che sia un timore più che fondato, un rischio inevitabile, ed è un processo che è già iniziato anche se non ce ne rendiamo conto.

Se la tecnologia che usiamo è una calcolatrice è piuttosto facile verificare che non ci siano errori o bug, dei semplici controlli incrociati confermano o meno se i calcoli sono corretti, quindi "l'utente finale" si affiderà completamente alla calcolatrice per risolvere operazioni lunghe e complesse. Ma che comunque potranno sempre e in ogni caso essere verificate.

Ma a un super computer come quello dell'articolo potremmo non limitarci ad affidargli la soluzione di calcoli matematici. Se è in grado di "ragionare" e prendere delle decisioni, in modo molto simile a quello umano ma più velocemente e con più accuratezza, potremmo affidargli la completa gestione di meccanismi da cui potremmo non essere più in grado di uscirne o gestire: la sanità, il cibo, l'industria in genere.

Già oggi è facile ricevere una cartella esattoriale generata da un errore. Molto complesso evitare di doverla pagare. C'è gente che si è dovuta rivolgere a stampa e TV e in linea di massima prima di risolvere il problema dobbiamo pagare.
Per non parlare di chi ha dovuto dimostrare di essere vivo, nonostante risulti passato a miglior vita, quindi senza più diritti.
Semplicemente perché lo ha deciso un software.

Nel caso di un supercomputer? Chi verifica le scelte etiche? Ma soprattutto come ci accorgeremmo di un errore?

Bisogna fare molta attenzione, già oggi ci affidiamo con disinvoltura a software e hardware di cui non abbiamo la più pallida idea di come funzionano, dal navigatore gps al controllo della glicemia eccetera.
Cosa succede nel momento in cui anche le nostre scelte verranno stabilite da un sistema che realmente sceglie per noi, in apparenza per il nostro bene e quello della società?
Se c'è un errore nel sistema potremmo non saperlo mai, o almeno fino al punto in cui è tardi per porre rimedio.

Mi trovo d'accordo è più facile evitare un errore che rimediare a un errore Non voglia tediarvi con le solite leggi della roborica che non sono un'idea di Asimov ma il problema è filosofico prima che meccanico. Mi snaturo e vi linko un documento che apre il discorso oltre le macchine ad altri tipi di azioni fuori dal controllo umano.

www.scuolafilosofica.com/421/kant-e-la-legge-0-della-robotica

E' molto interessante oltre che molto lungo.

Il sunto delle leggi rianalizzate è il seguente:

Le tre leggi, in realtà, sono di più di tre, nel senso che esse, scomposte più adeguatamente, indicano i comportamenti che un Robot non può seguire “per principio”:

1) un robot non può nuocere all’uomo né permettere che, per il suo mancato intervento, un uomo riceva danno;

2) un robot deve sempre obbedire agli ordini ricevuti, a meno che questi non contrastino con la Prima Legge;

3) un robot è tenuto ad autoconservarsi e a difendersi a meno che questo non contrasti con la Prima e Seconda legge.

La prima legge ci dice due cose:

a) un robot non può nuocere all’uomo;

b) un robot non può permettere che, per mancato intervento, un uomo riceva danno;

Si può dire che le due proposizioni sono sinonimiche in vista del fine, perché si fondano entrambe sull’idea che il Robot debba procedere sia in senso attivo che passivo sempre e comunque per la salvaguardia della vita dell’uomo. Sono due leggi diverse: da un punto di vista formale, sillogistico, esse implicano inferenze diverse, in secondo luogo pongono praticamente dei comportamenti diversi. Se per “legge” vogliamo intendere “ciò che spiega un comportamento all’interno di una teoria” dobbiamo per forza interpretare la prima legge come due leggi distinte volte a chiarificare uno stesso fine. Lo stesso fine, non giustifica l’identità.

La prima legge vincola il Robot ad agire sempre verso un fine non contrario alla vita umana, o al suo deperimento. La seconda legge definisce il fine pratico del Robot: esso è un mezzo dell’uomo. Però è molto interessante osservare che non venga specificato da chi debbano provenire gli ordini, sebbene è implicito che sia da qualche uomo (ciò dovrebbe essere specificato, però. Infatti, si può dare il caso che il Robot si autordini). In fine, la terza legge osserva il Robot ha “diritto” alla vita e alla difesa a patto che non contravvenga alla prima e alla seconda legge: vale a dire che se c’è un attentatore e il Robot può salvare la vita al suo padrone al solo costo della propria esistenza, egli deve sacrificarsi senza esitazione.

Le leggi della robotica non sono di genere logico né matematico. Non sono di genere logico perché hanno un chiaro contenuto prammatico, sebbene sia di ordine normativo. Però, esse non sono vere a priori e mostrano un certo significato concreto. Non sono di genere matematico perché non sono dedotte da alcun principio di natura numerica. In che senso, allora, sono leggi. Possono essere leggi morali, leggi politiche, leggi fisiche. Senza dubbio non sono leggi fisiche perché non descrivono il comportamento di corpi né lo rendono prevedibile. Tuttavia, è a questo genere di legge che Asimov pensa: spiegheremo tra poco perché ciò sia lecito. Non è certamente un tipo di legge politica, nel senso che non è stata presa da una comunità come regola da seguire. Si tratta, in realtà, di “leggi morali” cioè delle norme che definiscono i comportamenti adeguati da quelli inadeguati. Questo livello è insufficiente. Perché il vincolo delle tre leggi non può essere esclusivamente di genere morale: il Robot deve essere vincolato in modo più forte che solo per delle convenzioni ad alto livello, cioè deve essere programmato in modo tale che sia incapace di pensare in modo diverso.