>

Le macchine non diverrano senzienti: è l’uomo che non lo è





Pote­te ascoltare/scaricare il pod­ca­st qui sot­to oppu­re iscri­ver­vi al cana­le Telegram: 

Pren­do spun­to dal­la mon­ta­gna di min­chia­te che si van­no dicen­do in que­sti gior­ni sul­l’e­spe­ri­men­to inter­rot­to da Face­book, in cui due bot (auto­ma­zio­ni gui­da­te da intel­li­gen­za arti­fi­cia­le) han­no dia­lo­ga­to usan­do un lin­guag­gio particolare.

A pre­scin­de­re dal fat­to che, come al soli­to, la stam­pa non capi­sce una cep­pa e spa­ra caz­za­te al solo sco­po di rac­cat­ta­re click (se vole­te sape­re per­chè cer­ca­te­vi dei testi che lo spie­ghi­no), la sto­ria in sé mi è fun­zio­na­le per par­la­re di qual­co­sa di cui da tem­po vole­vo trattare.

Un gior­no (pre­su­mi­bil­men­te nep­pu­re trop­po lon­ta­no), l’uo­mo riter­rà di aver crea­to una for­ma di auto­co­scien­za, per­chè si ritro­ve­rà di fron­te a qual­co­sa che si com­por­te­rà in modo indi­stin­gui­bi­le da un esse­re uma­no. E sarà il momen­to in cui com­met­te­rà il suo erro­re più immenso.

Il moti­vo è sem­pli­ce: noi rite­nia­mo che la nostra intel­li­gen­za sia il risul­ta­to di una coscien­za e, per que­sto moti­vo, nel momen­to in cui un soft­ware, per quan­to evo­lu­to, for­ni­rà dei risul­ta­ti com­por­ta­men­ta­li non distin­gui­bi­li da quel­li uma­ni, riter­re­mo di aver crea­to una con­sa­pe­vo­lez­za artificiale.

La real­tà è che, nel momen­to in cui que­sto avver­rà, avre­mo la pro­va incon­tro­ver­ti­bi­le che sia­mo noi a non esse­re coscien­ti, a rea­gi­re secon­do sche­mi pro­gram­ma­ti, per quan­to com­ples­si. Solo che, a cau­sa del nostro enor­me ego, inve­ce di pen­sa­re al fat­to che abbia­mo in mano la pro­va del­la nostra non-essen­za, riter­re­mo di aver­ne crea­ta una.

Per fare un esem­pio chia­ri­fi­ca­to­re, è la stes­sa illu­sio­ne per cui, sedu­ti in un vago­ne di un tre­no fer­mo, quan­do par­te quel­lo di fian­co, ci sem­bra di muo­ver­ci in sen­so oppo­sto. Sia­mo fer­mi, ma ponen­do noi stes­si al cen­tro del siste­ma di rife­ri­men­to, quan­do quel­lo che vedia­mo si muo­ve pen­sia­mo di esse­re noi a farlo.

Per la coscien­za vale lo stes­so. Noi cre­dia­mo di esse­re coscien­ti (quin­di ci ponia­mo al cen­tro del siste­ma di rife­ri­men­to) e cre­dia­mo che un pro­gram­ma che si com­por­ta in tut­to e per tut­to come noi (l’al­tro tre­no) abbia per que­sto una coscien­za. Cre­dia­mo che un pro­gram­ma pos­sa esse­re coscien­te per­chè cre­dia­mo di esser­lo noi ma, se aves­si­mo una visio­ne ogget­ti­va, capi­rem­mo che un pro­gram­ma non può esse­re auto­co­scien­te e quin­di, per rifles­so, se noi lo rite­nia­mo tale è per­chè sia­mo noi a non esserlo.

Quel­lo che una vol­ta era un con­cet­to oscu­ro, riser­va­to a pochi, oggi gra­zie alla tec­no­lo­gia ed all’ac­ces­si­bi­li­tà del­l’in­for­ma­zio­ne è dive­nu­to un patri­mo­nio comu­ne e quan­to det­to in sostan­za da tut­te le reli­gio­ni, filo­so­fie e disci­pli­ne è ben cono­sciu­to: noi non sia­mo la nostra per­so­na­li­tà (insie­me di cor­po, men­te ed emo­zio­ni), ma qual­co­sa che sta “die­tro” di essa. La per­so­na­li­tà non è altro che uno stru­men­to di que­sto qual­co­sa per espe­ri­re la real­tà, uno stru­men­to che si modi­fi­ca ed evol­ve con il tem­po, ma pur sem­pre uno stru­men­to, ciò che noi rite­nia­mo, erro­nea­men­te, “coscien­za di sé”.

Una intel­li­gen­za arti­fi­cia­le non sarà mai altro che uno stru­men­to. E pro­prio il fat­to di cre­de­re che pos­sa esse­re una “coscien­za” dovreb­be aprir­ci gli occhi sul fat­to che anche il nostro rite­ner­ci coscien­ti non sia altro che una cre­den­za… o un como­di­no se preferite.

Quan­do riter­re­mo di aver crea­to la con­sa­pe­vo­lez­za di sé in un soft­ware (per quan­to sofi­sti­ca­to esso sia) sarà il momen­to in cui potrem­mo ren­der­ci con­to che in real­tà noi non sia­mo mai sta­ti con­sa­pe­vo­li di noi stes­si nel vero sen­so del­la parola.

Ma gra­zie all’e­go uma­no, que­sto non acca­drà per mol­to, mol­tis­si­mo tempo.

O for­se no: dipen­de da quan­ti riu­sci­ran­no, nel tem­po, a svegliarsi.

Ci si vede in giro!

Con­di­vi­di