Gli obbedienti

È davvero agghiacciante la realtà che (ri)propone l’articolo pubblicato oggi da Repubblica a pagina 35 per presentare lo studio di due ricercatori dell’Università di Medford negli Stati Uniti riguardo la capacità delle intelligenze artificiali di ribellarsi a ordini umani sbagliati o pericolosi, ovvero di mettere a punto robot in grado di avvalersi di criteri morali che impediscano loro di compiere azioni di cui gli esseri umani, in teoria almeno, avrebbero poi da pentirsi.

Partendo dalla scena del film di Stanley Kubrick 2001 Odissea nello spazio, nella quale il supercomputer Hal 9000, alla richiesta dell’astronauta di aprire il portellone che gli avrebbe consentito di rientrare sull’astronave e salvargli la vita, risponde «Mi dispiace, David, non posso farlo», l’articolo ipotizza lo scenario in cui a un robot sia stato affidato il compito di badare a un anziano, come fanno tante encomiabili donne che arrivano da ogni dove, e, contemporaneamente, gli venga intimato di salire subito sul tetto a riparare l’antenna della tv allentando la sorveglianza sul vecchio o, peggio, che a un’auto intelligente non venga data l’informazione relativa al fatto che sul ghiaccio si pattina e c’è il rischio di sbandare frenando.

Su questi argomenti legittimamente ci si interroga in questa epoca iperinterconnessa partendo dalle prima due delle “Tre leggi della robotica”, enunciate per la prima volta nel 1942 da Isaac Asimov nel racconto Runaround (Circolo vizioso o anche Girotondo), ovvero sia: 1) Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno; 2) Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge; 3) Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima o con la Seconda Legge.

Legittimamente ci si interroga quantunque il lato agghiacciante della faccenda per me sia dato da altro. Dal fatto cioè che l’umanità è piena – ed io ne ho conosciuti diversi, i così detti zerbini – di individui che non sanno proprio cosa voglia dire non dico disobbedire, ma nemmeno tentar d’argomentare un pensiero che sia leggermente diverso e appena appena irriverente, stonato (dodecafonico), non suadente il potente.

E, sia chiaro, non per indispettirlo inutilmente e senza motivo, ma per instillargli un dubbio quando ci vuole e strapparlo da quella allucinazione nella quale gli piace tanto sguazzare essendo “più bella e più superba che pria…”, come faceva echeggiare nel Nerone Petrolini.

Buona parte dei tecnici informatici con cui ho avuto a che fare inducono a dubitare che nel caso delle macchine si possa parlare di intelligenza artificiale perché è impossibile che qualche placca di silicio e dei cavi elettrici trasformino in intelligenza l’idiozia che in quegli armamentari è stata trasfusa, ammesso siano gli stessi a insufflare il sistema operativo. E il mio timore non è che fare il tecnico informatico sia una cosa deficiente ma che molti deficienti ritengano confacente alla propria natura applicare pedissequi il manuale di informatica che gli è stato instillato.

Sono in altre parole gli esecutori degli ordini che mi inquietano, da Eichmann in giù per capirsi, compreso quello che vendendoti il robot tutto fare ti garantirà che è moralmente irreprensibile perché, a differenza di me e di molti di voi, è scevro da pulsioni e altri malefizi.

Tags:

Leave a Reply