l'autore del sito
i nostri collaboratori
il blog di jacopo
blog fotografico
motore di ricerca
r i s o r s e   o n l i n e   s u l l a   f i l o s o f ia   e   l ' i n f o r m a t i c a
sito v.1.6.0
menu principale vuoi collaborare con questo sito? clicca qui

Pillole di Saggezza
«»



ESISTENZIALISMO CIBERNETICO
Analisi critica del senso di riproduzione nelle macchine intelligenti
di: Giuseppe Bonaccorso

Questo articolo nasce da un dialogo con un mio caro amico psicologo, Giuseppe Umana, che, sempre con grande acume e spirito critico, ha messo in evidenza alcuni aspetti fondamentali della moderna intelligenza artificiale confrontandoli con i cardini su cui poggia il substrato stesso della vita da cui tale disciplina prende inevitabilmente spunto. In particolare egli mi ha fatto notare che mentre il genere umano è spinto da un fortissimo istinto – da ascrivere non alla lunga lista di pulsioni più o meno evolute, ma piuttosto alla base filogenetica dell’esistenza stessa – di conservazione, una macchina intelligente, per quanto ben progettata, non avrebbe ragioni valide per porsi il medesimo obiettivo. La mia reazione immediata fu quella di pensare alle inevitabili avarie che i componenti elettronici o meccanici avrebbero subìto nel tempo e quindi, di primo acchito, gli risposi che la conservazione della specie (intesa come gruppo con caratteristiche analoghe) sarebbe comunque risultata necessaria per evitare una distruzione progressiva degli elementi membro; tuttavia, riflettendo con più serenità, mi sembra ovvio che il problema del guasto e della sua risoluzione è lungi dall’essere una condizione necessaria che può realmente permettere di parlare di “istinto di conservazione”. Il motivo è molto semplice e la spiegazione non può che essere ispirata alla realtà umana: se io mi fratturo un braccio una lunga serie di stimoli endogeni, tra cui spicca certamente il dolore, mi segnala che nel mio corpo si è verificata una condizione nociva e pericolosa e che quindi io devo immediatamente porre rimedio.
Qualunque persona ragionevole sarebbe “costretta” dallo status quo a recarsi in ospedale per affrontare le cure necessarie; a questo punto mi sembra chiaro che non c’è ragione per cui una macchina non possa fare lo stesso, anzi, al giorno d’oggi è raro trovare sistemi elettronici e/o meccanici che non prevedano uno schema di auto-diagnosi dei guasti e non è assolutamente irreale pensare a macchine che siano in grado di adottare comportamenti sulla base di controlli adattativi che sono, a loro volta, in grado di operare le scelte migliori sulla base di un certo numero di variabili interne e ambientali. Insomma, il problema della diagnosi automatica e della riparazione dei guasti è normale routine in quasi tutti i campi dell’ingegneria tecnologica, ma nessuno ha il coraggio di affermare che il proprio computer, quando segnala una temperatura eccessiva del processore, sta in qualche modo ostentando il suo desiderio irrefrenabile di avere progenie, semmai esso si preoccupa (più o meno intenzionalmente) di salvaguardare l’integrità delle sue strutture vitali al fine di evitare tutt’al più l’inconveniente economico di una riparazione.
Per l’uomo la situazione è certamente diversa: egli non vede nella riproduzione un mezzo di auto-riparazione (cosa d’altronde assurda), ma una condizione necessaria dell’esistenza che solo a posteriori noi possiamo definire in termini macroscopici; infatti il concetto di accoppiamento con fini riproduttivi non è insito nella politica sociale di una comunità, ma si riscontra inevitabilmente in ogni singolo membro di essa quasi come se fosse un bagaglio culturale innato. Naturalmente nel dire ciò non desidero che il lettore pensi che io sostenga la tesi dell’innatismo con troppa leggerezza, sono infatti convinto che la consapevolezza di poter generare un essere umano nasca innanzi tutto dalla conoscenza, più o meno profonda, della copulazione e quindi, in ultima analisi, è essenziale che ogni elemento di un gruppo sia primariamente in grado di distinguere i membri compatibili con l’accoppiamento dagli altri. A meno di non prendere in considerazione la situazione paradossale dell’ermafroditismo generale, mi sembra ovvio che il singolo può acquisire consapevolezza solo se posto all’interno di un contesto adeguato. Dal mio punto di vista – quello di un progettista di macchine intelligenti - la necessità della continuazione della specie non rappresenta di certo un fattore di primaria importanza, ma è comunque interessante, nell’ottica di una coscienza artificiale, analizzare quali requisiti dovrebbe avere una macchina per poter manifestare apertamente il desiderio di progenie.
Innanzi tutto, come ho già detto, io considero questa tendenza, seppur individuale, come se fosse una proprietà emergente di un gruppo socialmente formato: in altre parole, secondo me è quasi impossibile valutare il grado di interesse verso la riproduzione di un individuo a meno di non contestualizzare l’esistenza di quest’ultimo. Seppur banale, questa tesi mette in evidenza la necessità di osservare la realtà in un complesso che include lo stesso osservatore come parte integrante e perciò sposta il punto di vista dalla pura psicologia alla più generale sociologia; dando per valido che sia la specie a voler continuare la sua esistenza, si distrugge il mito di un superuomo capace di rappresentare perfettamente il macrocosmo ove egli si trova. Ovviamente ciò non significa che l’individuo acquista la capacità di riproduzione, ma piuttosto che tale peculiarità viene “risvegliata” dalla continua interazione tra membri di una comunità. Solo per queste ragioni io mi sono permesso di trattare il problema come se l’agente attivo, che sia uomo o macchina non ha molta importanza, è tale se e solo se esistono altri omologhi compatibili con esso e consapevoli della mutua esistenza. Tuttavia, è bene precisare, che una volta operato tale processo, l’identità singolare perde parte del suo valore costitutivo per garantire alla comunità quella compattezza necessaria affinchè essa non si sfaldi in sottogruppi sempre più piccoli e raggiunga infine l’estinzione; anche per questo motivo è molto più conveniente descrivere l’istinto di conservazione come proprietà emergente di un sistema per cercare di comprendere quali fattori locali e globali possono realmente influenzarla.

Una macchina, presa singolarmente, ha un’esistenza estremamente limitata: essa può operare secondo quanto prescritto dagli algoritmi di progetto, oppure può evolversi in modo abbastanza casuale dando vita ad una dinamica temporale inizialmente ignota e definibile solo in termini probabilistici ; in ogni caso essa non potrebbe mai oltrepassare la soglia che separa l’individualità dalla consapevolezza di appartenenza ad un qualsivoglia contesto. Un sistema intelligente isolato può quindi essere solo potenzialmente in grado di avere coscienza, ma, non disponendo della larga gamma di stimoli esogeni caratteristici dell’uomo, esso “vivrà” la sua vita con la consapevolezza intrinseca dell’unicità della stessa. Esso sarà un atomo in un universo privo di qualsiasi forza agente tra tali particelle e quindi, da un punto di vista prettamente esistenziale, questi avrà pieno diritto di ritenere sè stesso l’universo, limitando inconsapevolmente ogni possibilità di esperire realtà differenti e di maggiore portata. E’ quindi assolutamente impossibile che la macchina isolata possa manifestare un comportamento di interesse verso la riproduzione a fini conservativi, ma cosa accade quando si crea un contesto ove sono presenti più agenti intelligenti ? Per rispondere a tale domanda dobbiamo fare un piccolo esperimento virtuale: supponiamo di creare un’arena tridimensionale ove sono posizionati alcuni robot liberi di muoversi ed interagire tra di loro; ad esempio uno di essi potrebbe chiedere agli altri dove si trova un certo oggetto e ricevere risposta da colui o coloro che hanno per primi localizzato l’obiettivo. Non ha importanza il tipo di interazione, quello che conta davvero è che ogni singolo robot sia percettivamente attivo e idoneo alla comunicazione secondo un qualsiasi protocollo. Assumiamo inoltre che ogni sistema abbia incorporato un dispositivo di controllo che effettua un monitoraggio continuo delle funzioni “vitali” del robot e segnali per tempo quando una parte di esso si trova in condizioni prossime all’avaria; in questo modo stiamo partendo dal presupposto che il singolo agente è progettato in modo da avere consapevolezza sia dei suoi limiti, sia dei danni che le sue strutture possono subire, quindi abbiamo inconsapevolmente imposto la condizione che ogni membro della piccola comunità possiede una coscienza esistenziale che lo porta ad agire tenendo conto delle limitazioni intrinseche. Da un punto di vista progettuale è anche possibile (e auspicabile) che un robot “malato” adotti tutte le misure di emergenza necessarie affinchè i suoi danni possano essere riparati e ciò conferma ancora una volta l’intenzionalità del comportamento dell’agente: esso vuole continuare la sua vita e, in un certo senso, “teme” la terminazione della stessa. Anche se ciò può apparire paradossale bisogna tenere presente che non esiste alcuna giustificazione metafisica al desiderio di vivere: ogni persona cerca di conservarsi e ha paura della morte solo per ragioni puramente culturali . Non è quindi assurdo pensare di programmare un robot affinchè esso desideri la vita, esattamente come è del tutto normale che si insegni ad un bambino a non correre determinati rischi perchè potrebbero causargli gravi lesioni; ciò che invece è molto importante è l’eventuale consapevolezza insita nella transizione da uno stato generale di vita ad uno che è il suo contrario logico. L’istinto alla continuazione della specie prende forma proprio da questo fattore e si sviluppa sulla base di considerazioni che possono collocarsi nella sfera del sociale, come la generale utilità della funzione svolta da ogni membro, l’affiliazione che scaturisce dai rapporti sinergici o, semplicemente, il desiderio personale di mantenere la propria presenza in funzione del valore sia dell’individuo stesso che delle sue opere.
Alla base di tutto, quindi, si pone il concetto fondamentale dell’unitarietà, ovvero dell’impossibilità di sostituirsi a sè stessi attraverso clonazione: è questa l’energia viva che alimenta la più profonda delle pulsioni, la salvaguardia del sè. Tuttavia, come è chiaro a chiunque, questo bramoso desiderio è contrastato costantemente dalla percezione cosciente dei limiti strutturali e funzionali del substrato che regge ogni attività cosciente, si crea quindi una lotta tra il volere e il non potere, che ahimè non può che tendere sempre verso il secondo contendente. Grazie alla razionalità ogni persona si rende conto che deve avvenire prima o poi una transizione e che tale momento sarà unico, irripetibile e soprattutto irreversibile; quando ciò accade il predominio della ragione svela la sua arma più temibile contro ogni forma di limite: la riproduzione. Abbiamo perciò tre fasi distinte: 1) la conservazione del sè, 2) la constatazione dei naturali decadimenti delle cellule, 3) la sopraffazione di questi ultimi attraverso la procreazione di nuovi membri. E’ molto importante che il lettore faccia attenzione alla necessità di tutte e tre le parti del processo poichè non sarebbe spiegabile altrimenti nemmeno il ricorso all’emergentismo prima menzionato: solo all’interno di una comunità è attuabile il passaggio dalla seconda alla terza fase, seppur è innegabile che ogni singola entità pensante debba necessariamente concordare con la triade. Apparentemente questo può sembrare un controsenso, ma se analizziamo gli andamenti demografici di una città e contemporaneamente cataloghiamo le idee personali in fatto di accoppiamento scopriamo subito che, mentre la popolazione media si mantiene pressochè costante – a fronte di normali fluttuazioni –, moltissime persone non hanno il benchè minimo desiderio di procreare o, perlomeno, esse non programmano tale evento come primario e fondamentale per la loro stessa esistenza !
Spostiamoci adesso nel campo delle macchine e riprendiamo il nostro esperimento virtuale: per quanto affermato, l’unico modo di verificare la presenza di un certo istinto di conservazione è quello di valutare il grado di consapevolezza che ogni robot può avere della triade sopra esposta; il primo punto è sicuramente garantito dai sistemi automatici di diagnosi dei guasti e perciò possiamo essere certi che il “sè robotico” è salvaguardato in modo costante e sufficientemente efficiente. Il secondo punto è forse più critico, ma anche in questo caso il problema può essere aggirato considerando nella progettazione un dispositivo di valutazione della bontà dei componenti che funzioni basandosi sul cosidetto MTBF, ovvero Medium Time Before Failure (Tempo medio prima dell’avaria); questo parametro è caratteristico di ogni artefatto umano anche se solo una corretta ingegnerizzazione dei processi può permetterne una stima accurata, ad esempio, ogni lampadina possiede un MTBF, ma è molto difficile che esso venga calcolato per una sedia o per un tappetino da bagno, tuttavia è bene tenere presente che qualsiasi oggetto va incontro a deterioramenti e quindi è sempre potenzialmente possibile pervenire ad una stima della vita media di ogni elemento. Nel caso umano la questione è molto più semplice in quanto esistono diverse organizzazioni sia nazionali che internazionali che calcolano periodicamente il valore del MTBF umano e la sua diffusione è così capillare che ogni persona molto spesso acquista consapevolezza dell’età proprio rapportandosi al valore medio prescritto dalle tabelle statistiche...
Non è assolutamente vero che a 75 anni un uomo è in procinto di morire, ma è certamente vero che mediamente in una popolazione il numero di decessi nella fascia di età compresa tra i 70 e gli 80 anni ha una percentuale nettamente maggiore rispetto a qualsiasi altra. Con ciò voglio dire che il secondo punto della triade è influenzato sia da fattori endogeni (principalmente la comparsa di patologie degenerative senili), ma anche dalla diffusione culturale di informazioni emergenti solo a livello comunitario e difficilmente ottenibili attraverso analisi locali. Ancora una volta l’emergentismo sembra farla da padrone e ciò potrebbe gettare in cattiva luce quanto detto in proposito delle macchine, tuttavia la differenza sostanziale che sussiste tra gli esseri umani e i sistemi artificiali è proprio relativa alla capacità di autovalutare lo stato dei propri componenti: un robot ben progettato – possibilmente in modo multi-modulare – potrebbe, in linea di principio, controllare il numero totale di unità attive e confrontarlo con quello delle controparti ormai inutilizzabili, sulla base di questa ossservazione la macchina è in grado di operare un numero sufficiente di stime e pervenire ad un MTBF individuale. Se poi consideriamo i fattori di omogeneità (stessi componenti, stesso ambiente, stesse cause di usura), utilizzando con una certa licenza il teorema del limite centrale possiamo dire che il valore dello MTBF è distribuito secondo una gaussiana caratterizzata da un valore medio e da una precisa varianza: gli stessi parametri che portano l’ISTAT o qualsiasi altro ente di statistica a definire le fascie di età a maggior rischio di decesso.
Chiarito questo punto arriviamo alla questione più cruciale: il culmine della triade, la riproduzione a fini conservativi. Abbiamo detto che la spinta umana verso la procreazione scaturisce da fattori in genere legati alla persona e alle sue opere, in un certo senso potremmo affermare che il desiderio (innato) di continuazione indiretta è il compromesso finale della triade e perciò la sua portata esistenziale è la reale chiave di volta dell’intero processo vitale di un organismo. Nella nostra arena piena di robot che vivono interagendo tra di loro e con l’ambiente, e possibilmente portando a termine anche un certo numero di compiti particolari, esiste questa chiave di volta ? Per rispondere bisogna assumere la posizione del programmatore che simula mentalmente il comportamento degli organismi artificiali: supponiamo che il robot 1 sia impegnato in un certo lavoro e d’un tratto si accorga che i suoi servomeccanismi che controllano la locomozione siano andati in avaria, esso si trova quindi costretto a fermarsi e cercare aiuto. Nell’ipotesi peggiore il danno meccanico potrebbe essere stato causato da un cortocircuito nei sistemi elettronici che, a loro volta, si sarebbero potuti danneggiare irreparabilmente; supponiamo tuttavia che una piccola parte di moduli sia ancora attiva e proprio questa determina una condizione interna che potremmo definire “agonia”. Può realmente la macchina prefigurarsi tale stato ? Il passaggio dal funzionamento all’avaria è necessariamente binario, ovvero esisterà sempre un istante prima del quale il robot sarà ancora, anche se minimamente, funzionante, e dopo il quale tutti i suoi sotto-sistemi saranno privi di alimentazione e incapaci di svolgere qualsiasi funzione; la successione di stati interni dovrà quindi necessariamente terminare e il passaggio dall’ultimo stato attivo alla mancanza totale di stati sarà perfettamente uguale al passaggio tra due qualsiasi altri stati precedenti. In altre parole, il robot non potrà mai avere coscienza del “trapasso” e valuterà sempre la sua condizione, seppur disperata, come un guasto generale che deve essere aggiustato prima di poter riprendere le sue mansioni. Ma supponiamo comunque di “forzare” la conoscenza del robot informandolo che i suoi problemi non hanno soluzione e, tutt’al più egli potrà dar vita a nuovi organismi attraverso un qualche meccanismo di riproduzione (il più banale parte dallo smantellamento); ancora una volta si pone il problema di osservare la configurazione di stati interni dopo questa tragica comunicazione: è visibile un qualche segno particolare che ci informi sull’eventuale consapevolezza acquisita dal robot ? La risposta è negativa e il motivo è alquanto banale: il sistema non può immaginare nè in modo analitico, nè tantomeno in modo figurato come per le EPM, uno stato la cui caratteristica è quella di non poter esistere !
Da ciò possiamo dedurre che il robot non può pensare intrinsecamente la morte e quindi la triade non può chiudersi. Non ha alcuna importanza quale valore il robot attribuisca a sè stesso e al suo lavoro, perchè comunque ciò che conta è il rapporto tra l’essere in un determinato punto spazio-temporale e il non poter essere nè lì nè altrove; quando si verifica questa situazione si ha la consapevolezza di un continuo che deve in qualche modo spezzarsi, ma se tale evenienza è bandita dalla dinamica funzionale stessa, allora risulta impossibile qualsiasi prefigurazione di totale assenza di vita. Se quindi si cercano le radici dell’istinto di conservazione nel compimento della triade, è più che evidente che una macchina non potrà mai contemplare uno stato interno autonomo che la spinga verso un qualche processo di riproduzione – ammettendo, naturalmente, che esso esista e sia attuabile -, a meno che non si programmi (nel senso più algoritmico e letterale del termine) la stessa per far fronte ad una serie di nuovi assemblaggi. In questo caso, che apparentemente potrebbe lasciar trasparire la proprietà emergente della procreazione, le macchine adotterebbero un comportamento molto simile a quello di una comunità umana, ma ciò non sarebbe altro che una pura illusione poichè non ci sarebbe più alcuna ragione di far riferimento ad istinti o pulsioni in quanto ogni forma di tacita consapevolezza verrebbe inevitabilmente a mancare.
In conclusione vorrei ricordare al lettore che la mia analisi è basata essenzialmente sulla comparazione tra gruppi di esseri umani e gruppi di robot intelligenti, tuttavia non ho definito in alcun punto dello scritto che cosa io intenda per intelligenza applicata alla macchina. Ebbene, per quanto questa mia mancanza possa essere causa di polemiche e critiche, vorrei precisare che il concetto stesso di intelligenza è definibile solo a partire dallo studio dell’uomo, tutte le estensioni che vengono attuate dall’etologia o dall’ingegneria non possono non tenere sempre presente il modello base che è fonte sia di ispirazione (per quanto riguarda gli aspetti progettuali), sia di studio costante al fine di valutare quali parametri – se ne esistono – appartengono in modo esclusivo al genere umano e quali altri invece sono comuni a famiglie di organismi più eterogenee. Se partiamo da questo presupposto il valore da attribuire alla parola robot intelligente è alquanto arbitrario, poichè limitato dalla considerazione che il comportamento in esame (l’istinto di conservazione) non è una prerogativa solo dell’uomo, ma appare evidente in tutte le specie animali; la nostra macchina può essere una qualsiasi struttura artificiale in grado di possedere stati interni e, solo per motivi di maggiore similitudine con gli esseri viventi, dotata anche di un apparato percettivo bivalente, cioè in grado di cogliere flussi informativi provenienti sia dall’esterno (sensori esterocettivi) che dall’interno (sensori propriocettivi) e di un sistema di locomozione-interazione che permetta al robot di entrare in pieno contatto con l’ambiente-contesto precostituito. Qualsiasi altra accezione della parola “intelligente” è sempre ben accetta, ma non può essere presa in considerazione nel nostro esame al fine di non commettere l’errore sopra accennato di scambiare un processo algoritmico voluto dall’esterno con una qualsiasi forma di decisione presa sulla base delle considerazioni esistenziali riassunte nella triade.

NOTE A PIE' PAGINA
1 Per contatti: http://digilander.libero.it/giuseppe_bonaccorso
2 Per comprendere quest’ultimo punto pensate ad un’ipotetica e fantasiosa macchina basata sul moto browniano di un gruppo di particelle – ad esempio il fumo di una sigaretta -, anche se ciò è realmente paradossale, secondo la teoria computazionale di Turing è possibile definire calcolatore intrinsecamente digitale qualsiasi mezzo a cui sia possibile attribuire una serie finita di stati e quindi, anche se a fronte di uno sforzo intellettuale non indifferente, non è del tutto erroneo pensare che un sistema appartenente al dominio della meccanica statistica possa, in qualche modo, essere visto come una vera e propria macchina.
3 Da questo punto di vista sarebbe possibile fare un lungo discorso sulle radici religiose, sociologiche e psicologiche del desiderio di vita, ma ciò non soltanto non spetta a me, ma esula del tutto dagli obiettivi di questo scritto. Tuttavia è interessante notare come non esista una reale differenza tra la coscienza della vita e quella della morte, ovvero come il nostro cervello tratti in modo molto similare sia l’una che l’altra realtà. Molti esperimenti sulle cosidette EPM – Esperienze pre Morte – hanno dimostrato che la grande quantità di immagini, suoni e sensazioni descritte da pazienti usciti da uno stato di coma profondo, siano correlale con la tendenza cerebrale di processare le informazioni in modo continuo. Quando un paziente diventa cosciente del suo decesso incipiente il suo cervello, che opera tradizionalmente in modo anticipatorio, si trova a dover affrontare un grosso paradosso, ovvero esso deve immaginare uno stato mentale impossibile in quanto generabile solo da un individuo morto. Tuttavia, per i nostri scopi, a noi interessa solo prendere in considerazione lo stato di allerta che un pericolo interno – una malattia in senso lato – può e deve generare.
4 Il teorema del limite centrale afferma che il limite all’infinito di una somma di variabili aleatorie uniformemente distribuite tende ad una gaussiana. Su questo teorema si basa ogni stima di età media: considerate una popolazione di 50 milioni di individui - questo numero è sufficientemente alto da giustificare il limite all’infinito -, ogni individuo ha una vita compresa ad esempio tra 0 e x anni dove x è una variabile aleatoria. Ad esempio si potrebbero considerare i casi [0,80], [0,78], [0,83],[0,50], etc. Sommando statisticamente tutte queste distribuzioni si ottiene una funzione densità di probabilità a campana (detta gausssiana) con un picco sul valor medio e un appiattimento tanto più marcato quanto più alto è il numero di valori x diversi (varianza).
5 Sinceramente non credo, riferendomi a quest’ultima affermazione, che esistano prove scientificamente valide sulla “pensabilità intrinseca” della morte da parte degli esseri umani e quindi in questa sede non assumerò nessuna posizione al riguardo. D’altronde per i nostri scopi ciò ha un’importanza solo relativa poichè le macchine che vogliamo trattare non dovrebbero necessariamente essere basate su meccanismi psicologici analoghi a quelli umani.

RIFERIMENTI BIBLIOGRAFICI
[1] Schroedinger E., Che cos’è la vita ?, Adelphi
[2] Heisenberg W., Fisica e Filosofia, Il Saggiatore
[3] Von Neumann et alt., La Filosofia degli Automi, Boringhieri
[4] Bonaccorso G., Il significato e la stanza cinese, Articolo sottomesso a www.portalefilosofia.com


Il testo completo lo puoi scaricare - per una comoda lettura - cliccando sul link poco sotto. Per commenti, suggerimenti o domande puoi contattare l'autore, Giuseppe Bonaccorso, scrivendo al suo indirizzo email: giuseppe_bonaccorso@tiscali.it.

Scarica la versione .DOC - [51KB] - Compatibile con Microsoft Word.
Scarica la versione .PDF - [70KB] - Compatibile con Adobe Acrobat Reader.

Copyright (c) 1996-2002 by Jacopo Agnesina
This material may be distributed only subject to the terms and conditions set forth in the Open Publication License, v1.0 or later.
(the latest version is presently available here).