Intervento sull’automazione

Volevo riportarvi il mio intervento su un dibattito riguardante l’automazione nel mondo della finanza. Lo ritengo molto istruttivo per quanti non siano a conoscenza di cosa succede ad i giorni nostri nella grande economia. Credo sia di facile lettura anche estraniato dal contesto generale del dibattito. Se comunque avete qualche domanda od incertezza scrivete nei commenti!
Buona lettura,

Tutti quanti hanno sempre ampiamente analizzato le metodologie di analisi delle informazioni rilevanti, di come implementare le risposte che la macchina deve eseguire ma, come in ogni operazione umana, si ha la necessità di introdurre un’operazione di controllo. Per fare un esempio sciocco vi riporto quello che mi è accaduto qualche giorno fa. Avevo scaldato l’olio per far friggere le patatine, nella mia mente il passo successivo dell’algoritmo “Prepara Patatine Fritte” era gettare le patatine nell’olio. L’ordine parte ed il corpo comincia l’esecuzione ma, nel farlo, l’olio comincia ad uscire e se non mi fermo immediatamente rischio di dare fuoco ad una pentola piena d’olio bollente, con le ovvie conseguenze. Come vedete è stato operato un controllo empirico, diretto, sul mio algoritmo, che il mio “elaboratore centrale” non aveva previsto. Questo avviene semplicemente perché la nostra mente non è in grado di elaborare e tener conto di tutte le possibili variabili indipendenti dell’universo, tralasciando il fatto che potrebbero esistere anche variabili dal carattere casuale “Selvaggio” che potrebbe essere impossibile prevedere e/o modellizzare. Dunque chi opera quest’azione di controllo nel caso delle macchine? Intuitivamente ci verrebbe subito da asserire che dev’essere l’uomo, ossia il creatore, l’unico che ha le capacita di comprendere se la macchina stia effettivamente compiendo il proprio lavoro. La macchina, che non comprende lo scopo, potrebbe però avere le capacità sufficienti per comprendere le modalità ed i fini. Infondo noi sappiamo effettuare controlli sulle nostre operazioni, esattamente come il caso delle patatine fritte, pur non conoscendo il nostro “scopo”. Abbiamo chiamato questa serie di istruzioni: istinto di conservazione. Ebbene cos’è l’istinto di conservazione se non un insieme di regole prestabilite atte a preservare l’individuo? Questo possiamo benissimo insegnarlo alle macchine, estendendo proprio questa conservazione non a quella della macchina stessa, che poco ci interessa, ma alla salvaguardia dell’uomo. Ovviamente quest’istinto non è infallibile, neanche quello dell’uomo lo è; l’istinto non consente a tanti ragazzi di salvarsi dal fare incidenti il sabato sera o tante altre stupidate che minano la nostra vita. Sfortunatamente però – o fortunatamente? – per quanto ci si possa sforzare non è possibile esprimere in maniera matematica la complessità dell’individuo. Si può abbozzare un modello, ancor più semplice se è per un numero consistente di persone, ma tutto qui. Infondo è stato qualcuno di ben più saggio di me ad asserire che non importa quanto si scriva su un argomento, una parte di quell’idea resterà pur sempre inesplicabile e radicata nella nostra anima. Chi controlla perciò che questa parte inesplicabile sia preservata dall’operato delle macchine? La risposta più naturale che mi sovviene è: l’uomo stesso. Arriviamo ad una conclusione importante, il programmatore installerà e progetterà un sistema di auto controllo all’interno della macchina il più completo possibile ma, perché c’è un ma, sarà pur sempre necessario predisporre un sistema di seafty-switch per disattivare la macchina in caso di un malfunzionamento non programmato. Questo è il problema che chiameremo: “Il problema del Dr. Stranamore”, con le ovvie analogie al film. In realtà, con molta meno filosofia dietro, è sempre stato implementato in tutti i PC. Infatti in ogni CPU si possono distinguere essenzialmente due parti logiche:

La C.P.U. si compone essenzialmente di due parti:

  • L’unità ARITMETICO-LOGICA, chiamata A.L.U. (Arithmetic Logic Unit)
  • L’unità di controllo.

Le funzioni dell’A.L.U. sono di tipo esecutivo:

  1. Esegue operazioni con dati numerici;
  2. Esegue operazioni con le proposizioni logiche (confronti e decisioni logiche).

Le funzioni dell’unità di controllo sono di tipo decisionale:

  1. Interpreta le istruzioni del programma;
  2. Coordina l’attività dell’unità aritmetico-logica, delle memorie e di tutte le altre parti del computer.

Infatti, l’unità di controllo ha il compito di attivare le apparecchiature e i dispositivi che fanno parte di tutto il sistema di elaborazione e tra questi in particolare le unità di ingresso e di uscita. Fra l’altro ha il compito di attivare i canali di comunicazione tra la memoria principale e l’A.L.U.

Eppure a tutti noi sarà capitato che, in preda al panico, magari per un attacco da parte di un malintenzionato o magari per nostro errore, abbiamo tenuto premuto il pulsante di accensione per qualche secondo resettando il sistema o, addirittura, direttamente staccato al corrente. Nel concreto è questo che stiamo cercando di esplicare. La macchina esegue un autocontrollo quasi immediato ESSENZIALE ma l’uomo è l’unico che può comprendere se l’insieme di queste decisioni giova a suo vantaggio oppure no. Essenziale poiché i computer prendono ed eseguono decisioni in scale di tempo non biologicamente compatibili con quelle umane. È per questo che noi possiamo eseguire un controllo non su una singola azione bensì su un “trend” di decisioni della macchina. Per aiutarvi pensatela in questo modo, voi siete un Generale, potete decidere se far sparare i vostri soldati oppure no, ma dove andranno i colpi saranno i Soldati a deciderlo. Quindi noi decidiamo un “trend”, uno scopo finale, ma spesso non possiamo controllare la miriade di dati processati in quei secondi dalla macchina ed è questo a renderle così “criptiche”.

Vi è una seconda problematica, che potremmo esprimere come “Il difetto dei tre desideri”. Quante volte avrete sentito dire la fatidica frase “sta attento a quel che desideri?” Questo avviene, in parte, sia perché non valutiamo e non comprendiamo a fondo come il mondo reagisce ad un cambiamento da noi apportato, sia perché, e questo è un classico delle fiabe, formuliamo male il desiderio. Ossia il linguaggio non riporta correttamente il pensiero, il desiderio, che avevamo in noi. Quindi il problema del linguaggio è molto importante tra l’uomo e la macchina. Tra esseri umani spesso il difetto di linguaggio viene sopperito con l’empatia, spesso anche persone che parlano lingue diverse si comprendono sulle questioni più semplici e pragmatiche e meno astratte. Con la macchina l’empatia si riduce allo zero. La macchina non ha alcuna empatia naturale con noi, esegue testualmente cosa le viene impartito. Non si può dire ad una macchina “Ma no io intendevo…” Poiché il comando è andato. Una macchina esegue, e può essere progettata per eseguire, qualunque scopo. Riassumendo, nell’esecuzione degli ordini bisogna stare attenti a due cose:

  1. (Il difetto dei tre desideri) La formulazione della richiesta, che deve essere trasponibile in una richiesta quantitativa ossia traducibile in linguaggio macchina, dovrà essere precisa e non aperta ad interpretazioni. Questo sottintende che le macchine non possono aiutarci a risolvere la totalità dei nostri problemi.
  2. (Il problema del Dr. Stranamore) Tralasciando il controllo automatico, che sarà stato implementato dai programmatori, dovrà sempre essere possibile eseguire un check sull’operato della macchina e, in caso, di disattivarla. Le modalità di controllo sull’operato verranno implementate dai programmatori, queste modalità vengono sempre aggiornate e cercano di essere sempre più intuitive ed immediate per l’utilizzatore finale.

L’uomo e la macchina sono concatenati: l’unico che può valutare se realmente la macchina stia esaudendo i suoi desideri è l’uomo stesso; senza uomo che controlla, la macchina ha solo preimpostazioni, che non possono essere né giuste né sbagliate.

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...