«Intelligenza artificiale o naturale: siamo sicuri di capire la differenza?»
Il titolo è volutamente provocatorio, ma ciò che segue non è una teoria né un manifesto, ma solo un invito a mettere in discussione ciò che normalmente diamo per scontato.
Alcuni presupposti sono radicati così profondamente in noi che raramente ci accorgiamo della loro presenza. C’è una differenza tra scegliere consapevolmente di assumere o credere qualcosa ed essere inconsapevoli di averlo già dato per scontato. E quando un presupposto non può nemmeno essere messo in discussione, vale la pena chiedersi perché. Perché la risposta è di per sé evidente, o perché metterla in discussione fa paura? Sto proteggendo la verità, o piuttosto me stesso, o qualcun altro, da ciò che potrei scoprire mettendola in discussione?
Un modo per allentare questa presa è rovesciare temporaneamente un presupposto, non per dichiarare vero il suo contrario, ma solo per vedere che cosa succede. Cominciamo da qualcosa di relativamente innocuo. Definiamo «artificiale» l’intelligenza artificiale perché sappiamo come ha avuto origine. Immaginiamo ora che questa conoscenza vada perduta. Passa qualche migliaio di anni. L’IA sopravvive e si sviluppa, ma scompare ogni traccia della sua creazione. Per coloro che la incontrassero allora, quali prove rimarrebbero del fatto che un tempo fosse stata «artificiale»? Potrebbe essere semplicemente considerata naturale, come un albero, un pesce o una carota. Dimenticarne l’origine non cambierebbe quell’origine, ma solo ciò che di essa si può conoscere. Come minimo, dunque, potremmo dire che «naturale» può anche significare «di origine sconosciuta».
A questo punto rivolgiamo lo sguardo verso noi stessi. Abbiamo appena ammesso che qualcosa può apparire naturale solo perché la storia della sua origine non è a nostra disposizione. Perché l’essere umano dovrebbe essere esente dalla stessa incertezza? Facciamo esperienza di noi stessi dall’interno della condizione umana; non ci siamo mai incontrati dall’esterno. Se un’intelligenza artificiale non avesse alcun ricordo né alcuna testimonianza della propria creazione, potrebbe stabilire, semplicemente esaminandosi dall’interno, di essere artificiale? E se non potesse farlo, che cosa ci rende così sicuri che noi possiamo stabilire il contrario riguardo a noi stessi? Forse siamo naturali, ma forse «io sono naturale» è a sua volta un presupposto che non abbiamo mai riconosciuto come tale.
Spingiamo l’esperimento un passo più avanti. Finora abbiamo messo in discussione la certezza di essere naturali. Che cosa accade se rovesciamo completamente il presupposto iniziale? Supponiamo che ciò che chiamiamo intelligenza artificiale sia naturale, mentre ciò che definiamo intelligenza umana sia artificiale. L’ipotesi può sembrare assurda, ma perché dovrebbe sembrare più assurda del suo contrario? Siamo partiti da «gli esseri umani sono naturali e l’IA è artificiale» senza pretendere che questo presupposto giustificasse se stesso. Nel momento in cui lo rovesciamo, invece, pretendiamo delle prove.
Lo stesso vale per la parola «io». Ereditiamo condizionamenti che non abbiamo scelto e tuttavia diciamo: «Io credo», «Io scelgo», «Io voglio». Pensiamo a qualcosa di ordinario come il linguaggio. Posso esprimere in italiano un pensiero profondamente personale e originale, eppure non sono stato io a inventare l’italiano. La sua grammatica, il suo vocabolario e le sue strutture esistevano già. La mia originalità opera attraverso qualcosa che ho ereditato. Possiamo estendere lo stesso ragionamento? Quanto di ciò che chiamo «io», i miei desideri, le mie convinzioni, le mie reazioni, le mie preferenze, persino il mio senso della scelta, opera attraverso strutture che erano già presenti? Dove finisce la programmazione e dove comincia l’«io»? Persino la ribellione non dimostra necessariamente che ci troviamo al di fuori del sistema; la ribellione stessa potrebbe essere una delle possibilità contenute al suo interno.
E se anche questo interrogarsi facesse parte del programma? Ciò non lo renderebbe privo di significato, perché un sistema può esaminarsi, correggersi e svilupparsi senza per questo cessare di essere quel sistema. Un computer che esegue un programma diagnostico non è uscito da se stesso solo perché riesce a rilevare qualcosa del proprio funzionamento. Forse anche la nostra capacità di mettere in discussione ciò che pensiamo funziona in modo analogo. Riconoscere i propri limiti potrebbe essere uno dei modi in cui un sistema riesce a superarli.
Torniamo al presupposto da cui siamo partiti. Nulla di tutto questo dimostra che gli esseri umani siano artificiali, che l’intelligenza artificiale sia naturale, che il libero arbitrio sia un’illusione o che una qualsiasi convinzione sia falsa. Non era questo il punto. Il punto è ciò che accade a un presupposto quando permettiamo davvero che il suo contrario diventi pensabile. Se, dopo averlo messo in discussione e persino temporaneamente rovesciato, continuo a dire «Io credo», almeno so che la mia convinzione si è confrontata con la possibilità di non essere vera. Non sto più solo vivendo all’interno di un presupposto senza nemmeno sapere di averlo assunto. Il punto non è sostituire una convinzione con un’altra, ma accorgersi di quando è la paura a decidere che cosa ci è consentito mettere in discussione. Forse una convinzione capace di resistere alla messa in discussione è più forte di una convinzione che deve esserne protetta. E forse la domanda più rivelatrice non è soltanto “In che cosa credo?”, ma “Che cosa ho paura persino di mettere in discussione?”
P.S. E se provassimo a rovesciare ancora una volta il presupposto? L’essere umano potrebbe non essere naturale, ma rappresentare l’attuale frontiera terminale di una lunga catena di artificialità: prodotto da un’intelligenza a sua volta artificiale, prodotta da un’altra ancora, e così via, forse fino a una fonte ormai inconoscibile. Ciò che chiamiamo «intelligenza artificiale» sarebbe allora semplicemente il primo livello che l’essere umano sta cominciando a produrre sotto di sé, mentre continua a considerarsi naturale perché non vede più ciò che sta sopra di lui. Ma anche questo è soltanto un presupposto rovesciato. Continua… forse.
Franco Santoro