Segnaletica stradale a Sabaudia (foto del sindaco Giada Gervasi)

La stupidità artificiale

«Come se gli oggetti più intelligenti del futuro non fossero più quelli che non fanno errori, ma quelli che li sanno fare nel modo giusto. Come se la frequentazione tra umani e oggetti, alla lunga, allenasse gli oggetti a comportarsi come umani e non viceversa»

Segnaletica stradale a Sabaudia (foto del sindaco Giada Gervasi)

Nel frattempo gli oggetti erano andati al potere.
La loro prima vittoria era stata il superamento del concetto di utilità, piano piano avevano occupato anche gli spazi più nascosti delle nostre case, e da lì ci spiavano.
Nessuno se n’era accorto all’inizio, anzi, la loro silenziosa presenza sembrava piacevole e confortante, era difficile intuirne il senso sovversivo.
Dopo anni di schiavitù gli oggetti tentavano la strada del dominio.
Nessuno aveva compreso il loro piano diabolico […] Cosa poteva fare l’uomo, così fragile, così disfunzionale?
Giorgio Gaber, Gli Oggetti

Un gioco divertente che non ho mai fatto, e che ogni tanto rientra in circolo su Twitter, chiede ai partecipanti quale frase scriverebbero per far capire ai propri conoscenti di essere stati rapiti dagli alieni, senza dirlo. Le risposte più riuscite sono non solo affermazioni paradossali, inverosimili per chi le pronuncia, ma contengono anche degli errori. Sono bugie e sbagli intenzionali: il fumettista che dice di tenersi pure quell’introvabile edizione di Topolino Noir che ha prestato in giro, ma scrive “nuar”, mettendo un errore nel tweet, come quelli che scrivono Slavini o Salv1n1 per non farsi trovare con un “cerca” qualsiasi; l’intellettuale che sbaglia clamorosamente un congiuntivo; la seducente quarantenne che posta un’immagine brutta immortalata per sbaglio (troppo facile se no) della sua cellulite o di una caccola che pende dal naso (temo che prima che questo succeda, tuttavia, faremmo in tempo a essere trasferite tutte su Saturno), eccetera. Mi affascina l’idea che per far capire che siamo umani in contatto con alieni, dobbiamo sbagliare o fare quello che altri giudicherebbero come un errore, qualcosa di vergognoso: “ti hanno hackerato l’account?”, “no, mi hanno rapito gli alieni!”.

Eppure, quando quelle due o tre volte al giorno dobbiamo dimostrare ai nostri computer di non essere dei robot, ci vengono fatte domande semplicissime, che è praticamente impossibile sbagliare, e che poi puntualmente rischiamo di sbagliare proprio perché ci sembrano troppo semplici e cerchiamo un trucco che non c’è: riscrivere una stringa di caratteri, cliccare sulle caselle di immagini in cui si vedono le strisce pedonali, rispondere a domande perverse che a un certo punto ci siamo voluti fare da soli (tipo il nome del primo ragazzo a cui hai dato un bacio… con relativo “oddio, quando ho impostato la domanda avrò risposto la verità o la verità che sanno tutti così se un giorno dovessero rapirmi gli alieni bla bla bla?”). A volte mi capita di chiedermi perché, piuttosto, non ci pongano un calcolo molto complicato da risolvere in un dato tempo e che solo un computer saprebbe fare, proprio per l’idea che il modo più immediato di distinguere gli umani dai robot è che i primi sbagliano, laddove i secondi tenderanno a cercare di dare la risposta giusta.

Ho immaginato che questo non succeda, che umani e robot, umani e alieni, umani e oggetti si sfidino a dare la risposta giusta a una soluzione complicata, non tanto perché l’uomo potrebbe riuscire a darla correttamente, ma perché robot, alieni e oggetti potrebbero sbagliare, intenzionalmente o no. Già succede con Google Translator che più viene usato più impara dai nostri sbagli: diventando esperto a riconoscere il contesto, aggirare traduzioni letterali, interpretare, e quindi anche ammettere di sbagliare.

Qualche settimana fa ho intervistato un ex meccanico di Olivetti, che negli anni Ottanta lavorava sui primi calcolatori elettronici. Durante uno dei corsi di formazione ELEA che l’azienda forniva ai suoi operai, un insegnante, ingegnere informatico, chiese a lui e i suoi colleghi una definizione di computer e, dopo aver accolto e liquidato tutte le ipotesi futuristiche degli allievi, diede la propria: “il computer è uno stupido veloce”. Da quando i computer facevano all’incirca le stesse cose che facevano gli umani, ma molto più rapidamente, ne è stata fatta di strada: alla fine forse in certe cose gli umani, delegando ai computer, sono diventati più stupidi? Non lo so. Di certo i computer sono diventati più intelligenti. Ho provato allora a pensare quale potrebbe essere la prossima evoluzione di questa intelligenza che ambisce a sostituirsi all’uomo: e se fosse nell’imparare a sbagliare, proprio come noi? Come se la sfida del futuro tra umani e computer non si giocasse più su chi dà la risposta giusta, ma su chi sbaglia meglio. Come se gli oggetti più intelligenti del futuro non fossero più quelli che non fanno errori, ma quelli che li sanno fare nel modo giusto. Come se la frequentazione tra umani e oggetti, alla lunga, allenasse gli oggetti a comportarsi come umani e non viceversa. Tornando tutti a essere stupidi, più o meno veloci.

Sono ipotesi sulle quali lavorano gli scienziati e gli scrittori di fantascienza fantasticano già da un bel po’. E questa, la fantasia degli umani, potrebbe darci un vantaggio. Ma la verità è che anche gli oggetti analogici già da tempo contengono errori appositi. Da una parte ci sono le cose progettate già con un timer che programma la loro fine: il più famoso esempio che si porta quando si parla di obsolescenza programmata è quello dei collant di nylon che sarebbero fatti apposta per smagliarsi velocemente richiedendo un cambiamento continuo sul quale i produttori hanno solo da guadagnare. E non è una colpa del materiale impiegato, come erroneamente siamo stati indotti a pensare: oggi vengono fatti pavimenti col nylon, e non mi viene in mente nulla di più resistente di un pavimento. Dall’altra ci sono oggetti che per migliorare la loro performance devono ridurre la performance che potrebbero avere, oggetti che per adeguarsi ai limiti umani, devono limitarsi. Gomme di pneumatici un po’ sgonfiate per migliorare l’attrito su certi manti stradali o in determinate condizioni meteorologiche; fori di saliere non perfettamente lucidati per ridurre un’emissione eccessiva del contenuto; un oggetto qualunque che avete in tasca in questo momento (le chiavi dell’auto? Il telefono?) che con le tecnologie attuali potrebbe essere ben più piccolo e più leggero, ma questo renderebbe molto più complicato rinvenirlo nella borsa o accorgersi di averlo appunto in tasca, o banalmente maneggiarlo.
Pensate alle tastiere su cui scriviamo (QWERTY), nate con questo ordinamento dalle prime macchine per scrivere (QZERTY) al fine di evitare che i martelletti si sovrapponessero nella battitura rapida di caratteri o gruppi di caratteri usati frequentemente. Già August DVORAK negli anni Trenta, e poi MALTRON negli anni Ottanta avevano studiato raggruppamenti che permettevano di “saltare” duecentocinquantasei volte in meno da una fila di tasti all’altra per scrivere (320 volte il sistema Maltron contro le 82.000 della tastiera QZERTY). Ma ormai era troppo tardi per modificare uno standard consolidato da milioni di utenti sul mercato mondiale. E oggi è ancora in uso, anche se non abbiamo più l’inghippo della sbavatura dell’inchiostro, e potremmo essere molto più veloci nella digitazione. Altro esempio tipico attuale è l’inserimento di rumori che simulano quelli a cui siamo abituati nelle macchine elettriche per permetterci di accorgerci del loro passaggio: il silenzio, che è tra le qualità più apprezzate da chi le guida, è anche la minaccia peggiore per chi non le guida e non ne avverte l’avvicinamento: e quindi, anche potendolo risparmiare, un rumore va prodotto. Oppure pensate a tutte le volte che, alle prese con il tappo di un flaconcino di medicinale particolarmente duro, imprecate che è fatto male e che i produttori hanno sbagliato qualcosa: e invece è fatto apposta così, per cautela. Si dice delle cose che sono facili “le può usare anche un bambino”: ecco, certe volte sono difficili apposta perché un bambino non possa usarle. (Inutile dire che questo non esclude che certe volte le cose siano fatte male e basta, ma a scanso di equivoci, diciamolo ancora).

Questo succede agli oggetti fatti dall’uomo, che vive nell’illusione di poterli controllare, coi propri sbagli, fatti volontariamente o meno, messi nelle cose intenzionalmente o meno. Ma un giorno che è già qui, succederà con oggetti che fanno in modo autonomo altri oggetti; succederà che gli oggetti che fanno altri oggetti, le macchine che fanno altre macchine, i robot che fanno altri robot, acquisiranno anche l’ultima abilità per sostituirsi definitivamente a noi e prendere il potere: quella di commettere errori, inserire sbagli, volontariamente o meno, diventare allora, come dice Gaber, “fragili e disfunzionali” come l’uomo (e la donna, ma più l’uomo).

Chiara Alessi
Chiara Alessi è esperta e critica di design. Nel 2021 ha pubblicato Tante care cose (Longanesi).