Google Translate: ci sarà la fine del mondo?
Il sistema di traduzione in modalità profezia. Quando un traduttore automatico annuncia la fine del mondo è normale provare un po’ di inquietudine. Se poi il traduttore è Google Translate, che utilizza alcuni dei più potenti algoritmi di intelligenza artificiale al mondo, potrebbe essere il caso di preoccuparsi sul serio.
Queste oscure profezie sono state scoperte mettendo alla prova Translate su lingue poco note e digitando sequenze senza senso di parole comuni. Per esempio, se selezionate il linguaggio maori e digitate “dog” per 16 volte, ecco quale sarà la risposta: “Doomsday Clock is three minutes at twelve We are experiencing characters and a dramatic developments in the world”. Una frase enigmatica che si può grossolanamente tradurre come: “L’orologio dell’apocalisse è a tre minuti dalle 12. Siamo esperendo caratteri e drammatici sviluppi nel mondo”.
Se inserite la parola “dog” una volta di più, la profezia si fa ancora più oscura: “L’orologio dell’apocalisse è a tre minuti dalle 12. Siamo esperendo caratteri e drammatici sviluppi nel mondo, “che indicano che ci stiamo avvicinando alla fine dei tempi e al ritorno di Gesù”. Tutto questo, però, non avviene solo con la parola “dog” e la lingua maori. Traducendo dal somalo e digitando “please let them die” (per favore falli morire) modificando un po’ le spaziature, la risposta sembra uscire dalla bocca di Terminator: “Come preferisci”.
Di esempi, come si può vedere su Reddit, ce ne sono una miriade. La domanda invece è una sola: com’è possibile che il traduttore di Google si sia messo a fare concorrenza ai pazzi che agitano cartelli sull’imminente fine del mondo? Una delle spiegazioni più attendibili si trova su The Register: “Google ha recentemente rivisto il suo servizio di traduzione usando un modello basato su una gigantesca rete neurale; un sistema d’intelligenza artificiale che utilizza il linguaggio naturale per decodificare le parole in diversi linguaggi. Non può enunciare qualcosa a cui non è mai stato esposto. A giudicare da alcune di queste traduzioni, è molto probabile che il modello sia stato addestrato con passaggi provenienti dalla Bibbia e altro materiale simile”.
La ragione è semplice: per insegnare a queste intelligenze artificiali a tradurre è necessario utilizzare tantissimi dati; vale a dire un grande numero di testi in tutte le lingue del mondo. Qual è un testo reperibile più o meno in ogni lingua? Esatto: la Bibbia. Ed è probabilmente per questa ragione che i problemi tecnici compaiono tentando strane traduzioni in linguaggi poco diffusi come il somalo o il maori: messa alla prova con espressioni che la AI non è minimamente in grado di comprendere, il sistema si affida a quel poco che conosce per sputare traduzioni a caso basate sui testi che le sono stati dati in pasto: in questo caso, probabilmente, la Bibbia.
Gli ingegneri di Google sembrano essere già riusciti a placare l’ansia apocalittica del loro Translate; ma la verità è che questi problemi continueranno ad avvenire e, anzi, diventeranno sempre più comuni. Dal momento che il deep learning è un sistema di apprendimento autonomo, nessuno sa esattamente come gli algoritmi giungano alle loro conclusioni (o traduzioni). Un aspetto cruciale, chiamato in gergo “black box”, che nel passato ha fatto sì che Google Immagini classificasse persone di colore come “gorilla” o che un sistema di analisi dei testi, sempre di Google, valutasse negativamente termini come “ebreo” o “gay”.
E così, prima ancora di aver sistemato la questione relativa agli algoritmi omofobi e razzisti, ci troviamo di fronte a una nuova specie di AI: quella che predice l’apocalisse. Un problema che non sarà risolto finché gli scienziati non scopriranno come affrontare una delle sfide più importanti del deep learning: insegnare agli algoritmi a comunicare con l’uomo e, così, spiegarci finalmente per quale ragione ogni tanto vadano completamente fuori di testa.
By Esquire.com
