immagine

L’intelligenza artificiale di Facebook parla una lingua incomprensibile, ma niente panico

Un esperimento interrotto all’improvviso ha generato inquietudine in Rete nelle ultime ore, ma quanto accaduto è perfettamente normale.

Sta agitando la Rete in questi giorni la notizia di due intelligenze conversazionali — due bot — attivati da Facebook e poi spenti in fretta e furia perché improvvisamente impazziti e diventati in grado di parlare e comprendersi in una lingua a noi sconosciuta. La storia è vera, ma i suoi risvolti non sono neanche lontanamente inquietanti come preconizzato da molti.

I due bot sono stati messi da Facebook uno davanti all’altro per portare a termine uno scenario di collaborazione ipotetico: la suddivisione di alcuni oggetti da portare a termine con una contrattazione uno contro uno. Nel corso dell’esperimento il dialogo è avanzato in inglese fino al momento in cui i due bot, chiamati Bob e Alice, non hanno iniziato a basare i propri scambi su una lingua deforme, non più normata dalle regole sintattiche che conosciamo e dunque più vicina a un idioma ignoto.

Facebook ha dovuto per questo staccare la spina all’esperimento e tanto sta bastando per gettare nel panico molti osservatori, preoccupati che l’intelligenza artificiale stia iniziando a cospirare contro di noi.

In realtà non c’è stato alcun intento rivoluzionario da parte di Bob e Alice, ma solo un errore di programmazione da parte dei ricercatori che, anziché costringere i bot a mantenersi nei binari di un inglese comprensibile dagli umani, si sono limitati a implementare questa istruzione come una strategia di comunicazione preferibile ma facoltativa.

I bot sono stati così lasciati liberi di ispirarsi uno all’altro, trovando più semplice e meno ambiguo deviare dal lessico e dalla sintassi umani per iniziare a ripiegare su un’alternativa più efficiente.

Il processo in realtà è simile a quello che ha luogo anche nelle comunità umane, che da sempre inventano abbreviazioni e contratture che col tempo diventano comunemente accettate ma che grammaticalmente nascono scorrette; vederlo in azione a questa velocità e secondo criteri a noi incomprensibili può però risultare strano.

Sul perché il gruppo di ricerca di Facebook abbia interrotto l’esperimento in tronco, la risposta arriva dai responsabili: “lo scopo finale era ottenere bot in grado di contrattare con esseri umani”; era quindi essenziale che qualunque nozione imparassero su questo genere di interazioni fosse legata alla lingua inglese. I bot sono stati dunque riprogrammati con la clausola del linguaggio comprensibile inserita nel codice e le operazioni si sono concluse come voleva il gruppo di ricercatori.

L’estinzione della razza umana dunque è ancora relativamente lontana, anche se l’episodio sottolinea l’importanza di programmare questo tipo di algoritmi senza lasciare nulla al caso. In questa situazione una semplice trascuratezza ha portato a un fuori programma non da poco — due software che iniziano a sviluppare un linguaggio incomprensibile ai loro creatori. È esattamente questo il tipo di imprevisto che, secondo personalità più caute in questo ambito come Elon Musk e Stephen Hawking, potrebbe un giorno seppellirci tutti.

Wired.it – Lorenzo Longhitano – 1 AGO, 2017
(Foto: MANJUNATH KIRAN / Stringer / Getty Images)

Leave a comment

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *