Un esperimento che coinvolgeva dei bot Facebook si trasforma in una sensazionale bufala!
Ieri è circolata la notizia che Facebook avrebbe soppresso due robot che aveva creato perché avevano sviluppato un linguaggio proprio, incomprensibile per gli umani, e che gli esperti al soldo di Zuckemberg avevano considerato come un pericoloso passo avanti nell’evoluzione delle IA.
Nel leggere questa notizia, inizialmente sono stato decisamente colpito, ma anziché iniziare ad urlare per strada che Skynet stava per prendere il controllo del mondo intero mi sono soffermato un secondo a riflettere sulla notizia.
Perché Facebook avrebbe dovuto costruire dei robot? Mentre gran parte delle testate giornalistiche lanciava questa sensazionale notizia, mi sono fatto un giro in internet per scoprire quando ci fosse di vero e dire che è stata un’esagerazione è un eufemismo!!
Tutto nasce dalla non competenza (che chiamarla ignoranza sarebbe offensivo e poco politically correct) di alcuni giornalisti che non conoscono la differenza che passa tra un bot ed un robot, e a cui consiglieri prima di scrivere certe notizie acchiappaclick di informarsi approfonditamente.
Su Fast.co viene presentato un articolo in cui si spiega come i laboratori di Facebook abbiano visto due bot, usati in un esperimento, generare una sorta di nuovo linguaggio incomprensibile agli umani.
Questi due bot Facebook erano stati creati per contrattare con utenti umani il prezzo più favorevole per un bene od un servizio, oltre a scoprire dettagli utili per creare strategie di marketing. Parte di questa sperimentazione consisteva nel fare interagire questi due bot, i quali hanno iniziato a dialogare tra loro, con una sintassi (inglese) pressoché incomprensibile.
Non è stata la creazione di un nuovo linguaggio, ma i due bot, fedeli alla loro programmazione, hanno rimosso dalle loro interazioni, rispondendo ai protocolli degli algoritmi su cui si basa il loro funzionamento, quelle parole inutili e non necessarie alla “trasmissione del messaggio” e al diavolo la grammatica, visto che non era uno dei parametri di programmazione.
Quando gli esperti se ne sono accorti, non li hanno interrotti perché terrorizzati dall’idea di aver generato un Frankenstein digitale, ma per correggere il difetto di programmazione che li liberava dai limiti delle regole grammaticali.
“Non era prevista alcuna limitazione per rimanere legati alla lingua inglese” spiega Dhruv Batra, del Georgia Tech, parte del programma FAIR (Facebook AI Research).
Questi due bot Facebook erano stati messi in competizione ed ognuno cercava di ottenere un vantaggio sull’altro, ma non erano previsti incentivi per attenersi alla perfetta grammatica: quindi hanno tenuto fede alla loro programmazione, generando frasi sempre più mirate al raggiungimento dello scopo.
I due bot hanno iniziato a virare lontano da un linguaggio comprensibile, inventando scorciatie per loro. Come se io dicessi ‘il’ cinque volte, e voi lo interpretaste come se io volessi quel particolare oggetto cinque volte. Non è poi così diverso dal modo in cui comunità umane creano dei modi di dire.
Peccato che questa spiegazione non fosse così interessante per acchiappare dei click, mentre sfruttare un elemento da fantascienza catastrofica post-apocalittica era sicuramente più coinvolgente.
Ancor più grave il fatto che una simile bufala sia stata così diffusa senza che nessuno si prendesse la briga di leggere bene l’articolo o anche solo domandarsi: ma un bot è un robot?
Abbiamo già visto come menti decisamente straordinarie abbiano una certa visione delle interazioni uomo-macchina (Elon Musk le teme, ad esempio), e come la fantascienza ci abbia mostrato spesso come la paura del diverso sia da combattere senza esserne schiavi (ricordate Asimov e i suoi robot?), l’ideale sarebbe che almeno i giornalisti, prima di scrivere certe scempiaggini, si informassero, usassero un gergo ad hoc e non cadessero nel facile sensazionalismo oppure, quando le IA saranno pronte a dominare la razza umana, potrebbero rimaner deluse dalla loro conquista!
Cosa ne pensate? Fatecelo sapere con un commento qui sotto!