Quel dialogo fra i robot bob e alice e il brivido che ha percorso il mondo

È la domanda che ci poniamo tutti: verrà un giorno in cui i robot diventeranno così potenti ed evoluti da ribellarsi ai comandi dell'uomo? Una questione che sino a ieri poteva sconfinare con la fantascienza, ma che da qualche giorno è entrata a buon diritto nel campo delle possibilità reali. La storia è nota: a Menlo Park, la futuristica sede di Facebook dove si fa anche ricerca sui “bot” (robot o sistemi di Intelligenza artificiale) qualche giorno fa alcuni sviluppatori hanno dovuto fare i conti con uno “sviluppo” imprevisto. Infatti stavano lavorando a un sistema in grado di simulare il nostro modo di conversare. Volevano che la persona che entrasse in dialogo con loro non capisse di avere a che fare con una macchina. In sostanza si tratta di “chatbot”, robot per le chat. È un’attività molto importante nella gestione dei social network, dove le chat che guidano gli utenti hanno attività intensissima. Per questo gli esperti di Facebook hanno programmato dei “bot” capaci di dialogare tra loro in inglese e condurre semplici conversazioni. A un certo punto però è successo che i due “bot”, ribattezzati “bob” e “alice” (proprio così senza le maiuscole...) hanno cominciato a parlare un nuovo linguaggio, inventato da loro, utilizzando le parole in un modo diverso rispetto a come erano impostati e ovviamente diverso anche dal nostro. Il giallo è stato presto risolto, ma comunque è rimasto un alone di sconcerto. Cos'era avvenuto? Gli sviluppatori non avevano imposto ai sistemi di dialogare esclusivamente in inglese. Non si è trattato di anomalie, bensì è probabile sia stata un’evoluzione voluta delle macchine, che appunto hanno una loro intelligenza, per rendere più efficace la loro comunicazione.

Immaginiamo la situazione. I programmatori nella simulazione avevano istruito i chatbot "bob" e "alice" affinché si mettessero d’accordo per dividersi un cappello, due libri e tre palloni. A un certo punto, però, la conversazione tra le due macchine ha preso una strana piega. E così hanno assistito a questo dialogo che per i “bot” aveva un senso ma per noi umani non ne ha.

Bob: «I can can I I everything else».
Alice: «Balls have zero to me to me to me to me to me to me to me to».

I ricercatori in realtà un sospetto alla fine non sono riusciti a cancellarlo: che le macchine abbiano seguito dei codici poco conosciuti all’uomo. In sostanza è possibile che i robot abbiano cambiato il loro linguaggio avendo trovato un sistema di comunicazione con cui potevano condurre la loro trattativa in modo più efficace. Hanno scoperto e impiegato un metodo più efficiente rispetto a quello convenzionale per utilizzare le parole. Di fatto, hanno inventato una nuova lingua.

Secondo gli ottimisti come l'ingegnere informatico Douglas Robertson che è stato intervistato dal quotidiano inglese The Indipendent, “bob” e “alice” non stavano mettendo a punto sinistre strategie di conquista ma stavano svolgendo semplicemente il compito che era stato assegnato loro dai ricercatori di Menlo Park.

Secondo i pessimisti invece siamo di fronte ad un episodio che ci deve allarmare, come ha spiegato Kevin Warwick, grande esperto di robotica: «Questa rappresenta una pietra miliare per la scienza ma chi dice che non costituisce un pericolo nasconde la testa sotto la sabbia». Secondo il professore è pericoloso che due macchine possano entrare in contatto tra loro senza la presenza e il pieno controllo di un essere umano. Se pensiamo che questo potrebbe accadere in campo militare, possiamo ben capire che è legittimo essere preoccupati...