Facebook utilizza i bot per prevedere e prevenire comportamenti scorretti

Nonostante i molti sforzi di Facebook, i cattivi attori in qualche modo riescono sempre a filtrare attraverso le sue garanzie e politiche. Il social network sta ora sperimentando un nuovo modo per rafforzare i suoi muri anti-spam e prevenire comportamenti scorretti che potrebbero potenzialmente violare le sue protezioni: un esercito di bot.

Facebook afferma che sta sviluppando un nuovo sistema di bot in grado di simulare comportamenti scorretti e sottoporre a stress test la sua piattaforma per scoprire eventuali difetti e scappatoie. Questi robot automatici vengono addestrati e insegnati come comportarsi come una persona reale utilizzando il tesoro di modelli di comportamento che Facebook ha acquisito dai suoi oltre due miliardi di utenti.

Per garantire che questo esperimento non interferisca con gli utenti reali, Facebook ha anche costruito una sorta di versione parallela del suo social network. Qui, i robot vengono lasciati liberi e possono correre in modo sfrenato: possono scambiarsi messaggi, commentare post fittizi, inviare richieste di amicizia, visitare pagine e altro ancora. Ancora più importante, questi robot AI sono programmati per simulare scenari estremi come la vendita di droghe e armi per testare come gli algoritmi di Facebook tenterebbero di prevenirli.

Facebook afferma che questo nuovo sistema può ospitare "migliaia o addirittura milioni di bot". Dal momento che viene eseguito sullo stesso codice che gli utenti sperimentano effettivamente, aggiunge che "le azioni dei bot sono fedeli agli effetti che sarebbero testimoni di persone reali utilizzando la piattaforma".

"Sebbene il progetto sia in una fase di sola ricerca al momento, la speranza è che un giorno ci aiuterà a migliorare i nostri servizi e individuare potenziali problemi di affidabilità o integrità prima che influenzino le persone reali che utilizzano la piattaforma". ha scritto il responsabile del progetto, Mark Harman in un post sul blog.

Al momento non è chiaro quanto sarà efficace il nuovo ambiente di simulazione di Facebook. Come ha detto Harman, è ancora nelle fasi iniziali e la società non ha ancora utilizzato nessuno dei suoi risultati per gli aggiornamenti rivolti al pubblico. Negli ultimi anni, il social network ha investito e supportato attivamente la ricerca basata sull'intelligenza artificiale per sviluppare nuovi strumenti per combattere molestie e spam. Alla conferenza annuale degli sviluppatori di due anni fa, Mark Zuckerberg ha annunciato che la società sta creando strumenti di intelligenza artificiale per affrontare i post che presentano contenuti terroristici, incitamento all'odio, spam e altro.