Twitch usa il Maching Learning per individuare gli utenti bannati che tornano in chat

Twitch ha appena rilasciato un tool che utilizza l’apprendimento automatico (machine learning) per rilevare gli utenti che tentano di rientrare nelle chat da cui sono stati bannati per comportamento offensivo.

La piattaforma di live streaming dedicato al gaming ha affermato che gli utenti già bannati una volta hanno provato ad aggirare i controlli di Twitch creando nuovi account per continuare a molestare altri utenti.

Ma il nuovo sistema rilasciato da poche ora riesce ad avvertire gli streamer e i moderatori di chat se un determinato utente è un “probabile” o “possibile” aggiratore di ban.

Questa nuova tecnologia impiegata rientra in una strategia a lungo termine di Twitch per ridurre il clima di odio e le molestie che troppo spesso sorgono durante le dirette.

Incitamento all’odio

La società è stata criticata per “incitamento all’odio”, nel momento in cui si è scoperto che alcuni streamer senza scrupoli inviavano i propri followers o persino bot automatizzati su altri canali per molestare altri utenti.

Spesso le vittime appartengono a minoranze o gruppi emarginati.

I creators avevano chiesto alla società di proprietà di Amazon di fare qualche passo in più per contrastare questo tipo di incitamento all’odio.

A settembre 2021, Twitch ha annunciato la “chat verificata dal telefono”, consentendo agli streamer di richiedere ad alcuni o a tutti gli utenti di verificare un numero di telefono prima di chattare.

E lo stesso mese ha avviato un’azione legale contro utenti non identificati, presumibilmente coinvolti in “attacchi basati su chat contro streamer emarginati”.

Ultimo avvertimento

Il nuovo sistema di rilevamento degli utenti sospetti è “alimentato dall’apprendimento automatico” e utilizza “una serie di segnali dell’account” per rilevare chi cercava di aggirare il ban.

Il “Machine learning” descrive quei sistemi informatici che, in effetti, “imparano dall’esperienza”.

Il nuovo sistema verrà attivato per impostazione predefinita, ma moderatori e creators possono modificarne le impostazioni o disattivarlo.

Questa funzione confronta una serie di fattori, tra cui il comportamento e le caratteristiche dell’account degli utenti che cercano di unirsi a una chat, con quelli degli account vietati e segnala i sospetti evasori del ban in due modi:

• Ban probabile: in tal caso i loro messaggi di chat verranno bloccati
• Ban possibile: in tal caso i loro messaggi verranno comunque visualizzati

“Nessun apprendimento automatico sarà mai accurato al 100%”, ha affermato Twitch, quindi i moderatori della chat avranno la possibilità di dare un ultimo avvertimento prima di lanciare un ban. In ogni caso questo strumento “imparerà dalle azioni intraprese e l’accuratezza delle sue previsioni dovrebbe migliorare nel tempo”.