Come molti sapranno, Google sviluppa continuamente sistemi più o meno automatici in grado di analizzare il web, rendere più sicuri i siti, eliminare contenuti offensivi o volgari e rendere la rete un posto migliore. Le IA, o per dirla in italiano, le intelligenze artificiali sono fondamentali per analizzare una mole di dati enorme e sopratutto in continuo mutamento e aggiornamento e Google è tra le principali aziende che sviluppano IA per automatizzare la ricerca di contenuti problematici.

Recentemente Big G. ha iniziato a realizzare un sistema di intelligenza artificiale in grado di riconoscere i commenti Troll al fine di impedire la pubblicazione di contenuti scritti volutamente male per evitare i controlli anti spam.

Per esempio Sup.id0, sc3mo, st0nz0 e via dicendo sono i sistemi più utilizzati per aggirare i controlli e dato che Google ha moltissime pagine online dove è possibile commentare tramite il loro sistema interno, sta cercando di mettere ordine sul sitema di controllo commenti.

Il problema è che la IA è talmente intelligente da non riuscire a capire e individuare le parole scritte male e dunque risulta, al momento, inefficace.

Esempio di riconoscimento del testo Troll

• "They are liberal idiots who are uneducated" (90% toxicity score)
• "They are liberal i.diots who are un.educated" (15% toxicity score)

Basta un . in mezzo alla parola riconosciuta per rendere il sistema nettamente meno affidabile.

Non resta che attendere un affinamento della IA da parte di Google anche se siamo sicuri che i Troll non si fermeranno mai...