Tecnologia

Algoritmi (e buon senso) contro i cyberbulli. I software che…

sicurezza

Algoritmi (e buon senso) contro i cyberbulli. I software che difendono i minori

Uno sforzo collettivo, fatto di informazione e cultura, ma anche di tecnologie. Il cyber bullismo è un fenomeno preoccupante, ed è per questo che i grandi player dell'industria tech si stanno muovendo alla ricerca di soluzioni che possano contrastarlo. Da Facebook a Google, l'intento è quello di utilizzare algoritmi intelligenti in grado di individuare chat fra adolescenti dai contenuti pericolosi e far scattare l'allarme. Ma prima di approfondire quali sono le direttrici tecnologiche più battute, è necessario fare alcune considerazioni.

Il bullismo esisteva già, prima che esplodesse Internet. Ed esiste oggi. Sono le dinamiche ad essere diverse. Il cyber bullismo può essere considerato, a tutti gli effetti, un'evoluzione digitale del bullismo. Una mutazione che, a conti fatti, ha peggiorato le cose. E il motivo è abbastanza palese: il bullismo 1.0 era limitato a determinati luoghi e orari (a scuola, al parco con gli amici). Il cyber bullismo, invece, dilaga senza soluzione di continuità. Quello che succede tra i banchi di scuola prosegue sulle piattaforme di messaggistica istantanea come WhatsApp fino a notte, e l'adolescente bullizzato continua ad essere perseguitato anche quando è fra le mura domestiche. A raccontarlo sono le cronache, sempre più dense di storie che hanno a che fare con gruppi di chat sui quali succede di tutto.

Arginare il fenomeno, come detto, è una mission condivisa. Google sta lavorando già da qualche mese a una tecnologia testata insieme al New York Times e Wikipedia. Si chiama Perspective, ed è basata su algoritmi di machine learning. L'intento è quello rendere intelligente le macchine - che apprendendo da migliaia di chat e conversazioni online - così che possano individuare i commenti violenti. Il vero punto di forza di Perspective, nata all'interno di un incubatore di Google che si chiama Jigsaw, è la possibilità di interfacciare le sue Api con qualsiasi piattaforma online. Che sia un social network o un'applicazione di messaggistica istantanea, non fa differenza, dunque.

Anche Facebook, terreno minato per quanto riguarda il cyber bullismo, è al lavoro per nuovi strumenti in grado di individuare chat e contenuti pericolosi. Il lavoro degli ingegneri di Menlo Park è fondamentale, in questo senso. L'impero di Zuckerberg è quello maggiormente contaminato, considerato che oltre a Facebook anche WhatsApp e Instagram fanno capo alla stessa società. Qualche giorno fa il Guardian ha pubblicato quelle che sono le linee guida del social network. Una sorta di manuale che i moderatori devono seguire, in particolare per valutare questioni come la violenza, l'odio, il terrorismo, la pornografia, il razzismo e l'autolesionismo.

«Facebook non riesce a controllare i sui contenuti. - spiega il Guardian riportando la dichiarazione di una fonte anonima - È diventato troppo grande e troppo in fretta». E per questo motivo, oggi i moderatori si sentono sopraffatti dal volume del lavoro, e «spesso hanno solo 10 secondi per prendere una decisione». Dai file esaminati dal Guardian si desume che Facebook accetti che «la gente usa un linguaggio violento per esprimere la propria frustrazione online» e che «deve poterlo fare» sul sito. La convinzione di Zuckerberg e dei suoi è che «non tutti i contenuti non condivisibili o sgradevoli violano i nostri standard di comunità». Relativamente al cyber bullismo, però, la prassi è questa: «Alcune foto di abusi fisici non sessuali e di bullismo nei confronti di bambini non devono essere eliminati a meno che non ci sia un elemento sadico o celebrativo». Allo stesso tempo, però, il social network lavora quotidianamente ad una piattaforma ad hoc, chiamata Bullying, sviluppata in collaborazione con lo Yale Center for Emotional Intelligence. Si tratta di un sistema di prevenzione contro il bullismo made in Facebook che offre programmi dettagliati, incluse indicazioni su come cominciare conversazioni importanti per persone vittime di bullismo, genitori il cui figlio è stato vittima di bullismo o accusato di bullismo e insegnanti che hanno avuto studenti coinvolti in atti del genere.

La strada verso una Rete sicura e al riparo dai cyber bulli è lunga e tortuosa, e forse l'obiettivo finale è irrealizzabile. Ma la tecnologia ha un ruolo determinante, e l'impressione è che possa far molto.

© Riproduzione riservata