Google, OpenAI, Roblox e Discord hanno fondato ROOST (Robust Open Online Safety Tools), un’organizzazione no-profit dedicata a migliorare la sicurezza online dei minori.
L’obiettivo principale è quello di rendere più accessibili gli strumenti di protezione online, fornendo soluzioni basate sull’intelligenza artificiale per identificare e segnalare contenuti pericolosi, tra cui, ma non solo, il materiale di abuso sessuale su minori (CSAM).
Non è una novità la crescente preoccupazione dell’IA generativa applicata nei più disparati settori digitali, ed è per questo che è nata ROOST. Eric Schmidt, ex CEO di Google e partner fondatore del progetto, ha rimarcato la necessità di accelerare lo sviluppo di tecnologie volte alla salvaguardia dei minori online. Si tratterebbe principalmente di rendere accessibili gli strumenti utili al rilevamento di contenuti inappropriati a tutte le aziende, seguendo quindi una linea di massima solitamente riferita come open-source.
ROOST atterra in un momento di forte dibattito sulla protezione dei minori che spesso si trovano a navigare troppo autonomamente e indipendentemente le varie piattaforme digitali. Secondo il National Center for Missing and Exploited Children (NCMEC), tra il 2022 e il 2023 si è registrato un aumento del 12% nei casi sospetti di sfruttamento minorile. In particolare, Roblox e Discord sono stati entrambi criticati per la carenza nel garantire un ambiente sicuro ai più giovani, con segnalazioni di abusi e interazioni non controllate tra adulti e bambini.
Tra i contributi specifici, Discord metterà a disposizione Lantern, un progetto di condivisione multipiattaforma di informazioni sulla sicurezza, mentre Roblox probabilmente fornirò i suoi strumenti di IA per l’analisi di contenuti audio sospetti. La speranza è quella di riuscire a creare un’infrastruttura di sicurezza più trasparente e inclusiva.
Voi cosa ne pensate? Vi sembra che Roost abbia altre finalità oppure i valori a cui si appella sono nobili e validi? Fateci sapere le vostre opinioni con un commento qui sotto.
