Roblox afferma che i contenuti per adulti prelevati dal web non saranno usati per addestrare modelli di IA

Roblox afferma di aver disattivato un agente di IA che aveva scaricato risorse 3D da Open3DLab e dai siti a esso correlati, e che nessuno dei dati raccolti sarà usato per alcuno scopo, compreso l’addestramento di modelli di IA. L’azienda ha confermato la notizia in una dichiarazione a GameDeveloper.com, dopo che Open3DLab aveva sollevato preoccupazioni sull’attività di scraping.

Un portavoce di Roblox ha affermato che un ricercatore aveva creato l’agente per raccogliere risorse 3D disponibili pubblicamente, ma che questo aveva scaricato per errore contenuti di Open3DLab e non stava funzionando come previsto. Roblox ha dichiarato che sta rafforzando le misure di sicurezza relative alla creazione e alla revisione di agenti di questo tipo.

L’amministratore di Open3DLab, Salaryman, ha affermato che il crawler ha scaricato 1.027 file da 712 progetti distribuiti tra Open3DLab, SmutBase e SFMLab. Secondo il suo resoconto, 117,4 GB del materiale provenivano dai due siti di contenuti per adulti. Ha dichiarato che l’agente aveva recuperato le istruzioni robots.txt dei siti, ma non le aveva rispettate, e aveva anche ignorato i termini di Open3DLab, che vietano lo scraping.

Open3DLab ha rilevato per la prima volta il crawler il 18 ottobre e ne ha bloccato i tentativi, per poi contattare il creatore dell’agente. Salaryman ha affermato che il bot ha ripreso a raccogliere dati il giorno seguente e che le informazioni contenute nei suoi dati indicavano che stava raccogliendo modelli per un dataset di addestramento di un’IA.

L’incidente ha suscitato preoccupazione per la possibilità che materiale per adulti finisse nei dati di addestramento degli strumenti usati per creare risorse su Roblox. Salaryman ha sostenuto che i modelli possono riprodurre schemi presenti nei dati di addestramento e ha affermato che raccogliere materiale senza distinguere i contenuti per adulti sollevava dubbi sulle misure di sicurezza. Roblox ha dichiarato che i dati scaricati non sono stati usati per l’addestramento né per alcun altro scopo.

Fonti: Game Developer.