Roblox affirme avoir mis hors service un agent d’IA qui avait téléchargé des ressources 3D depuis Open3DLab et ses sites associés, et précise qu’aucune des données collectées ne sera utilisée à quelque fin que ce soit, y compris pour entraîner des modèles d’IA. L’entreprise a confirmé ces informations dans une déclaration à GameDeveloper.com après qu’Open3DLab a fait part de ses inquiétudes au sujet de cette activité de récupération de données.

Un porte-parole de Roblox a déclaré qu’un chercheur avait créé l’agent pour collecter des ressources 3D accessibles au public, mais que celui-ci avait récupéré par erreur du contenu d’Open3DLab et ne fonctionnait pas comme prévu. Roblox a indiqué renforcer les mesures de protection encadrant la conception et l’examen de tels agents.

L’administrateur d’Open3DLab, Salaryman, a déclaré que le robot d’exploration avait téléchargé 1 027 fichiers issus de 712 projets sur Open3DLab, SmutBase et SFMLab. Selon son témoignage, 117,4 Go de contenu provenaient des deux sites pour adultes. Il a indiqué que l’agent avait récupéré les instructions de leurs fichiers robots.txt sans les respecter, et qu’il avait également ignoré les conditions d’utilisation d’Open3DLab, qui interdisent la récupération automatisée de données.

Open3DLab a détecté le robot d’exploration pour la première fois le 18 octobre et a bloqué ses tentatives, puis a contacté le créateur de l’agent. Salaryman a déclaré que le robot avait repris la récupération de données le lendemain et que des informations présentes dans ses données indiquaient qu’il rassemblait des modèles destinés à un jeu de données d’entraînement pour l’IA.

L’incident a suscité des inquiétudes quant à la possibilité que des contenus pour adultes intègrent les données d’entraînement d’outils servant à créer des ressources sur Roblox. Salaryman a fait valoir que les modèles peuvent reproduire des motifs présents dans leurs données d’entraînement et a déclaré que la collecte de contenu sans distinction des contenus pour adultes soulevait des questions quant aux mesures de protection. Roblox a affirmé que les données téléchargées n’avaient été utilisées ni pour l’entraînement ni à aucune autre fin.

Sources: Game Developer.