Roblox répond au piratage qui a permis de violer l'avatar d'un enfant dans son jeu – TechCrunch – Un bon serveur Minecraft

Il y a une place spéciale en enfer pour les personnes qui pensent que c’est drôle de violer l’avatar d’une fillette de 7 ans dans un monde virtuel en ligne conçu pour les enfants. Oui, c'est arrivé. Roblox, un jeu en ligne extrêmement populaire pour les enfants, a été piraté par une personne qui a subverti les systèmes de protection du jeu afin de faire apparaître des animations personnalisées. Cela a permis à deux avatars masculins de violer en groupe un avatar de jeune fille sur un terrain de jeu d’un des jeux Roblox.

La société a à présent présenté des excuses à la victime et à sa communauté et a indiqué qu'elle avait déterminé comment le pirate informatique avait pu s'infiltrer dans son système afin de prévenir des incidents futurs.

La mère de l'enfant, dont l'avatar était la victime de l'agression sexuelle dans le jeu, se trouvait à proximité lorsque l'incident s'est produit. Elle dit que son enfant lui a montré ce qui se passait à l'écran et qu'elle a emporté l'appareil, heureusement, empêchant sa fille de voir l'essentiel de l'activité. La mère a ensuite capturé des captures d'écran de l'événement afin d'avertir les autres.

Elle a décrit l'incident dans un message public sur Facebook qui disait notamment:

Au début, je ne pouvais pas croire ce que je voyais. L’avatar de ma fille douce et innocente était violemment violé sur un terrain de jeu par deux hommes. Une observatrice s'est approchée d'eux et s'est mise à sauter sur son corps à la fin de l'acte. Puis les 3 personnages se sont enfuis, laissant l’avatar de ma fille étendu sur son visage au milieu de la cour.

Les mots ne peuvent décrire le choc, le dégoût et la culpabilité que je ressens en ce moment, mais j'essaie de mettre ces sentiments de côté pour pouvoir mettre cet avertissement à la disposition des autres dès que possible. Heureusement, j'ai pu prendre des captures d'écran de ce que je voyais afin que les gens se rendent compte à quel point cette expérience était horrible. * Captures d'écran dans les commentaires pour ceux qui peuvent le supporter * Bien que j'ai immédiatement réussi à empêcher ma fille de voir toute l'interaction, je frémis de penser au type de dommage que cette image pourrait avoir sur son psychisme, ainsi que sur tout autre enfant. qui pourraient potentiellement être exposés à cela.

Roblox a depuis publié une déclaration sur l'attaque:

La mission de Roblox est de susciter l’imagination et il est de notre devoir de fournir une plate-forme de jeu sûre et civile. La sécurité étant notre priorité absolue, nous disposons de systèmes robustes pour protéger notre plate-forme et nos utilisateurs. Cela inclut une technologie automatisée permettant de suivre et de surveiller toutes les communications entre nos joueurs, ainsi qu’une grande équipe de modérateurs qui travaillent sans relâche pour examiner tout le contenu téléchargé dans un jeu et enquêter sur toute activité inappropriée. Nous fournissons des contrôles parentaux pour permettre aux parents de créer l'expérience la plus appropriée pour leur enfant, et nous fournissons aux utilisateurs individuels des outils de protection, tels que la possibilité de bloquer un autre joueur.

L'incident impliquait un mauvais acteur capable de corrompre nos systèmes de protection et d'exploiter une instance d'un jeu exécuté sur un seul serveur. Nous avons une tolérance zéro pour ce comportement et nous avons immédiatement pris des mesures pour identifier comment cette personne avait créé l'action incriminée et mettre en place des mesures de protection pour empêcher que cela ne se reproduise. De plus, le délinquant a été identifié et banni de manière permanente de la plateforme. Notre travail en matière de sécurité est sans fin et nous nous engageons à faire en sorte qu'un individu ne gêne pas les millions d'enfants qui viennent à Roblox pour jouer, créer et imaginer.

Le moment de l’incident est particulièrement remarquable pour la plate-forme de jeu pour enfants, qui compte plus de 60 millions d’utilisateurs actifs par mois et qui est maintenant élevage jusqu'à 150 millions de dollars pour développer son activité. La société vole sous le radar depuis des années, tout en rassemblant discrètement un large public de joueurs et de développeurs qui construisent ses mondes virtuels. Roblox récemment a déclaré qu'il prévoyait de verser 70 millions de dollars à ses créateurs de contenu en 2018, soit le double de l'année dernière.

Roblox dispose d’un certain nombre de contrôles intégrés pour lutter contre les comportements indésirables, notamment un filtre de contenu et un système dans lequel les modérateurs vérifient les images, les fichiers vidéo et audio avant leur téléchargement sur le site de Roblox. Il propose également des contrôles parentaux qui permettent aux parents de décider qui peut discuter avec leurs enfants ou s'il peut les désactiver. Et les parents peuvent empêcher les enfants de moins de 13 ans d’accéder à autre chose qu’une liste organisée de jeux adaptés à leur âge.

Cependant, Roblox était également en train de transférer certains de ses anciens jeux générés par les utilisateurs vers un système plus récent et plus sécurisé. Le jeu piraté était l'un des nombreux jeux qui auraient pu être exploités de la même manière.

Depuis l'incident, Roblox a demandé à ses développeurs de supprimer tous les autres jeux potentiellement vulnérables et de demander à leurs créateurs de les transférer dans le système plus récent, plus fortifié. La plupart l'ont fait et ceux qui ne l'ont pas encore vu ne seront pas autorisés à revenir en ligne jusqu'à ce que cela se produise. Les jeux en ligne sont maintenant ne pas vulnérable à l'exploiter le pirate utilisé.

La société a réagi rapidement pour prendre des mesures, en mettant le jeu hors ligne, en interdisant le joueur et en contactant la mère – qui a depuis accepté d'aider Roblox à faire connaître les mesures de protection que les parents peuvent utiliser pour protéger les enfants de Roblox. .

Mais l'incident soulève des questions quant à savoir si les enfants devraient jouer à ce genre de jeux multijoueurs massifs à un si jeune âge.

Malheureusement, Roblox n’est pas étonné que quelqu'un se soit intéressé à un tel piratage.

En fait, YouTube regorge de vidéos de piratages et d’exploits pour viol de Roblox. La société envoie des demandes de retrait à YouTube lorsque des vidéos comme celle-ci sont publiées, mais YouTube n'agit que sur une fraction des demandes. (YouTube a ses propres problèmes de modération du contenu.)

Il est grand temps qu’il y ait dans le monde réel des conséquences sur les agressions dans le jeu qui peuvent avoir des conséquences psychologiques durables sur les victimes, lorsque ces victimes sont des enfants.

Roblox, pour sa part, est fortement impliqué dans les discussions sur ce qui peut être fait, mais le problème est complexe. Les lois de la COPPA empêchent Roblox de collecter des données sur ses utilisateurs, y compris leurs informations personnelles, car la loi vise à protéger la vie privée des enfants. Mais le revers de la médaille, c’est que Roblox n’a aucun moyen de traquer des pirates informatiques comme celui-ci.

«Je pense que nous ne sommes pas les seuls à nous interroger sur les défis à relever. Je pense que toutes les sociétés de plates-formes sont aux prises avec le même problème », déclare Tami Bhaumik, responsable du marketing et de la sécurité des communautés chez Roblox.

«Nous sommes membres du Family Online Safety Institute, qui regroupe plus de 30 entreprises partageant les meilleures pratiques en matière de citoyenneté numérique et de sécurité des enfants, etc.», poursuit-elle. «Et nous avons tous un sujet de conversation constant: comment utilisons-nous la technologie, comment utilisons-nous A.I. et apprentissage automatique? Travaillons-nous avec les sociétés émettrices de cartes de crédit pour tenter de vérifier [users]? Comment pouvons-nous éviter de ne pas enfreindre les règles de la COPPA? », Déclare Bhaumik.

«Le problème est extrêmement complexe et je ne pense pas que les personnes impliquées l’aient déjà résolu», ajoute-t-elle.

Une solution consisterait à obliger les parents à inscrire leurs enfants et à ajouter une carte de crédit, qui resterait sans frais si les enfants ne respectaient pas les règles.

Cela pourrait freiner dans une certaine mesure la croissance des utilisateurs: isoler les banques sous-financées, ceux qui hésitent à utiliser leurs cartes de crédit en ligne et ceux qui se méfient généralement des sociétés de jeux et des frais non désirés. Cela signifierait que les enfants ne pourraient pas simplement télécharger l’application et jouer.

Mais Roblox a maintenant l’élan et l’échelle nécessaires pour verrouiller les choses. Le jeu est suffisamment utilisé pour créer une barrière supplémentaire à l’entrée sur le marché, dans le but de mieux protéger les utilisateurs. Après tout, si les joueurs savaient qu’ils se verraient infliger une amende (ou que leurs parents le seraient), il serait moins intéressant de ne pas respecter les règles.