Les comptes des parents ont été saisis après que le géant de la technologie les ait signalés comme pédophiles, même après que la police les a disculpés.
La croisade intensifiée de Google contre l’exploitation sexuelle des enfants sur ses plateformes risque de détruire la vie des enfants mêmes qu’elle cherche à sauver, ainsi que des parents innocents, en laissant derrière elle leur réputation, leur liberté, et peut-être même la survie de leur cellule familiale. mains d’un algorithme trop zélé, a révélé une enquête du New York Times publiée dimanche.
Deux parents de jeunes enfants totalement indépendants ont vécu des cauchemars kafkaïens presque identiques, qualifiés d’agresseurs d’enfants pour rien de plus sinistre que d’essayer d’obtenir une aide médicale pour leurs jeunes enfants. Le père de San Francisco, Mark, et le père de Houston, Cassio, n’ont pas pensé à envoyer des photos des organes génitaux enflés de leurs fils à la demande de leurs pédiatres, une pratique devenue tout à fait normale dans le paradigme post-pandémique.
N’y pensant plus alors que son fils se remettait, Mark a été brutalement réveillé par son téléphone Google Fi l’informant que “contenu préjudiciable» – potentiellement illégale – avait été découverte. Tenter de faire appel de la décision a entraîné un rejet et aucune autre communication de Google. Mark a perdu l’accès à son téléphone, à ses e-mails, à ses contacts et à tout ce que Google a pris en charge en tant que l’une des plus grandes entreprises au monde. Toutes vos données, y compris les photos et les vidéos, étaient enfermées dans le Cloud.
Google a trouvé une autre vidéo qui a déclenché ses alarmes lors de l’analyse de ces fichiers. Alors que la technologie de détection des photos d’enfants maltraités et exploités reposait initialement sur une base de données d’images connues d’exploitation sexuelle, la contribution relativement récente de Google à la croisade est un outil d’intelligence artificielle qui prétend être capable de reconnaître des images inédites d’enfants exploitation. en fonction de leur similitude avec les images existantes.
Au lieu de faire appel à un modérateur humain pour vérifier que la photo est effectivement abusive avant d’aller de l’avant, le processus de Google, une fois qu’il pense avoir détecté cette image, consiste à verrouiller le compte, à scanner toutes les autres images dont il dispose et à appeler le Centre national des personnes disparues. et Exploited Children, qui donne la priorité à ce qu’il croit être de nouvelles victimes. Pendant ce temps, des images mal signalées sont ajoutées à la base de données des enfants exploités, de sorte que même les images les plus anodines d’enfants comme Mark et Cassio risquent de déclencher des drapeaux rouges.
La police de San Francisco, qui a ouvert une enquête après que Google a signalé la vidéo de Mark, a obtenu une copie de littéralement tout ce qui se trouve dans ses comptes Google, à partir de ses recherches sur Internet et de son historique de localisation, des messages et des documents qu’il a envoyés et reçus, et des photos et vidéos stockées. dans le cloud Équipés des mêmes données que Google avait utilisées pour le déclarer pédophile, ils ont déterminé qu’aucun crime n’avait été commis et ont classé l’affaire.
Google n’était pas si compréhensif. Même lorsque Mark a demandé au détective principal de son affaire d’intercéder en son nom, l’officier a dit qu’il ne pouvait rien faire. Vous ne pouvez toujours pas accéder à votre compte.
LIRE LA SUITE:
Google et Facebook condamnés pour avoir espionné des utilisateurs
Le cas de Cassio s’est déroulé presque exactement de la même manière, la police de Houston abandonnant l’affaire une fois les communications du pédiatre déposées. Google ne restituera pas vos données.
Même si la police a disculpé les parents, Google a maintenu sa décision de continuer à qualifier les parents d’agresseurs d’enfants et à bloquer toutes leurs données. “Le matériel d’exploitation sexuelle d’enfants est odieux et nous nous engageons à empêcher qu’il ne se propage sur nos plateformes.a déclaré la société dans un communiqué, selon le New York Times. On ne sait pas combien de cas de services de protection de l’enfance ont été ouverts sur la base de tels “erreurs», ni combien ont risqué de se retrouver avec un enfant retiré de la maison ou un parent arrêté, puisque même ceux qui sont accusés à tort de maltraitance d’enfants sont généralement silencieux à ce sujet.
Vous pouvez partager cette histoire sur les réseaux sociaux :
