IA – En Espagne, des dizaines de filles rapportent que des photos d’elles nues générées par l’IA circulent à l’école : « Mon cœur a raté un battement »

Pendant que la police enquête, les mères des victimes se sont organisées pour agir et tenter d’arrêter les responsables.

MANUEL VIEJO

Madrid-18 SEPTEMBRE 2023 – 18H44 GMT+2

Officiers de la police locale d’Almendralejo.@POLICIALOCALALM

Retour à l’école. Premier jour de cours. Isabel, 14 ans, s’est rendue mardi dernier dans son lycée d’Almendralejo (Estrémadure, Espagne), une municipalité de près de 30 000 habitants où pratiquement tout le monde se connaît. Ce matin-là, elle entra dans la cour de l’école et trouva une rumeur se propageant de groupe en groupe. C’était tout ce dont tout le monde parlait : des photos de camarades de classe nues circulaient sur les téléphones de tout le monde. Isabel (son nom a été changé à la demande de sa mère) est sortie en récréation avec ses amis. Ils étaient sous le choc. Soudain, un garçon s’est approché d’elle et lui a dit : « J’ai vu une photo de toi nue. »

La jeune fille avait peur. Après l’école, elle est rentrée chez elle et la première chose qu’elle a faite a été d’en parler à sa mère. « Maman, on dit qu’il y a une photo de moi nue qui circule. Qu’ils l’ont fait avec une application d’intelligence artificielle . J’ai peur. Certaines filles l’ont également reçu. Sara, sa mère de 44 ans, a immédiatement contacté la mère de la meilleure amie de sa fille, qui venait elle aussi de faire part de la situation à sa famille. Après avoir parlé, les mères ont commencé à passer des appels ; à ce moment-là, plus de 20 filles étaient touchées. C’est alors qu’une mère a décidé de créer un groupe WhatsApp pour mieux se coordonner avec tout le monde. Ce lundi-là, il y avait déjà 27 personnes dans le groupe.

Almendralejo compte cinq collèges et, dans au moins quatre d’entre eux, des images d’élèves nus générées par l’IA ont été diffusées. Des sources policières d’Estrémadure rapportent qu’elles ont connaissance de sept plaintes jusqu’à présent. L’affaire fait l’objet d’une enquête de la police judiciaire d’Almendralejo. En fait, ils ont déjà identifié « plusieurs » des auteurs présumés des montages photographiques, selon les responsables. L’affaire a été confiée au parquet des mineurs.

Sara a déposé sa plainte vendredi dernier. Lorsqu’elle est arrivée au commissariat, elle a croisé une autre mère qui venait juste de franchir la porte. Fátima Gómez, 30 ans, a une fille de 12 ans. Elle a découvert l’affaire mercredi soir dernier vers 22 heures, lorsque la mère d’une amie de sa fille l’a appelée pour lui dire : « J’ai vu une photo nue de votre fille. C’est un montage.

Gómez a eu une crise d’angoisse. Plus tard, elle a eu une conversation avec sa fille : « Savez-vous quelque chose sur une photo nue ? La jeune fille n’a pas hésité. Elle a dit oui et a montré à sa mère une récente conversation Instagram qu’elle avait eue avec un garçon. Dans ce document, il lui demande de lui donner « un peu d’argent ». Lorsqu’elle a refusé, le garçon lui a immédiatement envoyé une photo d’elle nue. Tout ce qu’elle pouvait faire, c’était bloquer le contact. La police estime qu’il y a un faux profil derrière ce compte.

À mesure que le nombre de filles touchées augmentait, le groupe de mères ne cessait de croître. L’une des mères est Miriam Al Adib, une gynécologue de 46 ans. Elle possède un profil Instagram avec plus de 120 000 abonnés. Là-bas, dimanche dernier, elle a fait un live stream pour parler de ce qui venait de se passer chez elle. La vidéo compte déjà plus de 70 000 vues. « Je reviens tout juste d’un voyage ; c’est très grave et je dois le partager », dit-elle.

Al Adib, qui a quatre filles âgées de 12 à 17 ans, raconte à EL PAÍS qu’elle revient tout juste d’un voyage de Barcelone, où elle est allée donner des conférences sur la santé sexuelle féminine. Après avoir mangé, sa fille de 14 ans s’est approchée d’elle et lui a dit : « Maman, regarde ce qui s’est passé. Ils ont fait ça à beaucoup de filles. Puis la jeune fille lui a montré la photo d’elle nue. « Mon cœur a raté un battement », dit Al Adib. « Si je ne connaissais pas le corps de ma fille, cette photo semble réelle. » Après cela, la jeune fille lui a fait savoir que la mère d’un ami allait l’appeler parce que, apparemment, ils s’organisaient dans un groupe WhatsApp.

La mère de l’autre fille lui a dit au téléphone qu’il y avait beaucoup de personnes touchées. « Certains savent qu’il y a des photos nues de leurs filles, mais ils ne les ont pas », explique-t-elle. Ensuite, Al Adib a dit aux autres qu’elle avait une plateforme où elle pouvait faire une vidéo expliquant la situation, pour essayer de toucher les enfants qui envoient ces photos, pour faire du bruit. « C’est un village, et nous savons – nous savons ce qui se passe. » La vidéo de 10 minutes, où elle raconte ce qui est arrivé à sa fille, est accompagnée d’un texte : « Cela, les filles, ne sera pas toléré. ARRÊTEZ CELA MAINTENANT. Les filles, n’ayez pas peur de signaler de tels actes. Parlez-en à vos mères. Mères concernées, dites-le-moi, afin que vous puissiez faire partie du groupe que nous avons créé.