Tomó solo unos días para que la sensación india de Instagram Babydoll Archi se doble a 1,4 millones, gracias a algunos momentos virales de las redes sociales.
Uno de ellos era un video que la mostraba en un sari rojo, bailando seductoramente con Dame Un Gr, una canción rumana. Y una foto publicada en la plataforma mostró una producción con la estrella de cine para adultos estadounidense Kendra Lust.
De repente, todos querían saber sobre ella, y el nombre Babydoll Archi había presentado en Google Search y generó numerosos memes y páginas de fanáticos. Pero había un problema que surgir, no había una mujer real detrás de la sensación en línea.
La cuenta de Instagram era falsa, aunque la cara utilizada tenía un extraño parecido con una mujer real: una ama de casa de la ciudad de Dibrugarh en Assam, a quien llamaremos Sanchi.
La verdad se desarrolló después de que su hermano presentó una queja policial. Pratim Bora, el ex novio de Sanchi, fue arrestado.
El policía senior Sizal Agarwal, que dirige la investigación, le dijo a la BBC que Sanchi y Bora tuvieron una pelea y la similitud de la IA que creó debía existir para exigir “pura venganza”.
Bora, un ingeniero mecánico y un entusiasta de la inteligencia artificial (AI), usó las fotos privadas de Sanchi para crear un perfil falso, dijo Agarwal.
Bora está bajo custodia y aún no ha hecho ninguna declaración. BBC se ha puesto en contacto con su familia y actualizará el artículo cuando hablen.
Babydoll Archi fue creado en 2020 y las primeras cargas se tomaron en mayo de 2021. Las fotos iniciales fueron sus fotos reales que se habían transformado, dijo Agarwal.
“Con el tiempo, Bora usó herramientas como ChatGPT y Dzine para crear una versión de IA. Luego pobló el mango con fotos y videos de Deepfake”.
El proyecto de ley comenzó a obtener me gusta el año pasado, pero comenzó a ganar fuerza a partir de abril de este año, agregó.
La breve queja de dos párrafos a la policía enviado por la familia Sanchi en la noche del 11 de julio llegó con impresiones de algunas fotos y videos como evidencia.
Agarwal dice que no nombró a nadie porque no tenían idea de quién podía estar detrás de él.
ReutersBabydoll Archi no era un nombre desconocido para la policía. Agarwal dice que también vieron informes y comentarios de los medios especulando que fue generada por AI, pero no hubo sugerencias de que se basara en una persona real.
Después de recibir la queja, la policía escribió a Instagram solicitando los detalles del creador de la cuenta.
“Después de recibir información de Instagram, le preguntamos a Sanchi si conocía a Pratim Bora. Después de que ella confirmó, rastreamos su discurso en el distrito vecino de Tinsukia. Lo arrestamos la noche del 12 de julio”.
Agarwal dice que la policía “confiscó su computadora portátil, teléfonos celulares y discos duros y sus documentos bancarios desde que había monetizado la cuenta”.
“La cuenta tenía 3.000 firmas en el Linktree y creemos que ganó 1 millón de reglas. Creemos que hizo 300,000 reglas en solo cinco días antes de su arresto”, agregó.
Agarwal dice que Sanchi está “extremadamente perturbado, pero ahora ella y su familia están recibiendo asesoramiento y están mejor”.
Realmente no hay forma de evitar que suceda algo como esto “, pero si hubiéramos actuado antes, podríamos haber evitado tanta tracción”, dijo Agarwal.
“Pero Sanchi no tenía idea porque no tiene presencia en las redes sociales. Su familia también fue bloqueada en esta cuenta. Solo sabían cuando ella se volvió viral”, agregó.
El objetivo no respondió a las consultas de la BBC en este caso, pero generalmente no permite la publicación de desnudos o contenido sexual. Y el mes pasado, CBS informó que eliminó varios anuncios que promueven las herramientas de IA utilizadas para crear profundidades sexualmente explícitas utilizando imágenes de personas reales.
Getty ImagesLa cuenta de Instagram de Babydoll Archi, que tenía 282 publicaciones, ya no está disponible para el público, aunque las redes sociales están llenas de fotos y videos y una cuenta de Instagram parece tenerlos todos. La BBC preguntó al objetivo qué planean hacer al respecto.
Meghna Bal, AI y un abogado, le dice lo que le sucedió a Sanchi “Es horrible, pero casi imposible de prevenir”.
Ella puede ir a la corte y buscar el derecho de ser olvidado, y un tribunal puede ordenar los informes de prensa que la han designado para ser derrocado, pero es difícil frotar toda la rastro en Internet.
Lo que le sucedió a Sanchi, dice, es lo que siempre le está sucediendo a las mujeres, donde circulan sus fotos y videos como venganza.
“Ahora es mucho más fácil de hacer debido a la IA, pero estos incidentes no son tan comunes como esperamos, o pueden ser no señalados debido al estigma o las personas están atacadas pueden no saberlo como en el presente caso”, dice Bal. Y la gente que observa no tenía ningún incentivo para informarlo a la plataforma de redes sociales o al portal del delito cibernético, agrega.
En su queja contra Bora, la policía invocó secciones de la ley que tratan sobre el acoso sexual, la distribución de material obsceno, difamación, falsificación para dañar la reputación, engañar por personificación y delitos cibernéticos. Si se considera culpable, el Sr. Bora puede alcanzar los 10 años de prisión.
El caso que también ha llevado a la indignación en las redes sociales en los últimos días ha visto algunas leyes más difíciles de tratar con estos casos.
BAL cree que hay suficientes leyes para ocuparse de estos casos, pero si hay espacio para que las nuevas leyes sean tratadas con las compañías generales de IA deben ser analizadas.
“Pero también debemos recordar que los defectos profundos no son necesariamente malos y las leyes deben crearse cuidadosamente porque pueden estar armados para relajar la libertad de expresión”.
Sigue a BBC News India en InstagramComo esto, YouTube, incógnita y Facebook
