El 12 de marzo se presentó un proyecto de ley muy actual que nos plantea una de las grandes preocupaciones del momento: “QUE ESTABLECE EL RÉGIMEN DE PROTECCIÓN DE LA IMAGEN, VOZ Y CUERPO FRENTE A LAS IMITACIONES DIGITALES GENERADAS POR INTELIGENCIA ARTIFICIAL”
Este proyecto plantea un debate que ya tiene antecedentes de discusión y soluciones legislativas en proceso o vigentes en los países más adelantados en el uso de la IA : La Unión Europea ha dictado la AI Act (2024), que regula contenidos sintéticos y exige etiquetado de deepfakes. Y en Estados Unidos algunos estados como Tennessee han desarrollado sus propias normativas (ELVIS Act, 2024) que protegen la voz e imagen de personas frente al uso no consentido por IA.
El sector más activo en poner sobre la mesa esta preocupación ha sido sin duda el sector de los artistas tanto del rubro audiovisual, diseño, e imagen; pero el uso del Deepfake ha afectado a personalidades políticas y religiosas relevantes, así como también a niños y adolescentes en casos de bulling y ciberacoso con graves desenlaces
Y las primeras discusiones sobre el tema han utilizado supuestos e insumos del Derecho a la Imágen. Por eso el primer desafío que se plantea es definir exactamente lo que estamos protegiendo: las normas actuales hablan de imagen pero en la practica la IA puede crear imagen, voz, y movimiento. Hasta hace poco la imagen era solamente una fotografía o un dibujo de una persona, o como mucho la creación de una impresión en 3D de una persona famosa como las utilizadas en los museos de cera.
Desde hace dos años podemos decir que la tecnología actual es capaz de hacer una síntesis de la imagen de una persona sin necesidad de presencia real de la misma, e incluso dando vida y movimiento a aquellas capturas que originalmente solo fuero fotografías antiguas y desgastadas. ¿Se podría plantear que Imagen es todo aquello que hace “recognoscible” a una persona? Existen casos en donde gracias a audiovisuales con actores reales se ha podido reconstruir versiones más jóvenes con la voz y el movimiento característico suficiente para generar una versión incluso “viva” de alguien que ya no está.-
El Movimiento e identidad cinética es el conjunto de patrones corporales que incluye motricidad, postura, gestualidad y expresión física, y que son atribuibles de manera habitual y característica a una persona física determinada, y que permiten su identificación por un observador razonablemente informado sobre ésta. Las normas actuales no lo definen, considerando que podría ser un atributo de la imagen, pero que al mismo tiempo se demuestra relevante cuando se habla de Identidad y sobre todo si pretende evitar el Deepfake en cuanto a sus peores expresiones, es decir las más dañinas: Una imagen del Papa con una campera de moda, es muy distinta a una imagen del Papa dando un discurso de odio con su voz característica y sus movimientos característicos. –
Demos un paso más en el análisis, y consideremos loas informaciones de sistemas de “reconocimiento de marcha” que identifican personas – identidad- por su forma de caminar para identificar individuos en multitudes sin ver sus rostros. Una IA entrenada con video público de cualquier persona puede reproducir sus patrones de movimiento con una fidelidad suficiente para engañar a un observador. Aun no existe regulación sobre este tema , y las normas de la UE y de la región no ha iniciado este debate.-
Hoy en día un modelo de lenguaje e imagen puede generar una representación visual creíble a partir de una descripción textual. Si alguien escribe “genera una imagen de una determinada persona XX, periodista paraguaya de 40 años, etc. y el modelo tiene suficiente información sobre esa persona en su entrenamiento, aunque nunca haya visto su foto, puede producir algo reconocible como esa persona . La imagen base o referencia del material creado no existía como tal. No hubo captura. Lo que el LLM guarda es un modelo matemático de cómo es esa persona en base al material recibido en su “entrenamiento” con lo cual la posibilidad de creación de diversas imágenes con pequeñas variaciones infinita que pueden ser re-subidas a las plataformas infinitas veces , incluso a pesar de la orden de retiro en las mismas.- El modelo de IA fue entrenado con billones de imágenes y “aprendió” a elaborar una imagen o un audiovisual como efecto secundario de un proceso masivo que opera contantemente por su funcionamiento y que no tenía como objetivo específico crear una imagen de la persona, pero que puede hacerlo .
El proyecto que se ha presentado se limita al enfoque como Derecho a la imagen desde una perspectiva de proteger a los artistas y celebridades del Deepfake, pero el debate es mucho más amplio y podría requerir un cambio de foco hacia la IDENTIDAD misma de la persona con el objetivo de que la protección sea más amplia y pueda hoy proteger a quienes no son celebridades ni artistas, pero sufren vulneraciones y daños graves por la misma causa.-
Por la Abog. Sandra Otazú