Proyecto de ley busca blindaje legal urgente contra ‘deepfakes’ de Inteligencia Artificial
La Diputada Nacional Gisela Marziotta presentó un proyecto de ley que establecería la posibilidadad de realizar una acción de amparo especial que obligue a las plataformas digitales a eliminar contenido ultrafalso en 24 horas.
Esta iniciativa busca dotar al sistema judicial de una herramienta ágil para defender los derechos personalísimos —como la imagen, el honor y la dignidad humana— ante la proliferación de lo que el proyecto denomina “contenidos ultrafalsos”.
La nueva legislación tiene por objeto proteger el derecho a la imagen y demás atributos de la persona humana, previstos en los artículos 51, 52 y 53 del Código Civil y Comercial de la Nación, frente a contenidos ultrafalsos creados, manipulados o difundidos mediante Inteligencia Artificial (IA) que afecten manifiestamente estos derechos.
Procedimiento ultrarrápido y sanciones drásticas
La acción de amparo podrá ser interpuesta por la persona afectada, sus representantes legales o herederos, ante cualquier juez de primera instancia, sin distinción de fueros y exenta del pago de tasa de justicia.
Uno de los puntos centrales del proyecto es la velocidad de respuesta requerida, por la que “el juez deberá resolver la medida dentro de las veinticuatro horas siguientes a la presentación, aun durante días inhábiles.”
Como medida cautelar, el juez podrá disponer el bloqueo, retiro o desindexación del contenido cuestionado.
Una vez verificada la existencia del uso no consentido de la imagen o atributos, el juez “ordenará la eliminación inmediata del contenido de las plataformas digitales o servicios donde se encuentre publicado, difundido o comercializado.”
En caso de incumplimiento de la orden judicial, el juez tendrá la potestad de aplicar multas pecuniarias diarias, proporcionales a la gravedad del daño, y “también podrá disponer la suspensión temporal de las operaciones de la plataforma responsable.”
En los fundamentos de la iniciativa, la Diputada Gisela Marziotta enfatizó la necesidad de una respuesta legal adaptada a la era digital.
La legisladora señaló que: “El presente proyecto de ley tiene por objeto establecer un mecanismo ágil, eficaz y específico para la tutela judicial de los derechos personalísimos cuando resulten afectados por el uso indebido de tecnologías de Inteligencia Artificial, particularmente aquellas que permiten la creación, alteración o difusión de imágenes, voces o representaciones falsas de una persona sin su consentimiento.”
“La irrupción de herramientas basadas en Inteligencia Artificial capaces de generar contenido sintético —como los denominados contenidos ultrafalsos o ‘deepfakes’— plantea un desafío jurídico y ético de gran magnitud. Estas tecnologías permiten crear imágenes, audios o videos falsos con apariencia realista, afectando la identidad, la reputación, el honor y la privacidad de las personas. Su difusión masiva, potenciada por redes sociales y plataformas digitales, genera daños inmediatos y muchas veces irreparables.”, destacó.
Si bien el Código Civil y Comercial de la Nación ya reconoce el derecho a impedir la utilización no consentida de la imagen, la diputada sostuvo que las normas existentes fueron “concebidas para escenarios analógicos y no contemplan la dinámica, velocidad y alcance de las producciones digitales basadas en Inteligencia Artificial.”
Para Marziotta, la inmediatez del daño es el factor clave que justifica el amparo especial: “La rapidez de propagación del contenido falso exige una herramienta procesal igualmente veloz y efectiva, evitando que la reparación llegue cuando el perjuicio ya se ha consolidado.”, indicó.
La diputada recordó que estas prácticas peligrosas incluyen las fake news, el porno venganza y la manipulación de figuras políticas en contextos electorales, afectando al sistema democrático y a la dignidad de la persona humana.
Finalmente, al referirse el alcance de la ley, Marziotta aclaró que “el proyecto no crea un nuevo derecho, sino que refuerza el ejercicio efectivo de derechos ya consagrados —la identidad, la imagen, el honor, la privacidad y la dignidad humana— frente a un contexto tecnológico novedoso.”
Marco regulatorio y precedentes internacionales
El proyecto se inscribe en la línea de las mejores prácticas internacionales en materia de protección de derechos digitales.
La propuesta define la Inteligencia Artificial como la tecnología basada en modelos de aprendizaje automático o redes neuronales que produce contenidos nuevos u originales mediante el procesamiento y análisis de grandes volúmenes de datos.
Como ejemplos de regulación comparada, la iniciativa menciona la ley Take It Down Act, promulgada en Estados Unidos en mayo de 2025, que convierte en delito federal la publicación de imágenes íntimas no consensuales (incluidos los deepfakes), obligando a las plataformas a retirarlas en plazos estrictos, como 48 horas.
También se cita a Dinamarca, que ha propuesto reformas que concederían a los individuos un derecho exclusivo sobre su propia imagen, voz y rasgos físicos frente a imitaciones digitales no autorizadas.
