La creación y difusión de imágenes, audios y videos generados o manipulados con inteligencia artificial (IA) que vulneren la intimidad, la dignidad o la reputación de las personas podría incorporar nuevas sanciones en Santa Fe. La diputada provincial Celia Arena, del espacio Hacemos Santa Fe, presentó un proyecto para actualizar el régimen contravencional y ampliar las herramientas legales frente a distintas formas de violencia digital.

La iniciativa contempla contenidos sintéticos de carácter sexual o que representen desnudez sin consentimiento, pero también materiales manipulados que afecten gravemente la dignidad o la reputación de una persona, aunque no tengan contenido sexual. Además, propone sancionar la producción y circulación de representaciones sexuales sintéticas con apariencia infantil.

El proyecto busca complementar la legislación provincial vinculada con la violencia digital, en particular la adhesión a la Ley Olimpia y la Ley Ema, que incorporaron herramientas para prevenir y abordar estas situaciones en distintos ámbitos.

Qué conductas busca sancionar el proyecto

La propuesta apunta a ampliar las respuestas legales frente a contenidos creados con herramientas de inteligencia artificial u otras tecnologías de generación sintética. Entre las conductas contempladas figuran la creación, manipulación y difusión no consentida de imágenes, audios y videos que vulneren derechos personales.

El texto también incluye la posesión consciente de material ilícito de estas características, incluso cuando no esté destinado a la difusión pública. En el caso de las representaciones sexuales sintéticas con apariencia infantil, la iniciativa contempla además sanciones para quienes las financien, ofrezcan o comercialicen.

El proyecto de Arena se suma a otras normas que buscan ampliar la protección frente a la violencia digital en Santa Fe.

La Ley Olimpia, a la que adhirió la provincia mediante la ley 14.297, incorporó herramientas para abordar la violencia digital y la difusión no consentida de material íntimo. Por su parte, la Ley Ema, identificada con el número 14.471, estableció medidas específicas para prevenir y abordar la violencia digital en el ámbito educativo.

La Ley Ema lleva el nombre de Ema Bondaruk, una adolescente de 15 años que murió en agosto de 2024 después de que se difundieran imágenes íntimas suyas sin consentimiento en su escuela. Su madre, Laura Sánchez, impulsó acciones para promover herramientas de prevención y acompañamiento ante este tipo de situaciones.

La nueva iniciativa busca avanzar sobre un problema que presenta desafíos adicionales con el desarrollo de la inteligencia artificial: la posibilidad de fabricar imágenes y videos hiperrealistas de hechos que nunca ocurrieron. Aunque el contenido sea sintético, su circulación puede afectar la intimidad, la reputación y la integridad de las personas involucradas.

Otro de los puntos previstos es que los jueces de faltas puedan ordenar el cese inmediato de la difusión y la eliminación de los contenidos de los soportes digitales. También se propone que las personas responsables deban realizar talleres obligatorios sobre violencia digital y uso ético de las tecnologías.

El objetivo es que la respuesta no se limite a las sanciones, sino que incorpore medidas para reducir la circulación de estos materiales y promover la prevención."No estamos ante un simple juego tecnológico, sino ante una nueva forma de violencia digital que puede afectar profundamente la dignidad, la intimidad y la integridad de las personas", argumenta la legisladora en el proyecto.

Fuente: LaCapital