La UE prohíbe los 'deepfakes' sexuales en modelos de IA

La UE prohíbe los ‘deepfakes’ sexuales en modelos de IA

La UE Avanza Hacia la Prohibición de la IA que Crea Imágenes Sexualizadas Sin Consentimiento

La Unión Europea está tomando medidas contundentes para erradicar el uso de sistemas de inteligencia artificial que generan contenido sexual no autorizado, en un esfuerzo por proteger a las personas, especialmente a los menores.

Este viernes, los países miembros de la UE han acordado solicitar una prohibición total de las tecnologías de inteligencia artificial que permitan la creación de imágenes sexualizadas sin el consentimiento de las personas involucradas. Este paso se enmarca dentro de un proceso legislativo que busca modernizar y simplificar la regulación sobre inteligencia artificial. La decisión final se tomará tras las negociaciones con el Parlamento europeo, que comenzarán en abril.

El Origen de la Propuesta

España ha liderado esta iniciativa, buscando que se prohíban expresamente las prácticas de IA que generen contenido sexual o íntimo no consentido, así como material relacionado con el abuso sexual infantil. Según un comunicado del Consejo Europeo, cualquier modelo de IA que facilite la creación de este tipo de imágenes quedaría vetado en el territorio europeo.

Impacto de los Deepfakes en la Sociedad

La petición se origina en medio de la polémica generada por la difusión de imágenes sexualizadas de mujeres en la red social X, que se volvieron virales a fines de diciembre y enero. Durante ese periodo, se generaron más de tres millones de imágenes manipuladas, incluyendo más de 33,000 de menores, según cifras del Centro para Contrarrestar el Odio Digital.

Soporte Intergubernamental

La propuesta española ha encontrado respaldo en otros países, donde Francia también presentó un enfoque similar. Alemania, Irlanda, Eslovenia, Bélgica, Eslovaquia y Hungría se unieron a la causa, reflejando un amplio consenso en la comunidad europea sobre la necesidad de regular esta tecnología.

Alcance de la Prohibición

La propuesta no se limita a las imágenes, sino que abarca también vídeos y audios capaces de reproducer contenido sexual o que identifiquen a personas en situaciones íntimas sin su consentimiento expreso. La intención es proteger la privacidad y la dignidad de las personas, estableciendo límites claros a estas tecnologías.

Reacciones en la Industria de la Tecnología

En respuesta a la controversia, Elon Musk, dueño de xAI, ha impuesto restricciones a la creación de estas imágenes en su plataforma, limitando su uso a usuarios de pago y ajustando las políticas de la IA. Sin embargo, aún es posible generar tales imágenes bajo ciertas condiciones, lo que ha suscitado debate sobre la consistencia y eficacia de las regulaciones actuales.

El Camino Hacia una Regulación más Efectiva

Este movimiento de la UE forma parte de un esfuerzo más amplio por adaptar la legislación a los rápidos avances en inteligencia artificial. La discusión sobre la regulación no solo toca la IA, sino que también abarca la normativa relacionada con la protección de datos, tal como lo estipula el conocido reglamento GDPR, en vigor desde 2018. Las autoridades comunitarias han enfatizado que su objetivo no es desregular, sino facilitar un entorno competitivo y ágil para las empresas.

Te puede interesar >>>

Santos del Día: Santoral del 8 de noviembre

Santos del Día: Santoral del 8 de noviembre

El 8 de noviembre honra a San Adeodato y otros santos en el Santoral Cristiano …