En un esfuerzo por controlar el impacto de la inteligencia artificial (IA) en los medios y la
sociedad, China ha presentado un borrador de regulaciones que busca estandarizar el etiquetado de contenido generado por IA. Estas nuevas medidas, introducidas por la Administración del Ciberespacio de China, tienen como objetivo proteger la seguridad nacional, combatir la desinformación y garantizar que el público pueda distinguir entre contenido generado por humanos y por máquinas. Este borrador ha generado un intenso debate sobre su impacto en la innovación y la libertad de expresión.
El borrador exige que todo contenido generado por IA, incluidos textos, videos, imágenes y audios, esté claramente identificado. Esto implica que los proveedores de contenido en línea deberán utilizar identificadores visibles como marcas de agua digitales o etiquetas
de metadatos en su contenido haciendo que sea más difícil alterar o eliminar estos signos
distintivos.
Esta regulación no es un hecho aislado. China ya ha implementado medidas de control sobre las tecnologías sintéticas y estas nuevas reglas refuerzan el marco normativo que busca mantener la vigilancia sobre la IA. La iniciativa está en consonancia con las tendencias globales, donde países como Estados Unidos y la Unión Europea también consideran implementar normativas.
La regulación cubre tanto a empresas chinas como a compañías internacionales que operan en el país, con el fin de controlar el uso de la IA en medios y plataformas. Según lo reportado en China Daily, el objetivo de estas normas es hacer frente a la creciente amenaza de los deepfakes y proteger la integridad del ecosistema informativo chino.
El contenido generado por IA deberá llevar marcas de identificación claras, ya sea con texto, imágenes o marcas de agua. Estas etiquetas deben integrarse en los archivos multimedia y ser difíciles de eliminar. La publicación de Xinhua ha señalado que esta medida busca aumentar la transparencia en el consumo de medios digitales y reducir la propagación de noticias falsas.
Las empresas que no cumplan con estos requisitos pueden enfrentarse a sanciones, desde multas hasta cierres temporales. Además, los individuos que publiquen contenido sin etiquetar también podrían ser penalizados. Estas sanciones buscan evitar la utilización malintencionada de tecnologías de IA en la creación de contenido engañoso, tal como lo explica el documento publicado por la Administración del Ciberespacio de China.
Aa partir de esta regualación se espera que las compañías globales que operan en China se alineen con estas regulaciones, lo que podría generar costos adicionales y fricciones, sobre todo si ya tienen normas distintas en otros países. Las restricciones propuestas no solo se aplican a actores locales, sino que tienen repercusiones para gigantes tecnológicos comolas plataformas de redes sociales, tal como destacó South China Morning Post en un análisis sobre el tema.
En China, los deepfakes se han utilizado para crear videos falsos de figuras públicas en contextos comprometidos, incluidos videos sexuales manipulados de celebridades que han generado una fuerte reacción pública y legal. Además, se han registrado casos defraude financiero donde se utilizaron videos falsos de altos ejecutivos para persuadir a
inversores a realizar grandes transacciones, como detalló un informe de The Straits Times.
A nivel internacional China esta liderando la regulación de IA. Mientras que la UEy Estados Unidos están en proceso de diseñar legislaciones, las normativas de China se destacan por su enfoque en la seguridad nacional y la censura. En Europa, la Ley de IA se centrará en el equilibrio entre los derechos de los usuarios y la innovación, mientras que en EE.UU. las medidas son más dispersas y dependen de las plataformas privadas. América Latina, en cambio, aún está en una fase de debate preliminar sobre cómo regular estas tecnologías, pero el ejemplo de China podría impulsar una mayor atención a este tema, tal como destacó un artículo en El Comercio. Para América Latina, y particularmente Argentina, las nuevas regulaciones chinas ofrecen lecciones importantes. Si bien la región no ha experimentado el mismo nivel de integración de IA en los medios como China, las tecnologías de IA están creciendo rápidamente.
Argentina y otros países de la región podrían beneficiarse de crear marcos regulatoriosproactivos que protejan tanto a los consumidores como a los creadores de contenido. Además, con la creciente influencia de las plataformas globales en Latinoamérica, establecer normativas claras sobre el contenido generado por IA podría evitar la propagación de deepfakes y desinformación en contextos políticos y económicos sensibles, como lo ha indicado un informe reciente de Clarín.
A largo plazo, las regulaciones chinas podrían tener consecuencias profundas tanto para la industria de la IA como para la sociedad. La exigencia de etiquetado de contenido podría ralentizar la innovación y hacer que las pequeñas empresas y creadores independientes enfrenten mayores barreras. Sin embargo, también podría sentar precedentes globales para un uso más responsable de la IA, especialmente en el combate a la desinformación, tal como predicen expertos en The Economist.
Expertos en IA y derecho ven las regulaciones con opiniones divididas. Algunos consideran que son un paso necesario para evitar los riesgos de la IA, especialmente en contextos de seguridad y derechos digitales, como lo sugiere un análisis en MIT Technology Review. Sin embargo, otros advierten sobre el riesgo de que estas regulaciones sean utilizadas para justificar una mayor censura en un país donde el control sobre la información ya es riguroso, como se menciona en Foreign Policy. Los expertos coinciden en que, aunque estas medidas podrían frenar el avance de la IA, también representan un modelo a seguir para otras naciones que buscan equilibrar la innovación con la protección del público.
Desafíos y controversias
Las regulaciones han generado tanto apoyo como críticas. Los defensores destacan la importancia de combatir los deepfakes, que en China han sido utilizados para difamar figuras públicas, difundir pornografía falsa o crear fraudes financieros. Uno de los casos más problemáticos en China fue el uso de deepfakes para crear videos sexuales falsos de celebridades, lo que provocó una ola de indignación y llevó a medidas legales más estrictas. Además, The Guardian ha documentado incidentes de fraude financiero donde deepfakes de empresarios fueron utilizados para solicitar inversiones fraudulentas.
Las tecnologías generadas por IA también han sido utilizadas en campañas de desinformación, en particular para manipular opiniones públicas en épocas de elecciones y en debates sobre temas sensibles, como la política interna o la situación en Hong Kong y Taiwán. La capacidad de crear contenido falso extremadamente realista ha puesto en riesgo la confianza en las fuentes de información, un fenómeno analizado por expertos en BBC News.
En comparación, Estados Unidos y la Unión Europea (UE) han comenzado a tomar medidas similares, aunque las regulaciones no son tan exhaustivas como en China. En la UE, se está debatiendo la Ley de IA, que impondrá restricciones sobre el uso de tecnologías como los deepfakes, con un enfoque en la privacidad y los derechos de los usuarios, tal como lo señala el artículo de Euronews. En EE.UU., las plataformas como Facebook y Twitter han implementado políticas internas para identificar contenido manipulado, pero el gobierno aún no ha adoptado una regulación uniforme. En América Latina, la discusión sobre IA aún está en una etapa incipiente, y las regulaciones son casi inexistentes, según destaca un análisis reciente de El País.
Ventajas y desventajas
Ventajas:
Las nuevas regulaciones refuerzan la transparencia y la confianza en los medios digitales, lo que facilita la identificación de fuentes confiables y combate la desinformación generada por IA. Como expone Reuters, estas medidas podrían ayudar a reducir la confusión entre los consumidores de contenido. Protege a los creadores de contenido humano, permitiéndoles distinguir sus trabajos de los generados por máquinas y definiendo mejor los derechos de propiedad intelectual.
Según Nikkei Asia, las nuevas normativas buscan también fomentar la innovación responsable en la industria de la IA en China que se posiciona como un referente en la regulación del uso responsable de IA. Esto podría influir en otros países a adoptar enfoques similares.
Desventajas:
La implementación de estas normativas podría aumentar los costos para las empresas, tanto locales como internacionales, lo que podría obstaculizar la innovación y el crecimiento en el campo de la IA. TechCrunch advierte que las empresas tecnológicas más pequeñas podrían enfrentar dificultades para cumplir con los nuevos requisitos.
Las regulaciones estrictas podrían ser vistas como un exceso de censura, ya que el gobierno podría utilizar estas medidas para silenciar voces críticas o disidentes, un temor expresado en The Washington Post.
La etiqueta de «contenido generado por IA» podría estigmatizar injustamente algunos proyectos de IA que son creativos y valiosos, creando desconfianza generalizada en el uso de la IA, según argumentan algunos analistas en Wired. A medida que la tecnología se vuelve más central en el desarrollo económico, los gobiernos de la región podrían adoptar regulaciones similares para abordar las preocupaciones relacionadas con la desinformación y la seguridad nacional.
En definitiva, China está tomando medidas pioneras para controlar el impacto de la IA en su ecosistema digital con implicaciones globales que podrían afectar tanto a creadores como a empresas en todo el mundo. La consulta pública abierta hasta octubre dará forma a cómo estas regulaciones se implementan finalmente, y los ojos estarán puestos en cómo estas medidas influirán en la regulación global de la inteligencia artificial.
Abogada. Especialista en Estudios en China Contemporánea.
