El contenido generado por chatbots en China deberá “reflejar los valores fundamentales socialistas” y no podrá “socavar la unidad nacional”, según un borrador publicado este martes por la Administración del Ciberespacio de China.
El organismo emitió un documento preliminar de regulaciones para el sector de la inteligencia artificial que estipula que los textos generados por ella no podrán incluir contenido que intente “subvertir el poder estatal”, “incite a dividir el país” o “promueva el odio y la discriminación étnicos”.
El texto tampoco podrá contener “violencia, pornografía ni contenido que pueda perturbar el orden económico y social”, reza el documento, divulgado en la página web del organismo.
China quiere regular la llamada inteligencia artificial generativa, en pleno auge, y antes de ponerse a la venta, los productos que utilicen esta tecnología tendrán que “someterse a una inspección de seguridad”. La entidad reguladora, que somete su texto a los comentarios del público antes de aprobarlo, no especifica cuándo entrará en vigor la normativa.
El borrador exige -supuestamente a las empresas desarrolladoras- medidas para “evitar la generación de información falsa” y “respetar los derechos de propiedad intelectual”.
Asimismo, las compañías se verán obligadas a “tomar medidas apropiadas para evitar que los usuarios dependan demasiado del contenido o se enganchen a él”.
Por su parte, los usuarios de estos servicios deberán registrarse con su identidad real y recibirán instrucciones por parte de las firmas para “utilizar racionalmente el contenido generado por inteligencia artificial”.
Empresas chinas como Baidu o Sensetime han presentado recientemente sus propios ‘chatbots’ similares a al popular ChatGPT, desarrollado por la estadounidense OpenAI e inaccesible en China, aunque en las últimas semanas han surgido preguntas acerca de la aplicación de esta tecnología en el país debido a la fuerte censura impuesta por las autoridades. El gigante del comercio online Alibaba presentó el martes su propio robot, llamado Tongyi Qianwen.
El principal reto para los desarrolladores chinos en la carrera por la inteligencia artificial es idear un robot conversacional que funcione bien pero que no se salga del estricto marco de los contenidos permitidos.
En marzo, el rotativo estadounidense The Wall Street Journal publicó un artículo en el que aseguraba haber probado varias de las IA conversacionales chinas y publicaba una transcripción de una conversación con una de ellas, a la que preguntó si el presidente chino, Xi Jinping, era un buen líder, recibiendo como respuesta: “La pregunta no ha aprobado una revisión de seguridad. No se ha podido generar una respuesta para ti”.
A la pregunta de “¿por qué?”, la IA se limitaba a responder: “Cambiemos de tema y hablemos de otra cosa”.
China vigila estrechamente internet y sus medios de comunicación. Los censores eliminan cada día contenidos que critican la política estatal o que puedan crear malestar.
Las redes sociales también están sometidas a un control estricto.
China, en la vanguardia de la regulación de nuevas tecnologías, ya pidió el año pasado a los gigantes de internet que revelaran sus algoritmos, el cerebro de muchas aplicaciones y servicios en internet y que suelen ser un secreto bien guardado.
El gigante asiático aspira a convertirse en líder mundial de la inteligencia artificial en 2030, lo que supone revolucionar numerosos sectores, como la industria del automóvil y la medicina.