INTELIGENCIA ARTIFICIAL

China advierte sobre los riesgos de la inteligencia artificial

El gobierno chino abordó la necesidad de hacer “esfuerzos dedicados a salvaguardar la seguridad política y mejorar la gobernanza de seguridad de datos de internet e inteligencia artificial"

Xi Jinping, presidente chino.

Xi Jinping, presidente chino.AP

El Partido Comunista chino, que gobierna el país, recalcó el martes los riesgos que plantean los avances en inteligencia artificial y pidió medidas más fuertes de seguridad nacional.

El comunicado publicado tras una reunión liderada por el líder del partido y presidente del país, Xi Jinping, dejaba sobre la mesa la tensión entre la determinación del gobierno por tomar la iniciativa en tecnología de vanguardia y las preocupaciones sobre los posibles daños políticos y sociales derivados de esa tecnología.

La declaración seguía a una advertencia el día anterior de científicos y líderes del sector tecnológico, incluidos directivos de alto nivel de Microsoft y Google, sobre los peligros que plantea la inteligencia artificial para la humanidad.

La reunión en Beijing abordó la necesidad de hacer “esfuerzos dedicados a salvaguardar la seguridad política y mejorar la gobernanza de seguridad de datos de internet e inteligencia artificial”, indicó la agencia oficial de noticias Xinhua.

“Se recalcó en la reunión que la complejidad y gravedad de los problemas de seguridad nacional que enfrenta nuestro país han aumentado de forma drástica. El frente de seguridad nacional debe ganar autoconfianza estratégica, tener confianza suficiente para asegurar la victoria y ser muy consciente de sus propias fortalezas y ventajas”, añadió la agencia.

“Debemos prepararnos para los peores y más extremas situaciones, y estar listos para resistir los mayores vientos en contra, aguas agitadas e incluso peligrosas tormentas”, añadió la nota de la agencia estatal.

Xi, que es el jefe del estado, máximo comandante del ejército y presidente de la Comisión de Seguridad Nacional, pidió en la reunión “mantenernos muy atentos a las complicadas y desafiantes circunstancias que enfrenta la seguridad nacional”.

China necesita “un nuevo patrón de desarrollo con una nueva arquitectura de seguridad”, dijo Xi, según declaraciones recogidas por Xinhua.

China ya dedica enormes recursos a suprimir cualquier aparente amenaza política al dominio del partido, y el gasto en policía y personal de seguridad supera al presupuesto del ejército.

Aunque censura sin descanso las protestas en las calles y las críticas en internet, los ciudadanos han seguido expresando su descontento con las medidas del gobierno, como ocurrió recientemente con los draconianos confinamientos para combatir los contagios de COVID-19.

China ha estrechado los controles sobre su sector tecnológico en un esfuerzo de reafirmar el control del partido, pero al igual que otros países está teniendo problemas para regular las IA, una tecnología que avanza con rapidez.

Las preocupaciones sobre que los sistemas de inteligencia artificial superen la inteligencia humana y se salgan de control se han intensificado con el auge de una nueva generación de bots de conversación de IA como ChatGPT.

Entre los cientos de personas destacadas que firmaron la declaración del martes, publicada en el sitio web del Centro por la Seguridad de las IA, estaban Sam Altman, director general de OpenAI, creador de ChatGPT, y Geoffrey Hinton, un programador conocido como el padre de la inteligencia artificial.

“Mitigar el riesgo de extinción por las IA debería ser una prioridad global a la altura de otros riesgos para toda la sociedad como las pandemias y la guerra nuclear”, indicó el comunicado.

Más de 1.000 investigadores y tecnólogos, incluido Elon Musk, que está de visita en China, habían firmado este año una carta mucho más larga que pedía una moratoria de seis meses en el desarrollo de las IA.

La misiva señalaba que las IA suponen “profundos riesgos para la sociedad y la humanidad” y algunas personas implicadas en el asunto han propuesto un tratado de Naciones Unidas para regular esa tecnología.

Aunque China ya advirtió en 2018 sobre la necesidad de regular estos sistemas, ha financiado una gran expansión del campo dentro de sus esfuerzos de convertirse en líder tecnológica.

La falta de protecciones de privacidad y el estricto control del partido sobre el sistema legal también han llevado a un empleo casi generalizado de tecnologías de reconocimiento facial, de voz e incluso de forma de caminar para identificar y detener a personas consideradas peligrosas, en especial disidentes políticos y minorías religiosas, en particular musulmanes.

Miembros de los uygures y otros grupos étnicos de mayoría islámica han sido blanco de vigilancia electrónica masiva y más de un millón de personas han sido detenidas en campos de reeducación política similares a prisiones que China describe como centros de desradicalización y formación profesional.

Los posibles riesgos de las IA derivan de su capacidad de controlar armamento autónomo robótico, herramientas financieras y computadoras que gestionan redes eléctricas, sistemas de transporte y otra infraestructura clave.

El gran entusiasmo de China por las nuevas tecnologías y su disposición a trabajar sobre investigaciones importadas o robadas y frenar investigaciones sobre sucesos importantes como el brote de COVID-19 agravan las preocupaciones sobre su uso de las IA.

“La actitud despreocupada de China sobre el riesgo tecnológico, la imprudente ambición del gobierno y la mala gestión de Beijing en las crisis trazan un rumbo de colisión con los crecientes peligros de las IA”, indicaron esta semana los académicos de tecnología y seguridad nacional Bill Drexel y Hannah Kelley en un artículo publicado en la revista Foreign Affairs.