La declaración reconoce el peligro de que la IA genere “contenido manipulado” o “engañoso”,
Foto AFP
Varios gobiernos del mundo iniciaron este miércoles primero de noviembre la primera cumbre sobre los riesgos de la Inteligencia Artificial (IA), que reúne a dirigentes políticos, gigantes tecnológicos y expertos que debatirán sobre los peligros y “las potenciales consecuencias catastróficas de la nueva tecnología”.
Los países más desarrollados del mundo como Estados Unidos, China, India y Francia, Alemania, Italia y España están entre los 29 firmantes de un texto que recalca que es “especialmente urgente” analizar los peligros que presenta la nueva tecnología y acordar medidas preventivas tempranas. Por Latinoamérica solamente aparecen las firmas de Brasil y Chile.
“Nos comprometemos a trabajar juntos de manera inclusiva para asegurar una inteligencia artificial centrada en el ser humano, confiable y responsable”, señala la declaración, pactada antes de la cumbre y que subraya que el mejor modo de afrontar los riesgos es la “cooperación internacional”.
La reunión se realiza en un sitio embelmátikco de Reino Unido, Bletchley Park, el enclave inglés donde se decodificaban los códigos nazis durante la Segunda Guerra mundial, y que significaron un importante rumbo en el desarrollo de la guerra, donde los representantes de las principales potencias globales en el sector tecnológico constataron el “potencial transformador” de la IA, que puede impulsar “el bienestar, la paz y la prosperidad”.
No obstante alertan que junto con esos posibles beneficios, también van asociados “riesgos significativos” que obligan a velar por que el desarrollo de la tecnología se mantenga bajo “una supervisión humana adecuada”.
La declaración reconoce el peligro de que la IA genere “contenido manipulado” o “engañoso”, y urge a tomar medidas en ese sentido, pero va más allá y alerta sobre futuras amenazas provenientes de sistemas “de frontera”, que excederán las habilidades de los actuales modelos más avanzados.
Además de la desinformación, los gobiernos se declaran especialmente preocupados por las aplicaciones de la IA en terrenos como la ciberseguridad y la biotecnología.
“Existe el potencial de que se produzcan daños graves, incluso catastróficos, ya sea de manera deliberada o no intencional”, subraya el comunicado conjunto.
“Dado el rápido e incierto ritmo de los cambios en la IA, y en el contexto de una aceleración de las inversiones en tecnología, afirmamos que profundizar en nuestra comprensión de esos riesgos potenciales y las acciones para mitigarlos es especialmente urgente”, agrega la declaración.
El Reino Unido ha impulsado la primera cumbre de seguridad global sobre inteligencia artificial (AISS, en inglés), la cual volverá a convocarse dentro de seis meses en la República de Corea y dentro de un año en Francia.
A este primer encuentro, que durará hasta el jueves, asisten, además de gobiernos, representantes de las principales empresas tecnológicas globales, como OpenAI, Google DeepMind, Anthropic, Meta y Microsoft.
Agencias internacionales de noticias