El próximo 30 de noviembre se cumple un año desde que ChatGPT salió al mercado público. Desde entonces, la preocupación general en torno a los peligros de la inteligencia artificial ha crecido cada vez más, especialmente de las autoridades y gobiernos.
Con esto en mente, esta semana el foco del sector ha estado puesto en una cumbre que se ha celebrado en el Reino Unido para abordar los riesgos potencialmente “catastróficos” de la IA y en el que han participado representantes de cerca de una treintena de países, incluido España.
En este foro han participado líderes políticos, responsables de organizaciones internacionales, personalidades del mundo tecnológico —ahí estuvo el siempre polémico Elon Musk— y directivos de las principales empresas del sector, como OpenAI, Google DeepMind, Anthropic, Meta y Microsoft.
¿Cuáles ha sido las conclusiones de la cumbre sobre IA?
La primera cumbre internacional sobre seguridad de la IA, celebrada en una antigua base de espías de descifrado de códigos cerca de Londres, se ha centrado en la inteligencia artificial ‘fronteriza’ de vanguardia que, según advierten algunos científicos, podría representar un riesgo para la existencia misma de la humanidad.
La primera resolución que se ha extraído de este encuentro internacional es un acuerdo mundial entre los delegados de 28 países de trabajar juntos para contener esos posibles riesgos. Se le ha denominado Declaración de Bletchley.
De forma más concreta, la vicepresidenta de Estados Unidos, Kamala Harris, hizo un importante llamamiento durante la primera jornada de la cumbre a responsabilizar a las empresas de tecnología, incluso a través de la legislación, sobre las transformaciones que la IA ya está provocando. Y mencionó que la inteligencia artificial no solo es preocupante como generadora de ciberataques masivos o armas biológicas, sino que también puede afectar a las vidas ordinarias de personas corrientes. “Amenazas que actualmente están causando daño y que muchas personas también consideran existenciales”, sentenció.
Harris citó el caso de un anciano que abandonó su plan de atención médica debido a un algoritmo de inteligencia artificial defectuoso o el de una mujer amenazada por una pareja abusiva con fotos deepfake.
“Cuando una persona mayor es expulsada de su plan de salud debido a un fallo en un algoritmo de IA, ¿no es eso existencial para él? Cuando una mujer se ve amenazada por una pareja abusiva con fotografías ultrafalsas (‘deepfake’) ¿no es eso existencial para ella?”. Kamala Harris.
El secretario general de la ONU, António Guterres, presente en el encuentro, coincidió en el peligro de que la tecnología avance en “direcciones imprevistas” y en la posibilidad de llegar a “perder el control” de los sistemas, y llamó a mantener los principios de la Carta de Naciones Unidas y la Declaración Universal de los Derechos Humanos para regular la IA.
“Mi deseo para los próximos cinco años es que aprendamos del pasado y actuemos deprisa”, dijo durante la cumbre de Bletlchley Park la presidenta de la Comisión Europea (CE), Ursula von der Leyen, que alertó de la “complejidad” de los nuevos sistemas inteligentes. “La experiencia de otras tecnologías puede ser, por lo tanto, nuestra guía. Tomemos la historia de la energía atómica y la bomba nuclear. Los científicos descubrieron la física cuántica, lo que llevó a la energía nuclear, buena, pero también con riesgos para la sociedad y también con la bomba atómica”, dijo la mandataria comunitaria.
España llama a proteger los "derechos fundamentales" ante la emergencia de la IA
La secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas, también asistió a la cumbre, donde señaló “la desinformación, la potencial discriminación y la exclusión de colectivos” como “riesgos” de la IA en el presente.
Cuestionada sobre la red de institutos de seguridad centrados en la IA que el Reino Unido y Estados Unidos quieren impulsar, la secretaria de Estado indicó que “puede tener sentido” la creación de “un instituto propio, o integrar esas tecnologías dentro de otros institutos que ya se dedican a prever los riesgos de la seguridad nacional”.
Aunque tiene que haber centros científicos que se dediquen específicamente a los riesgos de la IA, “no hace falta que cada país tenga uno” y “probablemente tendría sentido hacer un centro de esas características a nivel europeo”, agregó.
“Ahora estamos poniendo el énfasis en la inteligencia artificial, pero mañana lo tenemos que seguir poniendo en la computación cuántica, las neurotecnologías o la biología sintética”, concluyó.
La respuesta puede estar en evaluar los sistemas de IA previamente
“Hasta ahora, las únicas personas que probaban la seguridad de los nuevos modelos de IA han sido las propias empresas que los desarrollaban. Eso debe cambiar”, afirmaba por su parte el primer ministro británico, Rishi Sunak, adelantando que las autoridades podrán evaluar los sistemas “antes de que sean lanzados”.
Subrayó que no hay que ser “alarmistas”, pero “hay argumentos para creer que puede representar un riesgo de la escala de una pandemia o una guerra nuclear, y es por ese motivo que, como líderes, tenemos la responsabilidad de actuar y dar los pasos necesarios para proteger a la gente”.
Sunak después quitó cierto histerismo al asunto cuando destacó que, a pesar de los peligros asociados a la IA, es una herramienta que “puede ayudar a casi todo el mundo a hacer su trabajo mejor y más rápido”.
En este sentido, el primer ministro de Reino Unido anunció también que un nuevo panel compuesto por expertos de distintos países fiscalizará los avances de la inteligencia artificial, una medida con la que “la comunidad internacional al completo ha estado de acuerdo”. Este grupo, presidido por el académico canadiense Yoshua Bengio —miembro del consejo científico asesor de la ONU y premio Turing por su trabajo en redes neuronales profundas—, publicará regularmente un informe sobre el estado de desarrollo de la IA.
¿Se puede impulsar una ley global que regule la inteligencia artificial?
Uno de los propósitos esenciales de la cumbre ha sido coordinar las diversas normativas que están en marcha para regular la IA, una tecnología que va a tener un impacto global.
Reino Unido, en ese sentido, se ha convertido en una excepción en la arena internacional. Mientras la UE y Estados Unidos han comenzado a impulsar sus regulaciones, Londres prefiere observar el desarrollo de la tecnología antes de diseñar una ley específica.
Precisamente, en la misma semana que se celebraba esta cumbre en Europa, en EE. UU. el presidente estadounidense, Joe Biden, ha firmado una orden ejecutiva para controlar el desarrollo de sistemas de inteligencia artificial y su aplicación en todos los sectores de la sociedad ante los riesgos que esta nueva tecnología plantea.
Antes de la firma de la ley, Biden declaró en la Casa Blanca que la IA “es la tecnología más trascendental” de la historia reciente, con aplicaciones a todos los campos de la ciencia, la economía y la sociedad.
La polémica sobre el código abierto…
Uno de los temas que generó división entre los participantes en la cumbre es el desarrollo de modelos de IA de código abierto, para algunos una vía para impulsar la innovación y para otros una puerta abierta a grietas de seguridad.
Francia es uno de los impulsores del código abierto, junto con otros países europeos y el Sur global, mientras que Estados Unidos y el Reino Unido, que acogen a las principales firmas tecnológicas del sector, apuestan por el software propietario.
…y el polémico Elon Musk
A la cumbre en Blentchley Park, el enclave donde se decodificaban los mensajes secretos nazis durante la Segunda Guerra Mundial, han acudido responsables de las principales empresas tecnológicas que han iniciado la revolución en el sector.
OpenAI, Google DeepMind, Anthropic, Meta y Microsoft, entre otras, participaron en los debates con académicos y políticos, muchos de ellos a puerta cerrada, para tratar de establecer una visión común sobre los retos que se presentan.
Una de las estrellas de la cumbre es el fundador de Tesla y propietario de la red social X, Elon Musk, que durante la primera jornada participó en gran parte de los debates y alertó de que la IA es uno de los principales peligros que afronta la humanidad.
“Por primera vez, estamos en una situación en la que hay algo que va a ser más listo que el más listo de los humanos”, dijo el magnate, añadiendo que “no está claro si podemos, de hecho, controlar algo como eso”, pero que cree que “debemos aspirar a guiarlo hacia una dirección que sea beneficiosa para la humanidad”. Musk apuesta por crear un “árbitro independiente” que vele por la seguridad en el desarrollo de la IA.
Encuentros anuales
Los países participantes han determinado, como parte de esta declaración, que para seguir avanzando en materia de seguridad, se reunirán cada año de manera presencial, siendo Francia la próxima sede de esta cumbre. Antes de esto, en seis meses, será Corea del Sur el que figure como coanfitrión en una cumbre virtual sobre IA a menor escala.
“Esto garantiza un legado duradero de la Cumbre y una acción internacional continua para abordar los riesgos de la IA, incluida la información sobre políticas nacionales e internacionales basadas en riesgos en estos países”, dicen en un comunicado.
Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.
¡Ya estamos en WhatsApp! Si quieres recibir en tu móvil toda la actualidad y las noticias más importantes del día, pincha aquí y únete a nuestro canal. Es un sistema gratuito, cómodo y seguro.
Comentarios
Hemos bloqueado los comentarios de este contenido. Sólo se mostrarán los mensajes moderados hasta ahora, pero no se podrán redactar nuevos comentarios.
Consulta los casos en los que 20minutos.es restringirá la posibilidad de dejar comentarios