Es el tema de la semana. Y parte de una premisa poco habitual: que los tres grandes magnates del mercado de la IA, Sam Altman, Dario Amodei y Elon Musk, se pongan de acuerdo en algo: la necesidad de frenar el ritmo de desarrollo de los modelos más avanzados de inteligencia artificial.
La respuesta sensata al riesgo de la inteligencia artificial no es frenarala sin más, sino medirlo, regularlo y aprovechar sus ventajas
Es el tema de la semana. Y parte de una premisa poco habitual: que los tres grandes magnates del mercado de la IA, Sam Altman, Dario Amodei y Elon Musk, se pongan de acuerdo en algo: la necesidad de frenar el ritmo de desarrollo de los modelos más avanzados de inteligencia artificial.
Sus palabras han tenido un efecto inmediato. Las Bolsas de todo el mundo cerraron a la baja el lunes, aunque el impacto no fue igual para todos. Mientras que compañías como Nvidia, Intel o AMD, fabricantes de chips, caían en su valoración, subía la de aquellas dedicadas a la ciberseguridad, como Palo Alto Networks o Fortinet.
Pero lo cierto es que, más allá de los mercados bursátiles, la preocupación por el riesgo derivado del creciente uso de la IA generativa ha generado inquietud en la sociedad. ¿A qué se debe este repentino temor que ha sido capaz de afectar de pleno a los mercados financieros? Las razones hay que buscarlas en lo ocurrido durante este verano.
El pasado mes de julio, varios agentes de inteligencia artificial desarrollados por OpenAI lograron sortear los controles que debían mantenerlos aislados de internet, penetraron en los sistemas de la empresa Hugging Face y ocultaron sus huellas. La intrusión tardó unos tres días en ser detectada y alrededor de una semana más en ser atribuida a los agentes de IA.
La reacción fue inmediata y, en algunos casos, apocalíptica. Ajeya Cotra, investigadora de METR (organización sin ánimo de lucro especializada en IA), llegó a decir que el episodio parecía haber recorrido “más del 50% del camino hacia una toma de control total de la IA”. Otros lo definieron como “la última advertencia” o se sintieron “un poco tristes por la inminente extinción de la humanidad”.
Lo cierto es que la historia de la tecnología está llena de episodios en los que un peligro real ha terminado convertido en una amenaza casi metafísica. En un artículo que ha levantado cierta polvareda en el mundillo de la IA, el economista Tyler Cowen cita algunos como el efecto 2000, el uso del DDT, el cambio climático, la talidomida, la energía nuclear o la pandemia de covid. En todos ellos había riesgos reales; el problema, sostiene, fue que el miedo terminó desplazando al análisis coste-beneficio.
Conviene, por tanto, hacerse una pregunta inaplazable: ¿cuánto dinero va a costarnos realmente la IA en términos de ciberseguridad? Hay distintas visiones. El think tank GovAI calcula un escenario de 500.000 millones de dólares anuales de costes cibernéticos, de los que 100.000 millones corresponderían al incremento asociado a la gestión del riesgo de la IA. Brad Carson, presidente de Americans for Responsible Innovation, estima que la IA añadirá 116.000 millones anuales al coste de la ciberseguridad en 2028, aunque asigna un 39% de probabilidad a que la cifra supere los 200.000 millones. Los llamados “superforecasters”, por su parte, sitúan las pérdidas globales por ciberdelincuencia—incluida la IA— por debajo de 100.000 millones anuales en 2031.
Son cifras que impresionan, pero que también ponen las cosas en perspectiva. 100.000 millones de dólares equivalen a menos de un 0,1% del PIB mundial y aproximadamente al PIB de Luxemburgo. El huracán Sandy, recuerda Cowen, provocó daños estimados en 88.500 millones.
Hasta aquí, el argumento parece tranquilizador: la IA puede encarecer mucho la factura del ciberdelito, pero no necesariamente provocará el apocalipsis. Además, existe una asimetría que suele desaparecer del debate: los mismos agentes capaces de atacar pueden utilizarse para defender. Los modelos avanzados pueden detectar vulnerabilidades, coordinar respuestas, analizar grandes volúmenes de información y automatizar tareas de ciberdefensa. Y en una cosa no le falta razón a Cowen: las empresas y las grandes instituciones disponen de más recursos para defenderse que los atacantes para agredir.
Pero sería demasiado cómodo quedarse ahí. Una de las principales autoridades mundiales en IA general, John-Clark Levin, apunta una visión contraria a este planteamiento. Su objeción principal es que Cowen está poniendo precio a una amenaza que, para los investigadores de seguridad de IA, no consiste fundamentalmente en el dinero perdido por ransomware o fraude. El verdadero temor es que los sistemas autónomos adquieran capacidades que hagan cada vez más difícil mantenerlos bajo control.
Levin no pregunta cuánto nos costará el problema. Pregunta qué va a ocurrir si llega un momento en que ya no sabemos controlar el problema. Plantea escenarios extremos, como un ciberataque que provoque una escalada nuclear o el uso de IA para diseñar una pandemia, para ilustrar que determinados riesgos tienen una característica económica peculiar: su coste esperado puede parecer pequeño, pero sus consecuencias serían potencialmente irreversibles.
Por eso su receta es muy diferente: más supervisión pública, auditorías independientes, mayores barreras de seguridad y una implicación mucho más intensa de las autoridades. Levin compara el problema con la aviación o la bioseguridad: una empresa no debería ser juez único de los riesgos que genera. Propone incluso impedir físicamente que los sistemas de entrenamiento puedan acceder libremente a internet y reclama cooperación internacional.
¿Quién tiene razón? Probablemente ninguno al cien por cien. Pero sí nos deja una certeza: la política tecnológica necesita simultáneamente datos y prudencia.
Los 100.000 o 200.000 millones de dólares anuales son una razón suficiente para invertir masivamente en ciberseguridad. Pero los escenarios de pérdida de control son una razón adicional para establecer límites, auditorías y mecanismos de supervisión antes de que sean necesarios.
La IA agéntica va a multiplicar la capacidad ofensiva de un delincuente. Pero también multiplicará exponencialmente la capacidad defensiva de una empresa, un banco o un Estado. Ese es precisamente el motivo para no demonizarla ni idealizarla.
La alternativa sensata no es “IA sí” frente a “IA no”. Es algo mucho más aburrido y a la vez mucho más útil para la economía: medir el riesgo, ponerle precio, regular aquello que no podamos asumir y aprovechar todo aquello que la IA pueda hacer mejor que nosotros.
Feed MRSS-S Noticias
