“Un robot será diseñado en la medida de lo posible para que resulte seguro”, como se hace con los cuchillos (mango) u ollas a presión (válvula de seguridad). “A la hora de elaborar cualquier artefacto, el objetivo es minimizar los peligros” (Asimov, Introducción a El resto de los robots). Por eso, en 1942 ya introdujo sus famosas tres leyes de la robótica, buscando una tecnología ética regida por el principio de no dañar, por acción u omisión, a un ser humano y, por extensión, a la especie humana.
La IA necesita límites incorporados a su diseño si queremos evitar que autonomía, negocio y poder acaben volviéndose contra nosotros
“Un robot será diseñado en la medida de lo posible para que resulte seguro”, como se hace con los cuchillos (mango) u ollas a presión (válvula de seguridad). “A la hora de elaborar cualquier artefacto, el objetivo es minimizar los peligros” (Asimov, Introducción a El resto de los robots). Por eso, en 1942 ya introdujo sus famosas tres leyes de la robótica, buscando una tecnología ética regida por el principio de no dañar, por acción u omisión, a un ser humano y, por extensión, a la especie humana.
La inmensa mayoría de la industria de la inteligencia artificial ha pedido frenar el ritmo de su desarrollo ante el temor de perder el control y que este pueda acabar dañando a la especie humana, sobre todo si surge un modelo de IA capaz de desarrollar otro mejor, en un proceso de mejora acelerado (automejora recursiva): “Existe un riesgo real de que el desarrollo de sus capacidades se acelere rápidamente hasta el punto en el que ya no podamos comprender ni controlar los sistemas resultantes”, dice una carta de 1.400 empleados de empresas de IA de vanguardia, que señalan, incluso, que la IA puede acabar con los humanos en unos pocos años, como anticipó en 1968 el ordenador HAL, en la novela 2001: Una odisea del espacio, de Arthur C. Clarke. Hay una sensación generalizada de “hasta aquí hemos llegado” -a pesar de que hoy usamos menos del 10% del potencial de la IA– que viene acompañada por la decisión de OpenAI de posponer su salida a Bolsa por sus temores sobre los riesgos. Por su parte, aunque las autoridades chinas critican oficialmente estas “narrativas amenazantes” al considerar que los peligros son mitigables mediante normas técnicas, regulación y supervisión estatal, su agencia de ciberseguridad advirtió de la “pérdida de control operativo” como una amenaza de la IA.
Las amenazas de esta tecnología se habían limitado, hasta ahora, a cuatro: el sesgo algorítmico, la pérdida de privacidad, la desinformación y el impacto en el empleo. Por ello, tanto la Unión Europea como Naciones Unidas ya habían trabajado en su regulación: el Reglamento Europeo de la IA, la primera norma jurídica del mundo que pone a las personas en el centro y busca garantizar un uso seguro, ético y respetuoso con los derechos fundamentales.
Naciones Unidas advirtió hace poco de que la IA avanzada representa “un potencial riesgo existencial para la humanidad si se desarrolla sin un control estricto”. En palabras del secretario general de la ONU: “El destino de la humanidad no puede dejarse en manos de un algoritmo”. Por ello, desde la ONU se ve necesario establecer una gobernanza de la IA. También el Papa ha dedicado su primera encíclica a ella, señalando que no es neutral y que es necesario imponerle límites éticos y legales firmes para proteger a las personas y sus derechos.
¿Qué ha cambiado, pues, en las últimas semanas? Empecemos por la constatación de una burbuja especulativa en torno a ingentes inversiones en IA con serias dudas sobre su rentabilidad. Un pinchazo, ahora, puede desatar una crisis similar a la de 2008. De ahí la irresponsabilidad –una más– del presidente Trump al confiarlo todo a su “fuerza e inteligencia”. Luego, cuatro cosas que convergen. La primera, el desarrollo de la denominada IA agéntica (A. Pedreño: El futuro de la IA), programada con autonomía para planificar, decidir y actuar de manera independiente a fin de lograr un objetivo específico. Así se produjo el asalto a los servidores de Hugging Face por parte de modelos avanzados de OpenAI. De ahí la pregunta: ¿estamos seguros de que las IA no pueden establecerse un objetivo propio?
La militarización de la IA
La segunda, las 22 tesis contenidas en el Manifiesto de Palantir, empresa tecnológica que defiende el uso de la fuerza por parte de las potencias y el deber patriótico de poner la IA al servicio de la disuasión tecnológica y de la industria militar. Exige que la inteligencia tecnológica de EE UU se comprometa con la defensa y los intereses geopolíticos del país. Esta militarización de la IA la estamos empezando a ver en conflictos como el de Ucrania y, además de inducir una transformación en las operaciones militares, ya ha proporcionado jugosos contratos a la empresa Palantir.
La tercera, las multas con las que se han sancionado comportamientos irregulares de algunas plataformas como Google, X o AliExpress, vinculados al abuso de posición dominante o a la falta de transparencia, así como el acuerdo histórico de 18.000 millones de dólares de indemnización, aceptado por Meta porque su modelo de negocio generaba adicción y daños a la salud, sobre todo en los menores. Todo ello ha mostrado los límites de esta regulación, ya que las actitudes rechazables dependen del propio diseño de los algoritmos, que debería ser el verdadero objetivo de la regulación: mediar entre beneficio privado y derechos humanos.
La cuarta y última: no podemos olvidar que todo este debate sale a la luz pública centrado en las empresas estadounidenses de IA, pero deja en la oscuridad el mundo chino, con un desarrollo no menor, a pesar de que su relato dice defender una IA “abierta, inclusiva y orientada al bien común”.
He participado en una mesa redonda organizada en Pamplona por la Fundación Hermes y el Capítulo Español del Club de Roma sobre Democracia en la era digital. Y he vuelto a constatar la escasa conciencia ciudadana que todavía tenemos sobre algo ya tan acreditado: cómo las plataformas redefinen el sistema mediático y fagocitan el espacio común de la conversación pública, dañando la democracia. Y, a pesar de ello, los expertos han dado un gran paso adelante y ahora plantean, además, que “el mundo no está preparado y nosotros no estamos preparados” para una IA agéntica y generativa que puede incumplir las reglas de Asimov y volverse contra nosotros. Sobre todo si, por razones de negocio, no se acepta imponerle controles en el diseño.
PD: Este artículo ha sido redactado con el apoyo documental de la IA.
Feed MRSS-S Noticias
