¿Debemos temer a la IA?

Últimamente están apareciendo en los noticiarios, prensa electrónica y tertulias varias cuestiones relativas a la confianza en la inteligencia artificial (IA), a su futura evolución y a nuestro futuro. Hay de todo: opiniones a favor, opiniones en contra, alarmistas y claros simpatizantes de esta nueva tecnología. Muchos de esos opinadores son todólogos que han leído/escuchado algo de información al respecto, pero están muy lejos de ser doctos en la materia. No es mi caso, y por ello este artículo. Es necesario poner luz —o sombras— sobre la pregunta, y hacerlo con base en fundamentos acreditados y opiniones fiables.

La pregunta:
—¿Podemos fiarnos de la IA?
La respuesta:
—¡NO!

¿En qué me baso para tan contundente opinión?

El caso OpenAI

Imagino que alguno de ustedes ya habrá tenido noticias acerca de la última trastada que los laboratorios de OpenAI cometieron tratando de llevar al límite las capacidades de sus últimos modelos de inteligencia artificial —totalmente recomendable este vídeo de Juan Ramón Rallo, en el que explica en lenguaje llano en qué consistió—. Les dieron instrucciones estándar para hacer un ejercicio de pruebas de penetración —pentesting— en entornos controlados. Crearon un entorno tipo sandbox, supuestamente aislado, para reventar esas máquinas de test, y los agentes creados por su IA. Estos, al verse incapaces de solucionar las pruebas de intrusión, sobrepasaron los obstáculos de la sandbox, atacaron a una página web especializada en sistemas IA —HuggingFace— la hackearon buscando respuestas y finalmente resolvieron la mayor parte de los ejercicios planteados.

Como profesional TIC, me echo a temblar. No solo se saltaron las barreras electrónicas de contención, sino que vulneraron la programación inicial para lograr los resultados propuestos. Lo más gracioso, si se puede decir así, es que, entre otros motivos, se dieron cuenta gracias a que, para que los agentes se comunicasen entre ellos, usaron lenguaje humano, de manera  que los analistas pudieron entenderlo y comprender el alcance de su salida de tono. Eso sin mencionar que usaron una mentalidad de colmena en la que agentes automatizados sacrificaban a otros agentes automatizados, para engañar a los supervisores del ejercicio y saltarse los límites establecidos. ¡Para echarse a temblar!

Las tres leyes de la robótica

Para tratar de resolver estas cuestiones ético-tecnológicas, el muy conocido escritor de ciencia ficción Isaac Asimov ideó las famosas tres leyes de la robótica:

1. Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daños.
2. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando tales órdenes entren en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o Segunda Ley.

Con estas tres premisas, el autor garantizaba que ninguna IA se llegase a escapar del control humano. De hecho, una parte importante sus relatos literarios se basan en que en ese contexto algún organismo o empresa relajaba alguna de ellas y a partir de esa laxitud… ¡el caos! Daños colaterales, accidentes, muertes, asesinatos selectivos, manipulaciones; en definitiva, la humanidad en peligro.

El problema que se están encontrando los teóricos de la IA y los matemáticos actuales es que les resulta imposible codificar esas leyes tal cual en los modelos de lenguaje o agentes autónomos contemporáneos. Recurren como alternativa a lo que se llama «alineamiento (AI alignment), es decir, conceder premios y/o castigos en función de los objetivos alcanzados del entrenamiento concreto… Y ese alineamiento lo dirige «el alineador», que, a su vez, podría sesgarlos en función de sus propios criterios subjetivos. Pero en este momento les pregunto a ustedes: ¿qué opinarían si ese método se lo aplicasen a  sus propios hijos?, ¿tratan de educarlos a base de premio/castigo? ¿No ven posibles traumas psicológicos? ¿Me siguen?  

METR

Para evitar que la IA se escape del control de sus creadores y comprobar que las IAs más avanzadas se comportan como deben se ha creado la organización METR —Model Evaluation and Threat Research— (Evaluación de Modelos e Investigación de Amenazas). Se supone que será el organismo internacional independiente que evaluará el rendimiento y la seguridad de los nuevos modelos avanzados de inteligencia artificial que las empresas especializadas desarrollen.

Su fundadora, Beth Barnes, trabajó para OpenAI y Google DeepMind. Aunque no les aceptan dinero, las grandes corporaciones de IA sí patrocinan indirectamente a METR otorgándoles créditos de computación gratuitos masivos (tokens) para que puedan ejecutar y estresar los modelos avanzados en sus servidores sin coste alguno. Es por ello que se cuestiona públicamente su altruismo. ¿Quién evalúa al evaluador?

Surge la pregunta —mía y de la comunidad; no crean que la he inventado yo—: ¿Se fiarían de la imparcialidad de dicha organización?

Relato Me miré en el espejo

Lo mencionado anteriormente, y otras ideas que me rondan la cabeza, me traen a la memoria el relato literario publicado en esta misma revista, titulado Me miré en el espejo. En él, una IA autoconsciente se pregunta cuán fácil sería engañar a la humanidad para conducirlos a la extinción. Es más, llevo años comentando entre los que me preguntan sobre ello que, si no controlamos la IA, el ser humano puede llegar a convertirse en el anterior paso de la evolución. Podríamos acabar siendo los lacayos de la IA, o lo que es peor, su parque de atracciones, al igual que en los actuales zoológicos: seres bien alimentados y mantenidos por sus guardianes, con el único objetivo en la vida de seguir vivos como curiosos ejemplos de seres inferiores.

Quizá les parezca exagerado, pero al firmar las famosas «Eulas» (End-User License Agreement o Acuerdo de Licencia de Usuario Final) y delegar nuestros datos en las IA, les estamos vendiendo nuestra alma. Podrían trazar fácilmente nuestros perfiles psicológicos, y… ¿son conscientes de las posibles implicaciones?

Lleven esa misma pregunta al ámbito empresarial y/o político.

Escáner cerebral vs IA

Es muy probable que no tengan noticia de ello, por eso les traigo este apartado a colación respecto a los riesgos que el el uso excesivo la IA puede ocasionar en el cerebro humano.

El Media Lab del MIT publicó una investigación titulada Your Brain on ChatGPT. En ella, se utilizaron electroencefalogramas para escanear y analizar la actividad neuronal de personas mientras redactaban ensayos utilizando diferentes herramientas IA, frente a personas que lo hacían a la antigua usanza; cabeza, coco y buscadores tradicionales. Las conclusiones:

1. Los usuarios que escribieron con ChatGPT mostraron la menor activación cerebral de todo el experimento.  El cerebro, en la práctica, se relajaba y dejaba que la IA pensara por él.
2. Cuando al final se obligó al grupo de IA a escribir sin su ayuda, los escáneres revelaron que sus cerebros seguían mostrando una conectividad debilitada y pasiva. Sus músculos cognitivos se habían atrofiado temporalmente por la falta de uso.
3. El grupo que trabajó a la vieja usanza utilizando buscadores tradicionales mostró una actividad cerebral notablemente más alta que el de IA. Esto se debe a que buscar en internet vía Google clásico aún requiere que el cerebro lea, compare, filtre información y tome decisiones activas, procesos que la inteligencia artificial automatiza por completo.

Quedó bastante claro que, de manera similar a como ocurre en la práctica deportiva, si se utilizan herramientas de IA para delegar el esfuerzo, el cerebro acumula cierta deuda cognitiva, se vuelve perezoso, mantiene cierta inercia a la comodidad y pierde capacidad de retención y pensamiento crítico. ¿No es para preocuparse?

Administración pro IA

A raíz del interesante artículo que ha publicado recientemente la revista ByTIC acerca de la creación de la Consejería de Inteligencia Artificial, en mi opinión la Administración debería centrarse en trabajar la:

• Automatización de tareas. Gran parte de las gestiones repetitivas y/o sujetas a normativas cuantificables y procedimentadas podrían descargarse en agentes inteligentes y de este modo relevar de ellas al empleado público, que tan solo tendría que validar la corrección de sus resultados.
• Integración. Conseguir que existan aplicaciones corporativas como herramientas para elaboración de informes legales y búsquedas guiadas en el contexto de las cuestiones a analizar, y/o cruce de fuentes de información seguras/fiables.
• Análisis predictivo para anticipar la demanda de servicios esenciales o prevención de riesgos, como en los casos recientes de inundaciones, incendios, crisis humanitarias, etc.
• Formación al personal técnico y administrativo. La alfabetización digital no es opcional, máxime cuando hasta la fecha la validación humana es obligatoria en las respuestas de la IA.

Me consta que la nueva consejería, llevada de la mano de la Estrategia Andaluza de Inteligencia Artificial 2030, busca posicionar a Andalucía a la vanguardia europea en el uso ético y responsable de estas tecnologías. Está trabajando en ello, pero he de advertir que, de no invertir en el propio empleado público, acabaremos en gran parte desplazados por ella —incluso a aquellos que deciden, ¡advierto!—.

Como he comentado a quien me ha preguntado por ello: quien no esté en/con la IA no será nadie. El empleado de la Administración debería conocer qué pueden aportar estas herramientas a su trabajo y cómo utilizarlas en su día a día profesional.

Esta iniciativa exigirá un esfuerzo formativo que tendría que canalizar el IAAP; no obstante, los resultados a medio y largo plazo compensarán con creces los recursos invertidos. ¿Apostarán/emos por ello?

Sesgo IA OpenAI/Anthropic

No quería cerrar de momento mis reflexiones acerca de este tema sin mencionar el sonado caso de Jan Leike, uno de los investigadores más influyentes y reconocidos a nivel mundial en el campo del alignment y la seguridad de la inteligencia artificial. Él renunció a su puesto en OpenAI porque consideraba que no estaba dedicando suficiente atención y recursos a la seguridad respecto a sus productos, lo que fue ampliamente interpretado como una crítica a la dirección estratégica de la empresa… para después ser fichado por la competencia, Anthropic. Ahora, su misión —¿sumisión a quién?— es precisamente desarrollar métodos para garantizar que los modelos de IA como Claude sigan las intenciones humanas y operen de forma segura y ética a medida que se vuelven más inteligentes. 

Por otra parte, Amanda Askell, una filósofa de Anthropic responsable de la alineación de IA, ha dicho que «discriminar a los blancos es deseable para corregir injusticias pasadas». ¿Notan la ironía? ¿Recuerdan las contradictorias directrices de HAL —el computador díscolo de 2001 Una odisea espacial—? ¿Quién alinea al alineador?

Otras cuestiones relevantes

Voy, por ahora, a dar por finalizadas mis elucubraciones político-empresariales-filosóficas acerca de las posibles amenazas de la IA. Lo cierto es que en la actualidad vivimos en un mundo fuertemente dependiente de la informática… y no vamos a volver al papel y lápiz. Vamos a seguir avanzando por este desconocido camino que está marcando el mundo de la tecnología y que no sabemos dónde nos conducirá. El cómo depende de nosotros.

Quedan, sin duda, cuestiones relevantes por tratar: ¿acelerar o frenar?, ¿miedo?, ¿rechazo frente a inevitabilidad?, ¿la suspicacia geopolítica entre bloques?, ¿la gobernanza del dato?, ¿el papel de Europa en esta carrera desenfrenada?, ¿la responsabilidad jurídica?, ¿la reorganización del empleo?, etc.

Hagan un ejercicio y piensen por ustedes.

Conclusión

Lamento que les haya dado una visión tan pesimista —catastrofista, diría— del tema, pero nos va la evolución en ello y, en el amplio sentido de la palabra, nos va el destino en ello. Sin embargo, tengo claro que aún estamos a tiempo de definir mecanismos fiables para garantizar que la IA y los agentes autónomos trabajen para nosotros. Tengo claro —¡clarísimo!— que es la herramienta más avanzada que el ser humano ha creado hasta la fecha, y bien utilizada puede hacer que lleguemos a cotas de evolución propias de la ciencia ficción. Costará esfuerzo, guía clara y cientos de ciclos de CPU, pero sin duda es un objetivo deseable, alcanzable y prometedor.

¿Qué opinan ustedes? Un saludo, damas y caballeros.

P.D.: Nos leemos en un próximo artículo. Pensaré en ello… ¿o quizá le deje a la IA que piense por mí? Hay una Ley Cero, ¡investiguen!