Bill Gates publicó recientemente una nota en la que alertaba sobre la situación de la inteligencia artificial: “La transición hacia la era de la IA será uno de los tiempos más turbulentos en la historia humana: ahora no nos estamos preparando adecuadamente para esta transición… No veo evidencias de que los líderes, expertos y comunidades estén confrontando los desafíos de manera adecuada. No hay plan para facilitar la entrada a la era de la IA”.

Esta observación se ha convertido ya en un lugar común. El desarrollo de la industria mantiene su impulso, se acelera y tiene fracturas. Se ha generado incertidumbre sobre las consecuencias adversas de la tecnología y se han puesto de relieve sus riesgos sin que haya aún una perspectiva clara de su naturaleza y alcance. A ello se suma el recelo que provocan los personajes que diseñan e impulsan la IA y de un enorme poder económico.

Ésta es una industria altamente dependiente del financiamiento, tanto para el propio desarrollo de la tecnología, como para el soporte de infraestructura que requiere, como es el caso de los centros de datos. La valuación de las empresas ha llegado a cifras extraordinarias en un entorno altamente especulativo y con repercusiones en el conjunto del sistema financiero global en cuanto a la asignación de los recursos y a la gran acumulación de deuda que se ha generado.

En su edición del 13 de septiembre, el diario The Wall Street Journal publicó un reportaje con una cabeza a propósito que decía: “Cómo el choque entre el dinero y la seguridad ha creado una monumental crisis para la IA”. En medio hay una ríspida competencia entre las empresas tecnológicas y en especial la que mantienen OpenAI y Anthropic, mientras corren hacia su cotización pública en el mercado de valores. En tanto admiten que pueden perder el control de sus poderosos bots. La brecha de seguridad ha ocurrido recientemente también en Alphabet (Google) donde el reconocido Demis Hassabis ha tomado el mando como científico en jefe.

Los hechos recientes detrás de esto se han seguido de cerca desde la denuncia que hizo el investigador de Anthropic Jacob Coxon el pasado 9 de septiembre sobre las graves consecuencias derivadas de la inseguridad de los modelos de la IA. Señaló que Anthropic y OpenAI estaban en una carrera para implementar la “superinteligencia” sin tener ningún plan de salida.

Amodei y Altman, cabezas respectivas de dichas empresas, pidieron públicamente frenar el desarrollo de la tecnología, cuestión a la que se sumó también Musk, hasta contar con mecanismos adecuados de seguridad. El primero dijo explícitamente que habría que establecer una fuerte y obligatoria regulación gubernamental.

Una referencia interesante en este sentido es que Alan Turing, pionero de la informática y la computación, precursor de la inteligencia artificial, declaró en la década de 1950: si esa tecnología se convertía en algo posible, podría tomar el control. Vaya, que una sorpresa no es. Amodei es una figura muy controvertida. Al tiempo que ha creado uno de los modelos más populares y utilizados en el mercado de la IA, como es Claude, y de ser protagonista en ese campo, es quien advierte de los peligros que representan dichos modelos. Dos de los investigadores de su empresa –Coxon y Hubinger– abrieron la disputa acerca de tales riesgos, cifrando en 10 por ciento la posibilidad de que la IA haga desaparecer a la humanidad. No son los primeros en decirlo. Geoffrey Hinton, Nobel de física y padrino de esta tecnología lo ha sostenido en repetidas ocasiones. Es realmente absurdo proponer tal cosa. ¿Qué significa 10 por ciento en cuanto a la posible extinción de los humanos? Tal debate no debería plantearse así de plano, ni siquiera al uno por ciento.

Amodei impulsa a todo lo que da el poder de sus modelos y va de la mano de Altman. Tienen enfrente a los chinos cuyos modelos de IA se han descrito como versátiles, de buen funcionamiento y de menor precio, lo que representa una competencia relevante en la industria y en sus fuentes de financiamiento.

La valuación de ambas empresas de AI se ha elevado hasta cantidades multimillonarias. Al mismo tiempo que admiten riesgos que podrían ser catastróficos. Primero plantearon que habría que posponer la salida a bolsa de Anthropic y Open AI mientras se aclaraba el asunto de la seguridad, ahora Amodei parece dispuesto a seguir adelante con su oferta pública inicial en noviembre próximo, pues ahora es una empresa privada. Vaya convicciones las suyas. Las presiones económicas y financieras son grandes y, así, la disputa por el poder dentro de la industria.

Del lado de los inversionistas se cuestiona si las dos empresas pueden sostener su extraordinario ritmo de crecimiento, considerando que hay una mayor sensibilidad al precio de las acciones en el sector y, por supuesto, ante el potencial de la IA de destruir a la humanidad.

Este es un vodevil. Y, mientras, no puede perderse de vista el significado de la IA, sus posibilidades y sus riesgos. Sobre todo si parece haber un consenso acerca de lo que significa transitar hacia la era de la IA, que como ha dicho Harari, representa un cambio sin precedente, pues la inteligencia artificial es un agente independiente que puede controlar el lenguaje, tomar decisiones autónomas y manipular el comportamiento humano.