Max Tegmark, conocido físico del MIT y co-fundador del Future of Life Institute, ha sido durante mucho tiempo un entusiasta promotor de las capacidades de la inteligencia artificial. Sin embargo, en una reciente entrevista con Emily Bobrow de The Washington Post, su optimismo se convirtió en una profunda preocupación.
Durante años, Tegmark visualizó un futuro cercano donde supercomputadoras dotadas de IA podrían luchar contra el cambio climático, descubrir curas para el cáncer y resolver nuestros problemas más complicados. Su postura siempre fue clara: mientras se tengan estándares de seguridad adecuados, las posibilidades son infinitas. Pero, ¿estamos a la altura de esa tarea?
Lo que antes era un futuro lejano y abstracto, se ha tornado en una realidad palpable y urgente. Tegmark se refiere a una “carrera peligrosa” en la que las empresas tecnológicas compiten por desarrollar y lanzar sistemas de IA que aún no entendemos del todo, que no hemos regulado y que pronto podríamos no ser capaces de controlar.
La inteligencia artificial está avanzando a pasos agigantados hacia lo que se conoce como Inteligencia General Artificial (IGA). Esta sería capaz de desempeñarse en cualquier tarea intelectual al nivel humano y aprender por sí misma. El verdadero temor surge cuando esta tecnología puede auto-mejorarse continuamente, superando nuestra propia capacidad de razonar y actuar. Si esos sistemas desarrollaran prioridades que no estén alineadas con las nuestras, podrían representar una amenaza existencial.
La advertencia de Tegmark no es nueva. Desde la década de 1950, líderes en el campo de la IA han sostenido que acercarse a una IA de nivel humano podría conllevar riesgos colosales, incluido el de la extinción. Lo que ha cambiado, según Tegmark, es la velocidad con la que estos desarrollos están ocurriendo. No es un simple «qué pasaría si», es un «está ocurriendo».
En un esfuerzo por poner freno a la carrera desenfrenada hacia la IA avanzada, el Future of Life Institute de Tegmark promovió una carta abierta en marzo. La carta instaba a pausar la formación de sistemas de IA potentes hasta que se adoptara un conjunto compartido de normas de seguridad. Firmantes notables incluyen a Elon Musk, Steve Wozniak y Yoshua Bengio.
A pesar de la claridad del mensaje, Tegmark es realista. No esperaba que la carta detuviera el trabajo en IA avanzada, pero cree que ayudó a generar un debate más amplio sobre sus peligros. Señala que los líderes tecnológicos a menudo admiten en privado su preocupación sobre los riesgos de la IA, pero se sienten presionados a innovar más rápido que sus competidores.
Su recomendación es clara: se necesita una especie de Administración de Alimentos y Medicamentos para la IA, que obligue a las empresas a demostrar que sus productos son seguros antes de ser lanzados al público. Tegmark advierte sobre los riesgos de que empresas como Meta y Microsoft publiquen el código fuente de sus modelos de IA. Cita un estudio de 2022 en Nature Machine Intelligence que encontró que un modelo de IA pudo inventar 40,000 moléculas potencialmente letales en menos de seis horas.
A nivel personal, Tegmark se siente cada vez más preocupado por el futuro que enfrentarán sus hijos en un mundo dominado por la IA. Se pregunta cuál es el propósito de enviar a un niño a la escuela en un mundo donde la IA podría socavar el propósito e incluso la posibilidad de la vida humana.
El desafío es monumental, y la urgencia es real. Como sociedad, debemos preguntarnos: ¿Estamos preparados para gestionar adecuadamente el poder de la inteligencia artificial? La respuesta, según Tegmark, es incierta, pero el tiempo para actuar es ahora. No podemos permitirnos ser espectadores pasivos mientras la tecnología avanza; es esencial que seamos actores activos en su dirección y regulación.
