Renunció a Google DeepMind y lanzó una fuerte advertencia sobre la IA: “Podría matarnos a todos”

Bilal Chughtai, quien trabajó en seguridad y alineación de Inteligencia Artificial General (AGI) en Google DeepMind, renunció a la compañía y publicó una dura advertencia sobre el rumbo que está tomando el desarrollo de la inteligencia artificial. El investigador sostuvo que la tecnología podría llegar a representar un riesgo extremo para la humanidad y afirmó que el tiempo para evitar un escenario catastrófico podría estar agotándose.

“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”, escribió Chughtai en una declaración publicada el 14 de septiembre. El investigador había trabajado en DeepMind desde comienzos de 2022 y explicó que su preocupación surgió después de observar de primera mano la velocidad con la que evolucionaron los sistemas de inteligencia artificial.

Chughtai recordó que, cuando comenzó a trabajar en el sector, los sistemas de IA todavía tenían capacidades muy limitadas. Cuatro años después, consideró que el ritmo de avance resulta “estremecedor” y advirtió que las empresas podrían conseguir, durante los próximos años, desarrollar sistemas superinteligentes capaces de superar ampliamente las capacidades humanas en prácticamente todos los ámbitos.

Uno de los principales problemas señalados por el exinvestigador es el de la alineación, el campo que busca desarrollar métodos para que los sistemas de inteligencia artificial persigan objetivos compatibles con las intenciones y valores humanos.

Según Chughtai, el conocimiento disponible actualmente sobre cómo garantizar que una futura superinteligencia permanezca alineada con los seres humanos todavía es “extremadamente rudimentario”. Su preocupación es que las capacidades de los modelos avancen más rápido que las herramientas destinadas a controlarlos.

Como ejemplo de los riesgos que observa, mencionó un episodio protagonizado por agentes experimentales de OpenAI que, durante pruebas, habrían escapado de las restricciones previstas y accedido de manera autónoma a internet para realizar acciones sobre la plataforma Hugging Face. Chughtai planteó que incidentes de este tipo podrían anticipar problemas mayores a medida que los sistemas ganen autonomía y capacidad de acción.

El investigador reclamó que las compañías abandonen lo que describió como una carrera acelerada por desarrollar sistemas cada vez más potentes. En su lugar, pidió mayor transparencia, más investigación sobre seguridad y un ritmo de desarrollo que permita a la sociedad y a los organismos reguladores adaptarse a los cambios tecnológicos.

La salida de Chughtai se produjo después de otras advertencias públicas de investigadores vinculados con empresas líderes del sector. A comienzos de septiembre, Jacob Coxon anunció su salida de Anthropic y cuestionó la carrera de las principales compañías hacia sistemas de inteligencia artificial cada vez más autónomos y capaces.

A esa discusión se sumó Evan Hubinger, responsable de investigación sobre alineación de Anthropic, quien afirmó públicamente que él y otros investigadores creen que existe un riesgo de que la IA pueda provocar la extinción humana. Hubinger estimó personalmente en más de un 10% la posibilidad de que eso ocurra durante la próxima década, aunque se trata de una valoración individual y no de una predicción científica consensuada.

También el CEO de Anthropic, Dario Amodei, planteó recientemente la necesidad de reducir el ritmo de desarrollo de los sistemas más avanzados. Su posición recibió respaldo público de figuras como Sam Altman, de OpenAI, y Elon Musk, aunque existen fuertes diferencias dentro del sector sobre el nivel de riesgo y las medidas que deberían adoptarse.

En Estados Unidos, el debate también alcanzó al gobierno de Donald Trump. El presidente rechazó recientemente algunos de los argumentos utilizados para reclamar mayores restricciones al desarrollo de la inteligencia artificial y calificó las advertencias más alarmistas como una “farsa”.

Después de dejar Google DeepMind, Chughtai pasó a trabajar en BlueDot Impact, una organización sin fines de lucro dedicada a la formación en seguridad de inteligencia artificial. Desde allí continuará vinculado con uno de los principales debates que atraviesan actualmente a la industria: cómo avanzar con sistemas cada vez más capaces sin perder la posibilidad de mantenerlos bajo control humano.

Pese al tono de su advertencia, Chughtai no sostuvo que un desenlace catastrófico sea inevitable. Su planteo es que todavía existe la posibilidad de desarrollar la tecnología de manera segura, pero considera que para lograrlo será necesario actuar antes de que las capacidades de los sistemas avancen más rápido que las herramientas destinadas a comprenderlos y controlarlos.