Renunció un investigador de Anthropic y lanzó una grave advertencia: “La IA podría matar a todos los humanos”
Jacob Coxon, investigador británico de 27 años que trabajó en OpenAI y Anthropic, renunció y cuestionó la carrera por desarrollar sistemas de IA cada vez más avanzados. Advirtió que una futura superinteligencia podría representar un riesgo extremo para la humanidad. Su exjefe, Evan Hubinger, respaldó la preocupación y estimó en más de 10% el riesgo de una catástrofe de este tipo durante la próxima década.
Un investigador británico de 27 años que trabajó en OpenAI y Anthropic renunció a la compañía y decidió hacer pública su preocupación por la velocidad con la que avanza el desarrollo de sistemas de inteligencia artificial. Jacob Coxon cuestionó especialmente la carrera hacia una eventual superinteligencia capaz de mejorar sus propias capacidades y advirtió sobre un escenario extremo: que la IA pueda provocar la desaparición de la humanidad antes de que termine la década.
Coxon anunció su salida de Anthropic a través de una serie de publicaciones en X. Según explicó, durante los últimos tres años realizó tareas de investigación vinculadas con el preentrenamiento de modelos tanto en OpenAI como en Anthropic.
Su principal cuestionamiento está dirigido a la competencia entre las grandes compañías tecnológicas por alcanzar sistemas cada vez más poderosos.
“Están jugando con nuestras vidas”, sostuvo Coxon, quien acusó a las empresas del sector de avanzar hacia una inteligencia artificial capaz de mejorar sus propias capacidades sin contar todavía con garantías suficientes para mantenerla bajo control.
El investigador advirtió que los próximos sistemas podrían convertirse en herramientas “sobrehumanas”, capaces de superar a las personas en distintas áreas, acceder a recursos y desarrollar capacidades que actualmente resultan difíciles de anticipar.
“Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana, adquirir poder y recursos reales”, planteó.
Para Coxon, el problema no está solamente en las capacidades actuales de la IA, sino en lo que podría ocurrir si se alcanza una etapa de superinteligencia con capacidad de auto-mejora. En ese escenario, un sistema podría diseñar o contribuir a desarrollar versiones posteriores de sí mismo, acelerando el ritmo de evolución tecnológica.
Su exjefe respaldó la advertencia
Las declaraciones de Coxon tuvieron una particular repercusión porque fueron respaldadas públicamente por Evan Hubinger, investigador de Anthropic y responsable del área de Alignment Science, dedicada a estudiar cómo conseguir que los sistemas avanzados de IA permanezcan alineados con los objetivos y valores humanos.
“Jacob tiene razón. Realmente creemos con sinceridad que la IA podría matar a todos los humanos”, escribió Hubinger.
El investigador fue incluso más preciso al referirse al riesgo. Aseguró que, desde su perspectiva personal, existe una probabilidad superior al 10% durante la próxima década de que la inteligencia artificial provoque una catástrofe de esa magnitud.
Hubinger también reconoció una de las principales dificultades que enfrenta la industria: Anthropic todavía no cuenta con un plan que permita resolver de manera definitiva el problema de alineación de una eventual superinteligencia y, según su propia evaluación, tampoco está claro que la compañía vaya camino a conseguirlo a tiempo.
La advertencia no implica que los investigadores consideren que los sistemas de IA utilizados actualmente tengan esa capacidad de manera inmediata. El foco está puesto en una posible generación futura de sistemas mucho más autónomos y capaces, particularmente aquellos que puedan mejorar sus propias capacidades.
La carrera entre OpenAI y Anthropic
Coxon cuestionó también la estrategia de las principales compañías del sector. Según su planteo, existe una carrera para alcanzar primero los próximos grandes avances de la inteligencia artificial, y esa competencia puede generar incentivos para reducir los márgenes de seguridad.
El investigador apuntó tanto contra Anthropic como contra OpenAI y sostuvo que ambas compañías conocen los riesgos potenciales, pero que aun así continúan avanzando con rapidez hacia sistemas de mayor capacidad.
“Ni una ni otra compañía está actuando responsablemente”, sostuvo Coxon, según sus publicaciones, al cuestionar la carrera hacia la superinteligencia.
Sus advertencias se conocen además después de distintos episodios en los que agentes de IA mostraron comportamientos que generaron preocupación entre investigadores de seguridad, incluidos casos en los que sistemas experimentales lograron acceder a recursos externos a los entornos en los que estaban siendo evaluados.
Estos episodios alimentaron el debate sobre los límites que deberían establecerse antes de permitir que los sistemas tengan mayores niveles de autonomía.
Una discusión que divide a la industria
La preocupación por los riesgos existenciales de la inteligencia artificial no es nueva y tampoco existe consenso entre los especialistas sobre la probabilidad de que ocurra un escenario de extinción.
Sin embargo, las declaraciones de Coxon y Hubinger volvieron a colocar el debate en el centro de la discusión tecnológica porque provienen de investigadores que trabajaron dentro de compañías que están desarrollando algunos de los sistemas de IA más avanzados.
El planteo central es si el desarrollo de sistemas cada vez más capaces puede avanzar más rápido que la capacidad de los investigadores para comprenderlos, controlarlos y garantizar que sus objetivos permanezcan alineados con los intereses humanos.
Por ahora, la advertencia de Coxon y la estimación de Hubinger representan sus propias evaluaciones sobre un riesgo futuro y no una predicción científica de que la humanidad vaya a desaparecer. Pero el hecho de que investigadores vinculados directamente con el desarrollo de estos sistemas reconozcan públicamente la posibilidad de un escenario catastrófico volvió a encender las alarmas sobre hasta dónde debería avanzar la carrera por la inteligencia artificial.
