Anthropic respondió a las alarmas de Jacob Coxon y pidió regular el ritmo de avance de la IA

Anthropic respondió a las advertencias de Jacob Coxon sobre los riesgos asociados al desarrollo acelerado de la inteligencia artificial y defendió las medidas de seguridad que aplica a sus modelos. Sin embargo, la compañía también planteó la necesidad de establecer una regulación que permita controlar el ritmo con el que las empresas lanzan sistemas cada vez más potentes.

La respuesta llegó después de que Coxon, un investigador de 27 años que trabajó en OpenAI y Anthropic, renunciara a la compañía y cuestionara públicamente la carrera de las principales empresas de inteligencia artificial. Según sostuvo, los desarrolladores de estos sistemas consideran seriamente que la tecnología podría provocar consecuencias extremas para la humanidad antes de que termine la década.

Sus declaraciones recibieron el respaldo de Evan Hubinger, investigador de Anthropic especializado en alineamiento de sistemas de IA. «Jacob tiene razón», afirmó. Hubinger sostuvo además que la compañía está haciendo todo lo posible para reducir los riesgos, pero reconoció: «Aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo». También estimó en más de un 10% la posibilidad de que una inteligencia artificial provoque la extinción humana durante la próxima década. Esa cifra corresponde a su valoración personal y no a una predicción oficial de Anthropic.

Frente a ese escenario, Anthropic evitó responder punto por punto a las afirmaciones de Coxon y optó por remarcar su posición sobre los riesgos y beneficios de la tecnología.

«Siempre hemos sido transparentes en cuanto a que la IA traerá enormes beneficios, pero también riesgos sin precedentes», sostuvo un vocero de la compañía. Y agregó que la empresa continúa desarrollando modelos que cuentan con «algunas de las medidas de seguridad más sólidas del sector».

Pero la respuesta incluyó además un planteo que va más allá de las medidas internas de cada empresa. Anthropic sostuvo que el sector debería adoptar una «forma legal y verificable de colaboración para regular el ritmo de lanzamiento de los modelos» de inteligencia artificial más potentes. La propuesta apunta a evitar que la competencia entre las principales compañías termine funcionando como un incentivo para acelerar el desarrollo sin que los mecanismos de seguridad avancen al mismo ritmo.

El planteo aparece en medio de un debate creciente dentro de la industria tecnológica. Las advertencias de Coxon y Hubinger se sumaron a otros cuestionamientos de investigadores y especialistas que reclaman mayor supervisión sobre los llamados modelos de frontera y sobre el desarrollo de sistemas capaces de operar con mayor autonomía.

En paralelo, Anthropic publicó un análisis sobre el impacto económico de la inteligencia artificial. La compañía estudió distintos escenarios de adopción y automatización y señaló que, en un escenario extremo caracterizado por una rápida incorporación de estas herramientas y avances de auto-mejora, el desempleo entre los trabajadores del conocimiento podría aumentar hasta niveles históricos.

Ese escenario contempla una fuerte reducción de puestos vinculados con tareas de conocimiento y la necesidad de que una parte de esos trabajadores cambie de ocupación. Anthropic aclaró que se trata de escenarios hipotéticos y no de una predicción sobre lo que necesariamente ocurrirá.

Así, mientras Coxon reclama revisar la velocidad de desarrollo antes de avanzar hacia sistemas de capacidades muy superiores a las actuales, Anthropic sostiene que la respuesta no pasa solamente por las medidas de seguridad de cada compañía. La empresa también considera necesario establecer mecanismos de coordinación y reglas verificables que permitan evitar una carrera tecnológica en la que cada competidor acelere por temor a quedar detrás de los demás.