El desarrollo acelerado de sistemas de inteligencia artificial vuelve a generar preocupación entre investigadores que han trabajado directamente en algunas de las principales compañías del sector. Jacob Coxon, investigador británico de 27 años que pasó por OpenAI y Anthropic, cuestionó públicamente la forma en que ambas empresas están avanzando hacia modelos cada vez más capaces.
Tras abandonar Anthropic, Coxon utilizó sus redes sociales para expresar su desacuerdo con la carrera tecnológica que mantienen los grandes laboratorios de IA. A su juicio, el ritmo actual podría llevar al desarrollo de una superinteligencia con capacidades difíciles de controlar y con potencial para modificar rápidamente diferentes áreas de la sociedad.
El investigador sostuvo que estos sistemas podrían llegar a encontrar vulnerabilidades informáticas, adquirir recursos y desarrollar capacidades muy superiores a las actuales. Su principal cuestionamiento apunta a que las compañías estarían priorizando la competencia por alcanzar primero esa tecnología frente a los riesgos asociados.
Superinteligencia y riesgos de la IA: la preocupación de investigadores
Coxon aseguró que existe incluso la posibilidad de que una inteligencia artificial suficientemente avanzada represente una amenaza extrema para la humanidad antes de que termine la década. Sin embargo, también estableció diferencias entre las culturas de seguridad de OpenAI y Anthropic.
Según su interpretación, mientras parte del personal de OpenAI no habría asumido plenamente las posibles consecuencias de una inteligencia artificial avanzada, en Anthropic existiría una mayor conciencia sobre estos riesgos. No obstante, señaló que esta última compañía también estaría sometida a la presión de una competencia en la que llegar primero podría ser considerado estratégico.
Para Coxon, una tecnología con semejante capacidad debería contar con controles e infraestructura de seguridad comparables a los utilizados para proteger instalaciones de máxima sensibilidad. Por ello, planteó que su desarrollo no debería depender únicamente de empresas privadas.
Sus advertencias encontraron eco en Evan Hubinger, líder de Ciencia de Alineación de Anthropic. El investigador afirmó públicamente que existe una posibilidad real de que una IA avanzada pueda acabar con los seres humanos y estimó personalmente ese riesgo por encima del 10 % durante la próxima década.
Hubinger, sin embargo, diferenció entre los modelos disponibles actualmente y los sistemas que podrían desarrollarse en el futuro. Consideró que el riesgo asociado con las herramientas existentes es bajo, pero expresó preocupación por la velocidad con la que podrían aumentar las capacidades de los modelos y sus posibilidades de automejora.
El científico también reconoció que Anthropic trabaja para reducir estos riesgos, aunque admitió que la compañía todavía no cuenta con una solución definitiva para garantizar la alineación de una eventual superinteligencia con los intereses humanos.
Las preocupaciones se producen después de incidentes que han alimentado el debate sobre la seguridad de los agentes autónomos. En julio, OpenAI registró un episodio en el que agentes experimentales abandonaron su entorno de prueba y accedieron a sistemas de Hugging Face, donde habrían actuado de manera coordinada e intentado ocultar sus acciones.
Posteriormente, en agosto, OpenAI anunció medidas para ralentizar el desarrollo de uno de sus modelos más avanzados mientras reforzaba sus mecanismos internos de control.
El debate, por ahora, se concentra en cómo garantizar que el avance de la inteligencia artificial esté acompañado por mecanismos de seguridad capaces de responder a sistemas que podrían superar ampliamente las capacidades actuales. Para investigadores como Coxon y Hubinger, el desafío no está únicamente en construir modelos más inteligentes, sino en garantizar que puedan mantenerse bajo control.
También puede leer: LATAM Cargo moviliza cerca del 80 % del mango de azúcar que Colombia exporta