Jacob Coxon, exempleado de Anthropic y OpenAI, advirtió que la velocidad con la que avanza la inteligencia artificial podría representar un riesgo grave para la humanidad y afirmó que dentro del sector existe preocupación por las consecuencias de continuar acelerando su desarrollo.
En declaraciones a la BBC, Coxon sostuvo que, si no se reduce el ritmo actual de progreso, existe una posibilidad significativa de que la humanidad enfrente consecuencias catastróficas en un futuro cercano.
Sus declaraciones se produjeron después de que una publicación suya sobre los riesgos de la IA se difundiera ampliamente en redes sociales. Coxon respaldó el llamado del CEO de Anthropic, Dario Amodei, para desacelerar el desarrollo de modelos avanzados y establecer mecanismos de regulación y supervisión independientes.
Amodei planteó que el desarrollo de la IA debe continuar, pero con mayores precauciones debido a los riesgos asociados con sistemas cada vez más capaces. Sam Altman, de OpenAI, y Elon Musk, de xAI, también han expresado respaldo a la necesidad de establecer mecanismos de supervisión y regulación.
Coxon señaló que una desaceleración tendría que ser coordinada internacionalmente, particularmente con China, para evitar que la regulación desencadene una carrera tecnológica entre países.
Advierten sobre escenarios extremos
Uno de los escenarios discutidos por Coxon y Amodei contempla sistemas capaces de operar de manera autónoma sobre infraestructura digital a gran escala. Coxon consideró que algunos de estos escenarios podrían desarrollarse en plazos relativamente cortos, aunque se trata de predicciones y no de hechos establecidos.
El exempleado aseguró que algunos trabajadores del sector toman en serio estos riesgos y que existe preocupación por las posibles consecuencias de desarrollar sistemas cuya capacidad supere la comprensión y supervisión humanas.
Anthropic respondió que reconoce tanto los beneficios como los riesgos asociados con la IA y afirmó que desarrolla modelos con medidas de seguridad destinadas a reducir posibles incidentes de desalineación.
La compañía también señaló que ha desarrollado marcos para evaluar y mitigar riesgos y que considera necesaria una regulación que permita coordinar el ritmo de lanzamiento de modelos avanzados.
Expertos discrepan sobre el riesgo de extinción
La preocupación por un posible escenario extremo no se limita a Coxon.
Evan Hubinger, investigador de Anthropic, afirmó que algunos integrantes del sector consideran seriamente la posibilidad de que una IA avanzada pueda provocar la extinción humana. El científico Geoffrey Hinton, uno de los principales investigadores históricos de la inteligencia artificial, también ha considerado razonable discutir probabilidades de ese nivel de riesgo.
Sin embargo, otros especialistas cuestionan la posibilidad de asignar porcentajes concretos a un escenario de extinción, debido a la incertidumbre sobre cómo evolucionarán las capacidades de los sistemas.
También existen críticas que atribuyen parte de estas advertencias a intereses comerciales. Algunos empresarios y analistas han señalado que las grandes compañías de IA podrían beneficiarse de una regulación que eleve las barreras de entrada y reduzca la competencia.
El debate se desarrolla además en medio de una carrera por atraer inversiones. Anthropic se prepara para una posible oferta pública inicial, mientras OpenAI también ha sido objeto de especulaciones sobre una eventual salida a bolsa.
La disputa también involucra a China
El gobierno de Donald Trump ha planteado el desarrollo de la IA principalmente como una competencia estratégica con China.
Trump ha afirmado que Estados Unidos mantiene ventaja en esta tecnología y que pretende conservarla, aunque también ha señalado la necesidad de establecer salvaguardas.
Esta postura contrasta con quienes consideran que los riesgos de la IA requieren acuerdos internacionales similares, en algunos aspectos, a los mecanismos de cooperación desarrollados para controlar tecnologías consideradas estratégicas.
El debate enfrenta así dos prioridades: acelerar la innovación para mantener la ventaja tecnológica frente a otros países o reducir el ritmo de desarrollo para establecer controles de seguridad antes de que los sistemas alcancen capacidades difíciles de supervisar.