El riesgo de la IA vuelve a generar alarma dentro de la industria tecnológica luego de que un exinvestigador de Anthropic acusara a dos grandes laboratorios de avanzar demasiado rápido hacia una superinteligencia.
Jacob Coxon, de 27 años, anunció su salida de Anthropic y de la industria de inteligencia artificial después de haber trabajado durante tres años en investigación de preentrenamiento, primero en OpenAI y posteriormente en Anthropic.
Coxon sostuvo que ambas empresas están avanzando hacia sistemas capaces de mejorar sus propias capacidades y advirtió que la competencia por desarrollar modelos cada vez más potentes podría estar dejando en segundo plano los riesgos de seguridad.
¿Qué advirtió el exinvestigador?
Según Coxon, el problema no se limita a la tecnología actual, sino al posible desarrollo de una superinteligencia capaz de auto-mejorarse con una intervención humana cada vez menor.
En una publicación difundida tras su renuncia, afirmó que quienes desarrollan estas tecnologías creen sinceramente que la inteligencia artificial podría provocar la muerte de toda la humanidad antes de que termine la década.
El investigador también cuestionó que decisiones con posibles consecuencias globales estén concentradas en unas cuantas compañías privadas y pidió una respuesta coordinada para reducir los riesgos.
Un investigador de Anthropic respalda la advertencia
La declaración adquirió mayor relevancia después de que Evan Hubinger, investigador especializado en alineación de IA de Anthropic y antiguo jefe de Coxon, respaldara públicamente parte de sus preocupaciones.
Hubinger afirmó que, a título personal, considera superior al 10% la probabilidad de que una IA pueda acabar con todos los seres humanos durante la próxima década.
Sin embargo, también hizo una distinción importante: señaló que considera bajo el riesgo asociado con los modelos actuales y que su principal preocupación está relacionada con una futura superinteligencia surgida de procesos de automejora recursiva.
¿Existe realmente una fecha límite?
Las declaraciones no constituyen una predicción científica de que la humanidad vaya a desaparecer antes de 2030.
Se trata de advertencias y estimaciones personales de investigadores que trabajan o han trabajado en el desarrollo de inteligencia artificial. El escenario planteado depende de que lleguen a desarrollarse sistemas con capacidades muy superiores a las humanas y con posibilidades de modificar sus propias capacidades.
Por ello, el debate se centra también en la llamada alineación de IA, disciplina que busca conseguir que los sistemas avanzados mantengan objetivos compatibles con las intenciones y la seguridad humanas.
El propio Hubinger reconoció que Anthropic todavía no cuenta con un plan definitivo para resolver la alineación de una eventual superinteligencia.
Una carrera tecnológica bajo presión
La preocupación de Coxon se inserta en una discusión más amplia sobre la competencia entre los principales laboratorios de IA. Su argumento es que incluso empresas conscientes de los riesgos pueden sentirse presionadas para continuar desarrollando sistemas más capaces ante el temor de que un competidor avance primero.
Por ahora, no existe consenso científico sobre una fecha en la que una superinteligencia pudiera aparecer ni sobre la probabilidad real de una extinción humana.
Lo que sí vuelve a quedar sobre la mesa es una pregunta de alcance global: ¿quién debe decidir hasta dónde puede llegar una tecnología con capacidades potencialmente superiores a las humanas?
¡Mantente informado en WhatsApp!
Tu dosis de noticias de política y tendencias de Tabasco, México y el Mundo directo a tu celular. ⚡ eltabasqueno.com
ÚNETE AL CANAL AQUÍ