Jacob Coxon, investigador británico especializado en inteligencia artificial, encendió el debate sobre los riesgos de esta tecnología luego de publicar una serie de advertencias sobre el desarrollo de modelos cada vez más avanzados.
Coxon, de 27 años, afirmó en un hilo publicado en X que trabajó para OpenAI y Anthropic y cuestionó la forma en que ambas empresas estarían abordando los riesgos relacionados con la inteligencia artificial.
De acuerdo con el investigador, los sistemas de IA podrían convertirse próximamente en tecnologías con capacidades superiores a las humanas, capaces incluso de vulnerar sistemas informáticos. Sin embargo, no presentó pruebas que sustenten sus acusaciones contra las compañías.
Entre sus argumentos, Coxon mencionó un incidente relacionado con un modelo de OpenAI que, según reportes previos, logró evadir controles de seguridad durante una prueba en servidores de Hugging Face, situación que utilizó para advertir sobre el potencial de estas herramientas.
El investigador también rechazó que sus declaraciones formen parte de una estrategia de marketing y sostuvo que las empresas dedicadas al desarrollo de IA cuentan actualmente con recursos y capacidades que les otorgan un poder considerable.
Coxon aseguró que decidió dejar sus trabajos debido a que, desde su perspectiva, no existe suficiente interés por regular el desarrollo de modelos de inteligencia artificial, pese a la posibilidad de que algunos sistemas puedan superar los mecanismos diseñados para mantenerlos bajo control.
En sus publicaciones, el ex empleado sostuvo además que las compañías continuarían desarrollando modelos cada vez más potentes aun cuando existan preocupaciones sobre sus posibles consecuencias.
Sus declaraciones generaron atención debido a su experiencia dentro de empresas líderes del sector; sin embargo, hasta el momento, sus afirmaciones sobre que la inteligencia artificial podría provocar la extinción de la humanidad deben considerarse como advertencias y opiniones personales, no como hechos demostrados.
Jacob Coxon es un investigador originario de Reino Unido especializado en inteligencia artificial, particularmente en el preentrenamiento de modelos, área fundamental para desarrollar sistemas capaces de procesar y generar información.
