¿La IA se salió de control? : La advertencia que un ingeniero de Anthropic hizo tras renunciar

Un ingeniero británico de Anthropic, empresa de investigación en materia de inteligencia artificial, renunció este 9 de septiembre porque dice que tanto dicha compañía como OpenAI “no actúan con responsabilidad” y “juegan con nuestras vidas”.

El ingeniero que renunció se llama Jacob Coxon, y antes de ser ingeniero en Anthropic también trabajó en OpenAI, principalmente como uno de los desarrolladores de GPT-4o y GPT-4.5.

En su cuenta de X, Coxon dijo que las personas encargadas en el desarrollo de la IA “creen que podrá matarnos a todos al final de esta década” porque “no hay otra actividad humana que suponga este nivel de amenaza”.

El ingeniero de 27 años dijo en sus redes sociales que se subestima el poder de la tecnología y de la IA ya que, en sus palabras, “habrán sistemas sobrehumanos que podrán hackear cualquier cosa”.

Afirma que la IA llegará a un punto en donde no solo “revolucionará todos los ámbitos”, sino también “ganará recursos y poder”.

En su opinión, hay una conciencia de esta realidad tanto en OpenAI como en Anthropic, pero ve una diferencia: los primeros “tal vez no han internalizado en profundidad los retos civilizacionales”, mientras que los segundos los comprenden bien pero “están atrapados en la carrera por llegar primero”, aun cuando en el caso más optimista se trate de llegar primero “para actuar con responsabilidad”.

Coxon dice que la única salida a esta situación es la coordinación entre los diferentes proyectos de IA que existen, pero asegura que eso no ocurrirá, por lo que opta por “acciones costosas como una prohibición temporal de mejorar las capacidades del modelo”.

El ingeniero también pide a los investigadores de IA que reflexionen sobre la situación.

En esta línea, Evan Hubinger, investigador de Anthropic, replicó los comentarios a Coxon en X y matizó el discurso del ingeniero: “Jacob tiene razón aquí; realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es más del 10% dentro de la próxima década”.

Pese a ello, Hubinger consideró que el riesgo de los modelos actuales es bajo, aunque lo preocupante es “la superinteligencia que surge del automejoramiento recursivo (…) que está ocurriendo más rápido de lo pensábamos”.

Lea también: ¿ChatGPT para adolescentes? La nueva modalidad de OpenAI con más opciones de seguridad para los jóvenes