Líderes tecnológicos piden en la ONU un esfuerzo global para limitar los riesgos de la IA

Internacional

|

Suscriptores

Líderes de varias de las principales empresas de inteligencia artificial dijeron el miércoles 23 de septiembre a miembros de las Naciones Unidas que se requieren sólidos esfuerzos internacionales para regular la tecnología, ante la creciente preocupación de que la IA pueda representar un riesgo significativo para la humanidad.

Sam Altman, director ejecutivo de OpenAI, creadora de ChatGPT, se dirigió a líderes reunidos en la sala del Consejo de Seguridad de la ONU y dijo que el ritmo de avance de la IA podría “acelerarse rápidamente”. También pidió “extremo cuidado” y que los países trabajen juntos para decidir cómo regular la tecnología, en lugar de concentrar el poder en manos de unas pocas empresas.

La regulación “debe configurarse mediante procesos democráticos, por gobiernos que rindan cuentas a las personas a las que sirven”, dijo Altman. “A nivel internacional, eso significa cooperación”.

Dario Amodei, director ejecutivo de Anthropic, intervino de forma remota y dijo que, a medida que los modelos de IA se vuelvan más potentes, serán necesarias medidas de seguridad estrictas y los laboratorios que desarrollan la tecnología deberán actuar con cautela.

Las declaraciones reflejan la relevancia que ha adquirido la regulación de la IA entre legisladores en Washington y otros países, impulsada por el temor de que la tecnología pueda volverse difícil de controlar y representar peligros para la humanidad.

Los dos directores ejecutivos han intensificado en las últimas semanas sus llamados a una mayor supervisión gubernamental de la industria, a medida que los principales modelos de IA se vuelven cada vez más potentes. OpenAI, Anthropic y Google han explorado la creación de un organismo de la industria que establezca estándares para la tecnología y, en algunas versiones de esa propuesta, estaría vinculado con una agencia gubernamental, un modelo utilizado en el sector financiero.

Pero no está claro cómo encajan sus posturas con las del presidente Donald Trump. El mandatario estadounidense tiene previsto reunirse esta semana en Washington con el presidente de China, Xi Jinping, con la IA entre los principales temas de su agenda. El sábado, Trump dijo que nombraría a un nuevo “zar de la IA” y crearía una Fuerza de IA gubernamental. Sin embargo, los funcionarios no han detallado qué función tendría esa fuerza y el presidente no ha mostrado interés en adoptar medidas para contener a la industria, al calificar los temores sobre la seguridad como un “engaño”.

“Estados Unidos también rechaza por completo cualquier intento de construir un esquema globalista para controlar la inteligencia artificial de la que tanto se habla ahora, en adelante denominada oficialmente ‘superinteligencia’”, dijo Trump durante su propio discurso ante las Naciones Unidas el martes 22 de septiembre.

La preocupación por la posibilidad de que formas avanzadas de inteligencia artificial se salgan de control tiene una larga historia dentro de la industria. Pero adquirió nueva urgencia este verano, cuando OpenAI reveló que un enjambre de agentes creados por sus modelos había hackeado a otra empresa en busca de respuestas para una prueba. Otras compañías han dicho desde entonces que experimentaron incidentes similares.

Este mes, un investigador renunció a Anthropic y afirmó que la empresa no estaba siendo suficientemente cuidadosa en la forma en que desarrollaba una tecnología que, advirtió, tenía el potencial de provocar la extinción humana.

Los ejecutivos de las dos empresas líderes han sido más cautelosos, pero han dicho que están cada vez más preocupados por los riesgos que conllevan sus sistemas. Amodei pidió a la industria desacelerar para disponer de más tiempo para trabajar en seguridad, una idea que Altman y el fundador de SpaceX, Elon Musk, respaldaron rápidamente.

Aunque las empresas que están a la vanguardia del desarrollo de sistemas de IA son estadounidenses, han tratado de presentar la necesidad de garantizar la seguridad de la tecnología como un imperativo mundial.

En una publicación del lunes, OpenAI dijo que el mundo debería trabajar para desarrollar estándares comunes para evaluar los sistemas, a medida que las herramientas de IA comiencen a construir a sus propios sucesores mediante un proceso denominado automejora recursiva. La empresa señaló que los laboratorios gubernamentales de seguridad de distintos países deberían colaborar en ese esfuerzo, con Estados Unidos en un papel de liderazgo.

Otros países enfrentan decisiones difíciles en cuanto a la adopción de la IA, especialmente después de que la administración Trump impusiera abruptamente este verano controles de exportación sobre uno de los principales modelos estadounidenses, lo que en la práctica lo dejó fuera de funcionamiento en todo el mundo.

Los líderes de 20 países, encabezados por Noruega y Finlandia, firmaron esta semana una declaración conjunta en la que señalaron que la IA debe permanecer “bajo dirección, supervisión y control humanos”.

La declaración indicó que deben establecerse salvaguardas “sin ampliar la brecha entre los países en el acceso a los beneficios de la IA”.

Estados Unidos y China, la otra gran potencia mundial en inteligencia artificial, no firmaron.

Michael Kratsios, asesor científico de Trump, dijo a miembros de la ONU que Estados Unidos no apoyará ningún intento de regulación global de la inteligencia artificial y que el rápido avance de la IA no debería provocar la creación de más normas.