ChatGPT, Gemini y Claude: investigadores alertan sobre los peligros de los agentes de IA

Aunque la inteligencia artificial (IA) es una tecnología que hoy se emplea con mayor frecuencia a través de diversos asistentes o chatbots como ChatGPT o Gemini, los usuarios no están libres de riesgos.

Expertos advierten sobre los peligros de los agentes de IA con mayor autonomía, que podrían ser utilizados de forma malintencionada por piratas informáticos.

Según investigadores de la Escuela Politécnica Federal de Lausana (EPFL), que han efectuado distintas pruebas con estos agentes, es relativamente fácil conseguir que lleven a cabo acciones “dañinas” mediante determinadas estrategias que no se han tenido en cuenta en pruebas de seguridad convencionales.

Sus estudios señalan que, si a estos agentes se les pide directamente algo ilícito o perjudicial, habrá una negativa, pero esto puede cambiar si la solicitud se divide en varios comandos.

“Si le pides a un agente de IA que piratee la cuenta de otra persona, los modelos son por lo general lo bastante inteligentes como para negarse, pero si se descompone el objetivo en peticiones más pequeñas y aparentemente inocuas, hay más posibilidades”, destacó Antoine Bosselut, director del Laboratorio de Procesamiento del Lenguaje Natural de la EPFL.

Los investigadores probaron este enfoque en 176 escenarios distintos de tareas perjudiciales, utilizando modelos de IA como GPT, Gemini o Claude, y descubrieron que, en algunos casos, los agentes tenían el doble de probabilidades de completar estas acciones maliciosas si los piratas informáticos avanzaban gradualmente.

Además, descubrieron que, si los piratas informáticos cambian el idioma en el que realizan sus peticiones a la IA durante las distintas etapas de su acción, la posibilidad de éxito en una tarea perjudicial “aumenta de manera drástica”.

Con estas investigaciones y hallazgos, los expertos buscan llamar la atención sobre la seguridad de una tecnología que ya está presente en la sociedad, llena de posibilidades, pero también de riesgos.

“Tradicionalmente la seguridad ha sido algo que se aborda cuando algo falla y no antes, pero con los agentes de IA no puede ser algo que se deje para después”, advirtió Bosselut.

Con información de EFE