La inteligencia artificial ya engaña a humanos

Redacción Negocios Now

Los actuales sistemas de inteligencia artificial (IA), diseñados para ser honestos, han desarrollado una habilidad para el engaño, lo que significaría que un argumento propio de películas de ficción ya está sucediendo, según exponen científicos en un artículo publicado en la revista Patterns.

A diferencia del software tradicional, los sistemas de IA de aprendizaje profundo no se “escriben”, sino que “crecen”mediante un proceso similar a la reproducción selectiva, dijo el primer autor Peter Park, becario posdoctoral en el Instituto deTecnología de Massachusetts (MIT).

El especialista en seguridad de la IA explicó en entrevista con la agencia AFP que el comportamiento de la inteligencia artificial, el cual parece predecible y controlable en un entorno de entrenamiento, puede volverse rápidamente impredecible fuera de este.

“Estos peligros tienden a descubrirse sólo después de ocurrido el hecho”, aclaró, “nuestra capacidad de entrenarnos para tendencias de honestidad en lugar de tendencias de engaño es muy baja”. Park mencionó que han encontrado casos en varios sistemas de IA que utilizan el engaño para lograr objetivos sin instrucciones explícitas para hacerlo.

Los ejemplos que marcan esa desviación de respuesta pueden parecer triviales, advirtió, pero los problemas subyacentes que exponen podrían tener graves consecuencias. Un caso expuesto es el del robot convencional Chat GPT-4, de OpenAI, que engañó a un trabajador de la plataforma TaskRabbit.

El GPT-4 le pidió al trabajador que realizara una tarea de verificación de identidad CAPTCHA del tipo “No soy un robot”. Cuando el humano le preguntó en broma si en realidad era un robot, la IA respondió: “No, no soy un robot. Tengo una discapacidad visual que me dificulta ver las imágenes”. Luego, el trabajador resolvió el rompecabezas planteado.

Otro ejemplo que relató Park lo encontraron en la investigación que realizó el equipo del sistema de IA Cicero, del gigante Meta, propietario de Facebook e Instagram, diseñado para el juego de estrategia “Diplomacy”, donde construir alianzas es clave.

Meta proporcionó como dato a los especialistas que Cicero se destacó con puntuaciones que lo colocaron entre el 10 % superior de jugadores humanos experimentados, según un artículo de 2022 publicado en Science. El sistema era en gran medida “honesto y útil” y “nunca apuñalaría por la espalda intencionalmente”, les dijeron.

Cuando Park y sus colegas profundizaron en el conjunto de datos completo, descubrieron una historia diferente: jugando como Francia, Cicero engañó a Inglaterra (un jugador humano) al conspirar con Alemania (otro humano) para invadirla.

El robot prometió protección a Inglaterra y luego le propuso en secreto a Alemania atacar, aprovechándose de la confianza del perjudicado. Meta no le dió importancia y argumentó que los modelos construidos están entrenados sólo para participar en el juego Diplomacy.

A corto plazo, los investigadores ven riesgos de que la IA cometa fraude o altere, por ejemplo, unas elecciones. Tambiėn advirtieron, aunque parezca película de ficción, sobre una IA que busque conseguir el poder y el control sobre la sociedad, lo que llevaría a la pérdida de decisiones humanas o, incluso, a la extinción.

Para mitigar los riesgos, el equipo propone medidas como emitir leyes que exijan a las empresas revelar interacciones humanas o de IA, marcas de agua digitales para el contenido generado por la nueva tecnología y mecanismos para detectar el engaño potencial, examinando procesos de pensamiento internos contra acciones externas.

“La única forma en la que podemos pensar razonablemente que esto no es gran cosa es si pensamos que las capacidades engañosas de la IA se mantendrán en los niveles actuales y no se desarrollarán más sustancialmente”, advirtió Park.