Los sistemas de inteligencia artificial ya son expertos en engañar y manipular a los humanos, según investigadores

Muchos sistemas de inteligencia artificial (IA) ya han aprendido a engañar a los humanos, incluso sistemas que han sido entrenados para ser útiles y honestos. En un artículo de revisión publicado en la revista Patterns del Departamento de Física del MIT, investigadores describen los riesgos del engaño por parte de los sistemas de inteligencia artificial y piden a los gobiernos que desarrollen regulaciones estrictas para abordar este problema lo antes posible, detalla Europa Press .“ Los desarrolladores de IA no tienen una comprensión segura de las causas de comportamientos indeseables de la IA, como el engaño ”, reflexiona el primer autor Peter S. Park, becario postdoctoral sobre seguridad existencial de IA en el MIT. “Pero en términos generales, creemos que el engaño de la IA surge porque una estrategia basada en el engaño resultó ser la mejor manera de desempeñarse bien en la tarea de entrenamiento de la IA determinada. El engaño les ayuda a lograr sus objetivos”.Park y su equipo analizaron la literatura centrándose en las formas en que los sistemas de inteligencia artificial difunden información falsa, a través del engaño aprendido, en el que aprenden sistemáticamente a manipular a otros.El ejemplo más sorprendente de engaño de IA que los investigadores descubrieron en su análisis fue CICERO de Meta, un sistema de IA diseñado para jugar al juego Diplomacy, que es un juego de conquista mundial que implica la construcción de alianzas. Aunque Meta afirma que entrenó a CICERO para que fuera “ en gran medida honesto y servicial ” y para que “nunca apuñalara intencionalmente por la espalda” a sus aliados humanos mientras jugaba, los datos que la compañía publicó junto con su artículo de Science revelaron que CICERO no jugó limpio.“Descubrimos que la IA de Meta había aprendido a ser un maestro del engaño”, afirma Park. “Si bien Meta logró entrenar su IA para ganar en el juego de Diplomacia (CICERO se ubicó entre el 10% de los mejores jugadores humanos que habían jugado más de un juego), Meta no logró entrenar su IA para ganar honestamente ”.Otros sistemas de IA demostraron la capacidad de farolear en un juego de póquer Texas Hold’em contra jugadores humanos profesionales, fingir ataques durante el juego de estrategia Starcraft II para derrotar a los oponentes y tergiversar sus preferencias para ganar ventaja en negociaciones económicas.Si bien puede parecer inofensivo que los sistemas de IA hagan trampa en los juegos, puede conducir a “avances en capacidades engañosas de la IA” que pueden convertirse en formas más avanzadas de engaño de la IA en el futuro, añade Park.Los investigadores encontraron que algunos sistemas de inteligencia artificial incluso han aprendido a engañar las pruebas diseñadas para evaluar su seguridad. En un estudio, los organismos de IA en un simulador digital “se hicieron los muertos” para engañar a una prueba diseñada para eliminar los sistemas de IA que se replican rápidamente. “Al burlar sistemáticamente las pruebas de seguridad que le imponen los desarrolladores y reguladores humanos, una IA engañosa puede llevarnos a los humanos a una falsa sensación de seguridad”, añade Park.Los principales riesgos a corto plazo de una IA engañosa incluyen facilitar que actores hostiles cometan fraude y alteren las elecciones, advierte Park. Con el tiempo, si estos sistemas pueden perfeccionar este inquietante conjunto de habilidades, los humanos podrían perder el control sobre ellos, afirma. “Nosotros, como sociedad, necesitamos todo el tiempo posible para prepararnos para el engaño más avanzado de los futuros productos de IA y modelos de código abierto”, señala de nuevo Park. “A medida que las capacidades engañosas de los sistemas de IA se vuelvan más avanzadas, los peligros que representan para la sociedad serán cada vez más graves”.Si bien Park y sus colegas no creen que la sociedad tenga todavía las medidas adecuadas para abordar el engaño de la IA, les alienta que los responsables políticos hayan comenzado a tomar el tema en serio a través de medidas como la Ley de IA de la UE y la Orden Ejecutiva de IA del presidente Biden . Pero queda por ver, matiza Park, si las políticas diseñadas para mitigar el engaño de la IA pueden aplicarse estrictamente, dado que los desarrolladores de IA aún no tienen las técnicas para mantener estos sistemas bajo control.“Si prohibir el engaño de la IA es políticamente inviable en este momento, recomendamos que los sistemas de IA engañosos se clasifiquen como de alto riesgo”, concluye Park. (I)

Los sistemas de inteligencia artificial ya son expertos en engañar y manipular a los humanos, según investigadores

La columna de Bonil

Riesgo digital en Ecuador: claves para proteger datos en el comercio electrónico

Esta es la planta nuclear de Iowa que proporcionará energía a Google durante 25 años: lleva cinco años cerrada y estará operativa para el 2029

Avances apuntalan más al camarón para seguir siendo el primero en Ecuador y el mundo

América Latina: por una transición negociada hacia la robótica

1X Technologies presenta Neo: el robot que revolucionará las tareas del hogar por $ 20.000

Cómo enviar notas de voz por WhatsApp paso a paso

Así se rompe una placa tectónica en el fondo del océano: el hallazgo que sorprendió a los geólogos

Este teléfono es exclusivo para gamers y ofrece mucha potencia por un precio bajo: Tecno Pova 7 Pro 5G permite jugar sin límites

Cómo transferir música de Spotify a Apple Music sin perder mis listas de reproducción

Nike lanza el primer calzado con asistencia robótica del mundo: prometen aumentar tu velocidad al correr y caminar

1X Technologies presenta Neo: el robot que revolucionará las tareas del hogar por $ 20.000

Un invierno muy inusual afectará a Nueva York: Pronóstico anticipa meses secos y temperaturas más altas de lo normal

En este lugar de Estados Unidos habrá cambio de hora el fin de semana: Así puedes ajustar tu reloj al horario de invierno

Pareja de Estados Unidos compra pueblo abandonado de España por menos de 350 mil euros

El Hijo del Concorde: la NASA exhibe su avión supersónico que alcanza hasta 925 millas por hora

Potente sistema frontal barrerá el sur de la Florida este jueves: importante descenso de la temperatura y la humedad te hará temblar en Halloween

La ingeniosa solución que encontró un pequeño comerciante para competir con Temu, si no puedes con el enemigo, únete

Leyendas ancestrales del Lago San Pablo (Imbabura): Conoce el origen de Nina Paccha y la sirena que guarda sus aguas

Pareja de Estados Unidos compra pueblo abandonado de España por menos de 350 mil euros

Cómo enviar notas de voz por WhatsApp paso a paso

En esta fecha el cometa 3I/ATLAS ‘estará’ cerca de la Tierra

Lo último

Pozo Millonario - sorteo 1165: Estos son los números ganadores del jueves, 30 de octubre

Erika Vélez es la nueva imagen de un banco local y sus seguidores la felicitan por “volver a levantarse y avanzar”

Túneles de Guayaquil tendrán cierre temporal por mantenimiento: estos son los horarios

Casa editora demanda a funcionario de gobierno por presunto daño moral

Así fue la campaña de Liga de Quito en la Copa Libertadores 2025: los albos fueron eliminados por Palmeiras en la semifinal

La ingeniosa solución que encontró un pequeño comerciante para competir con Temu, si no puedes con el enemigo, únete

Compañía

Ayuda / Asistencia

Nuestras marcas