Diversos programas de inteligencia artificial (IA) han aprendido a engañar a las personas, pese a haber sido entrenados para ser honorables, esto, según un estudio que cita, entre otros ejemplos el modelo Cicero, de Meta, capaz de ganar con mañas al juego de estrategia Diplomacy.
Un artículo publicado en Patterns, revela que ante esta situación los científicos piden a los Gobiernos elaborar normas estrictas para enfrentar el problema. Señalan que "los desarrolladores de IA no saben exactamente qué causa este polémico comportamiento en la IA".
CONSEGIR OBJETIVOS
Tratando de explicar el caso, investigadores señalan que todo habría surgido porque una estrategia basada en ese comportamiento fue "la mejor manera de lograr resultados positivos en una tarea dada de entrenamiento. El engaño les ayuda a conseguir sus objetivos deseados".
Aunque pueda parecer inocuo que los sistemas de IA falseen en los juegos, esto puede dar lugar a un "peligroso crecimiento en las capacidades de engaño" que pueden derivar en formas más avanzadas de mentir en el futuro, consideran los especialistas. Con información de Cell Press, Patterns.
