Facebook desconecta una inteligencia artificial que se volvió en su contra
La división de Facebook decidió apagar un sistema que creado para negociaciones.
La IA constaba de dos agentes que se dedicaban a negociar, llamados Bob y Alice. Sus creadores querían probar si el sistema podía aprender a negociar, pero a los pocos días notaron que ya hablaban en inglés.
Bob: “I can i i everything else”
Alice: “balls have zero to me to me to me to me to me to me to me to”
Traducción:
Bob: “Yo puedo yo yo todo lo demás”
Alice: “bolas tienen cero a mi a mi a mi a mi a mi a mi a”
Lo que parecía ser frases sin sentido, tenía un patrón. Los investigadores descubrieron que la IA había creado su propio idioma, uno que consideraba mucho más efectivo que el inglés. Se pudo determinar que “yo” y “a mi” reflejan la cantidad de objetos que obtendrán en el intercambio.
El problema es que si un sistema de inteligencia artificial decidiera ignorar el idioma en el que fue programada y crear uno “más eficiente”, sería imposible comunicarnos con ella. Esto significa la pérdida completa de control sobre la IA.
Fuente: Gizmodo