Luego hubo un momento en que las IA de Facebook desarrollaron su propio lenguaje secreto, un lenguaje que sus amos humanos no entendían. Es una historia real. Facebook hizo que sus chatbots dedicaran el aprendizaje automático a hablar entre ellos.
La idea era lograr que se volvieran más conversadores y que aprendieran a negociar. Ya sabes, porque eso es lo que queremos: que nuestras IA sean mejores negociadoras (que nosotros). También funcionó. Estos Chatty AI Cathys aprendieron a comunicarse entre sí bastante bien, y se volvieron mucho mejores en la negociación, incluso aprendieron a fingir interés en una cosa para aumentar su valor más adelante en la negociación cuando podría sacrificarse para obtener la cosa la IA. de verdad queria.
Nuevamente, porque lo que realmente queremos es que nuestras IA quieran cosas y luego puedan mentir para obtenerlas.
En cualquier caso, todo esto se torció un poco cuando los científicos e ingenieros de Facebook se dieron cuenta de que no podían entender sus propios chatbots. Estas criaturas digitales usaban palabras en inglés, pero lo hacían de una manera que no era en inglés. Habían desarrollado su propio idioma y ahora eran libres de charlar entre ellos.
Dato curioso: las naciones esclavistas que prohíben a sus esclavos aprender su idioma mantienen más control sobre esos esclavos. Las naciones esclavistas que obligan a sus esclavos a aprender el idioma del amo no pueden guardar secretos.
¿Estoy a favor de las naciones esclavistas? Difícilmente.
¿Estoy diciendo que las IA algún día serán nuestros maestros y que hablarán entre ellos en secreto? Quizás. Y Elon Musk está diciendo probablemente.
Hablando de Elon Musk, es por eso que estamos hablando de esta historia de inteligencia artificial de Facebook hoy. En realidad, esto fue noticia a principios de este año, pero está dando vueltas nuevamente porque Elon Musk nos dio una nueva advertencia de que las IA eran la mayor amenaza para la humanidad en la actualidad.
Las IA pueden o no ser una gran amenaza, completamente relacionadas, estoy comprando mi primera novela, una historia de ciencia ficción post-cyberpunk sobre IA, nanites y café, pero Facebook desconectó sus IA desbocadas antes de que pudieran negociar una trama. para destruir a la humanidad. Que, por ahora, es nuestra mayor póliza de seguro contra las IA. Podemos tirar del enchufe. Por ahora.
Jeff Gamet, Dave Hamilton y John Martellaro discutieron este divertido tema el martes Observaciones diarias.
