En el campo de “Oh, eso no es nada espeluznante”, Amazon está tratando de darle a Alexa la capacidad de imitar la voz de cualquier persona. El minorista en línea está desarrollando un sistema para su asistente de voz que permitiría a Alexa sonar como la abuela favorita de un cliente o cualquier otra persona.
Un área gris sobre si deberíamos o no dejar que Alexa imite voces
Este es un segmento de la tecnología que ya está bajo mucho escrutinio, y por una buena razón. Hace varios años, el director ejecutivo de una empresa de energía pensó que estaba hablando con su jefe por teléfono. En realidad, se utilizó software de inteligencia artificial para defraudar a la empresa.
Microsoft tiene una tecnología similar, que permite a su software repetir como loros las voces de otras personas. Esa empresa ha optado por restringir qué empresas pueden utilizar esta capacidad.
El objetivo de este tipo de tecnología es ayudar a las personas con problemas del habla u otros problemas. Sin embargo, está muy expuesto al abuso. Algunos temen que pueda usarse para propagar falsificaciones políticas. Permitiría poner palabras en los nombres de políticos rivales que nunca estuvieron ahí en primer lugar.
Un propósito más inocuo que sigue siendo espeluznante
En el caso de Amazon, la empresa tiene otros usos en mente (a través de Reuters). Al demostrar la función aún no lanzada, Amazon representó a un niño preguntándole a Alexa: “¿Puede la abuela terminar de leerme El Mago de Oz?”. El Eco confirmó la orden y luego cambió su voz a una más relajante y menos robótica.
Amazon dio a conocer la capacidad durante una conferencia en Las Vegas. Rohit Prasad, vicepresidente senior de Amazon, dijo que el sistema permitirá a Alexa imitar cualquier voz después de escuchar menos de un minuto de audio. Prasad dijo que el objetivo de la función es “hacer que los recuerdos duren” después de que “muchos de nosotros hemos perdido a alguien que amamos” durante la pandemia.
Estoy seguro de que a algunos les resultará reconfortante volver a escuchar la voz de un ser querido, pero no sería yo quien dejara que Alexa asumiera esa imitación. También veo demasiadas oportunidades para abusar de esa capacidad. La tecnología ya puede engañar al público en general con demasiada facilidad. En mi opinión, agregar la capacidad de imitar las voces de otros es un paso demasiado lejos en ese camino.
