Alexa, Siri, no eres un familiar de confianza

La presunción de los agentes de IA como Alexa, Cortana, Google Home y Siri es que deben estar siempre escuchando, invitados a ser tratados como familiares de confianza. O la leal computadora de la nave estelar de nuestra familia. No me gustan nada estas analogías.

Aquí es de donde vengo. El 10 de mayo, nuestro increíble Jeff Butts escribió: “Siri’s No Amazon Alexa todavía, pero dale tiempo”. Lo que me llamó la atención fue esta sección.

No estoy seguro de cuándo se nos ocurrió por primera vez la idea de un asistente personal incorpóreo como Siri o Amazon Alexa. Sin embargo, mi primer recuerdo de dicha tecnología proviene de la serie de televisión de ciencia ficción Star Trek. Yo, y muchos otros, tenemos recuerdos de desear poder llamar a algo como la computadora de la Enterprise simplemente pronunciando nuestros comandos o consultas. Eso es lo que nos prometió Star Trek, y es lo que muchos de nosotros estamos esperando.

Yo también he estado esperando y, como Jeff, he estado fantaseando con ese tipo de experiencia verbal con una computadora durante años. Pero hay un problema moderno, no anticipado en la ciencia ficción del siglo pasado.

Lealtad

Como se concibió originalmente, esta computadora de a bordo opera en un entorno militar. Es local y está diseñado para atender solo las necesidades de la tripulación.

Estoy pensando en Star Trek VI, El país desconocido. Imagina un giro en la trama—con fines literarios. El Embajador Klingon aparece en el Enterprise con una orden del Alto Mando Klingon exigiendo conocer los detalles de la estrategia de batalla actual del Capitán Kirk. Por el bien de la discusión, la acalorada discusión y las legalidades terminan en manos de la computadora del barco.

Fiel solo al capitán y su tripulación, la computadora ignora la orden y lanza un proceso de apagado con el plan para evitar cumplir con la orden. Se sacrificará para preservar la seguridad y los secretos de la tripulación. (¿Amazon hará eso por mí?)

Compare ese escenario de ciencia ficción con nuestra IA moderna en la que todas las solicitudes se envían al servidor del desarrollador para ser analizadas. Y están almacenados allí, sujetos a una orden judicial. Todos sabemos lo que puede suceder y sucedió: “Un caso de asesinato pone a prueba la devoción de Alexa por su privacidad”.

Sigue el dinero

Hay un motivo financiero detrás de estos agentes de IA, aparentemente servidos como sirvientes útiles, pero en realidad no están bajo nuestro control exclusivo.

Y todavía. La proposición, de hecho la presunción, es que debemos confiar en estas voces incorpóreas, estos pequeños cilindros en nuestros escritorios para sentarse allí y escuchar gran parte de lo que decimos, dado el comando de prefijo correcto, por supuesto.

Centrándonos un poco en Amazon, admitiré que la compañía se ha tomado la molestia de darnos cálidos comentarios. El anillo azul (y el pitido opcional) nos informan cuando Alexa está escuchando. El micrófono se puede desactivar (anillo rojo encendido). Aun así, estos mecanismos para proteger nuestra privacidad son tenues. Hay demasiada tentación de abusar de un sistema como este y, a medida que avanza la tecnología, no hay garantía de que lo que vemos en la superficie y las suposiciones que hacemos se conserven para siempre por todos los desarrolladores.

Alexa y AI similares no son realmente servidores dedicados al 100 por ciento a nosotros. Son servicios diseñados para verse y actuar como un sirviente, pero no hay comparación con un familiar de confianza. Los miembros de la familia se han ganado el derecho de escuchar siempre lo que decimos, cómo nos sentimos e incluso perdonar las declaraciones erróneas.

Los robots perpetúan la ilusión

Empeorará cuando estas IA migren a lindos robots que están diseñados, por su apariencia, para ser cariñosos, amigables, accesibles y no amenazantes. Tendremos que ser doblemente cuidadosos con la forma en que conversamos con estos robots porque, si el diseño básico continúa, también estarán bajo el control legal del desarrollador. Lea su CLUF.

Hasta que estas IA se conviertan en seres independientes, con voluntad y sentido de a quién son leales, como en Star Trek Teniente Comandante Data, sospecho que el Star Trek la fantasía y la ilusión serán perpetuadas a propósito por los desarrolladores. Habrá mucho que ganar además de los ingresos por hardware. Las tentaciones de aprovechar aún más lo que se sabe sobre nosotros serán difíciles de resistir. (Apple puede ser aplaudido, hasta ahora.) A medida que proliferan servicios como este, los clientes se verán tentados a leer demasiado sobre la experiencia de apariencia inocente. La precaución será arrojada al viento. En el proceso, la relación seguirá siendo muy unilateral.

Alexa. Cortana. Página principal de Google. Siri. Eres lindo y servicial. Pero no eres un familiar de confianza. Tampoco eres mi leal computadora de la nave estelar. Eres solo otro servicio de Internet que debe manejarse con mucho cuidado.