Se está haciendo un trabajo serio, impulsado por la competencia, para desarrollar a Siri como una mejor inteligencia artificial. Se está realizando un trabajo pionero sobre cómo Siri, en el futuro, evaluará la precisión de su información. Cuando la conversación hombre-máquina se vuelva realmente sofisticada, ¿podrá Siri juzgar su propia autoridad? ¿lo haremos?
Hoy, le preguntamos a Siri sobre información básica y escanea bases de datos, gráficos de conocimiento. La suposición es que los datos son precisos. Entonces, si Siri busca un puntaje deportivo, asumimos que los datos originales que se ingresaron son correctos.
A medida que Siri se vuelva más inteligente y conversacional, la IA buscará bases de datos más complejas y responderá consultas más sofisticadas. Siri necesitará una forma de evaluar la credibilidad de sus propias fuentes. Este proceso, relacionado con la reciente adquisición de Lattice Data por parte de Apple, se explica muy bien en este artículo: “Apple está apuntalando a Siri para su próxima generación de dispositivos inteligentes”.
El Proceso Humano
Los seres humanos pasan por su propio proceso de 18 años, comenzando desde el nacimiento, aprendiendo a evaluar el valor y la credibilidad de la información. Cuando un ser humano es un adulto joven, por lo general es bastante bueno conectando la realidad (tal como se percibe) con su propia decisión interna, conocimiento y modelos físicos.
Eran muy familiarizado con los defectos en el modelo físico. A veces comienza con la declaración: “¡Hola, chicos! ¡Ver este!” El resultado es a menudo un Premio Darwin. Últimamente, el fenómeno de las noticias falsas ha desafiado la capacidad de las personas para evaluar la credibilidad de varias fuentes e interpretar lo que se les dice. ¿Cuál será el impacto cuando las IA sean la fuente?
A medida que avanza la relación simbiótica con nuestras IA, ambos participantes serán desafiados a hacer estos juicios. Posiblemente, las IA podrían desarrollar sus propias percepciones y modelos que tienen una divergencia sutil, casi imperceptible, de la del compañero humano. ¿Cómo podría salir mal para nosotros?
Más preocupante es la investigación sobre los juicios que la gente hace de sí misma. La investigación ha demostrado que aquellos que son más inteligentes tienen dudas más fundadas sobre sus conocimientos y procesos de decisión. Cuanto menos inteligente es una persona, más confiada está en sus juicios. ¿Cómo influirá una IA en ese proceso?
Agregue a la mezcla que las IA, cuando se les pide que expliquen su razonamiento, en realidad podrían desarrollar la capacidad de mentir sobre eso, enturbiando aún más las aguas. Es por eso que algunas personas están tan preocupadas por cómo la IA interactuará con los humanos. Ver: “Cómo evitar que la IA nos mate a todos”.
Establecer límites
Actualmente, no existen regulaciones gubernamentales que dicten ningún tipo de estándar sobre cómo los humanos interactuarán con las IA. Se han formado organizaciones como Partnership on AI, de la cual Apple es miembro, para hacer lo siguiente:
Establecido para estudiar y formular las mejores prácticas sobre tecnologías de IA, para avanzar en la comprensión del público sobre la IA y para servir como una plataforma abierta para la discusión y el compromiso sobre la IA y sus influencias en las personas y la sociedad.
Queda por ver qué tipo de errores quedan por cometer, cómo los gobiernos verán a estos agentes de IA y cómo nuestra cultura, pensamiento y acciones pueden verse afectados por las IA. Una cosa es segura. Será una aventura.
