Las aplicaciones basadas en Overton han respondido miles de millones de consultas en varios idiomas y han procesado billones de registros, lo que reduce los errores entre 1,7 y 2,9 veces en comparación con los sistemas de producción.
La herramienta se utiliza en “aplicaciones de producción de back-end y casi en tiempo real”, según el documento. Por ejemplo, responder consultas “factoides” como “¿qué altura tiene el presidente de los Estados Unidos?” Es en realidad muy complejo. Requiere un sistema para abordar múltiples tareas. Overton está diseñado para ayudar en ese proceso.
Reuniendo múltiples marcos de desarrollo de IA
Overton toma como entrada un esquema que contiene dos elementos: cargas útiles de datos, que describen los datos de entrada utilizados para entrenar modelos de IA nuevos o existentes, y tareas del modelo, que describen las tareas que el modelo necesita realizar. Además, el esquema define la entrada, la salida y el flujo de datos de grano grueso del modelo de aprendizaje automático de destino.
Esencialmente, muestra cómo un modelo calcula algo, no lo que calcula. Reúne numerosas versiones de marcos de desarrollo de IA. Esto incluye TensorFlow de Google, CoreML de Apple o PyTorch de Facebook. Después de eso, busca la arquitectura y los hiperparámetros adecuados. Además, los ingenieros pueden crear etiquetas asociadas con puntos de datos individuales. Estos indican qué se debe utilizar para la capacitación, las pruebas y el desarrollo.
Rebanar modelo
El documento también indicó que los ingenieros no “escriben ningún código de aprendizaje profundo en un marco como Tensor Flow”. En su lugar, utilizan una técnica llamada corte de modelos. Esto permite la identificación de subconjuntos de datos de entrada críticos para el producto. Esto ayuda a incrementar la capacidad de representación. “El uso de esta técnica desarrollada recientemente condujo a resultados de vanguardia en puntos de referencia de lenguaje natural, incluidos GLUE y SuperGLUE”, señaló el documento.
Actualmente, Overton solo admite el procesamiento de texto. Sin embargo, Apple está creando prototipos de aplicaciones de imagen, video y multimodales.
