Mozilla, la organización sin fines de lucro detrás del navegador web Firefox, celebra su 25 aniversario con la fundación de una empresa de inteligencia artificial (IA) llamada Mozilla.ai.
El presidente ejecutivo de Mozilla y líder de Mozilla.ai, Mark Surman, ha dicho que la compañía tiene como objetivo crear tecnología de inteligencia artificial de código abierto y “confiable”.
Mientras trabajaba en una IA confiable durante más de cinco años, sintió “constantemente una mezcla de entusiasmo y ansiedad”. TechCrunch“El último mes o dos de anuncios rápidos de IA de las grandes tecnologías no han sido diferentes. Está surgiendo nueva tecnología realmente emocionante: nuevas herramientas que han estimulado inmediatamente a artistas, fundadores… La ansiedad llega cuando te das cuenta de que casi nadie está mirando. en las barandillas.”
Implicaciones de la IA en el mundo real
Surman aludía a la actual avalancha de modelos de IA que, aunque notables en sus habilidades, tienen preocupantes ramificaciones prácticas.
En su primera forma, ChatGPT de OpenAI, una IA conversacional, podría entrenarse para componer malware, encontrar vulnerabilidades en código fuente abierto y diseñar sitios web de phishing que imitaran a los populares. Por otro lado, los sistemas de inteligencia artificial de texto a imagen como Stable Diffusion se han utilizado indebidamente para generar deepfakes pornográficos no consensuados y representaciones ultragráficas de violencia.
Los desarrolladores de los modelos se han comprometido a hacer todo lo posible para evitar la explotación. Sin embargo, Mozilla creía que se podía hacer más.
“Hemos estado trabajando en IA confiable en el lado de la investigación de interés público durante aproximadamente cinco años, esperando que otros actores de la industria con más experiencia en IA den un paso al frente para construir tecnología más confiable. No lo han hecho”, afirmó Surman.
Lea también: Google lanza oficialmente Bard AI Chatbot en un intento de ponerse al día con ChatGPT de OpenAI
Declaración de misión de la empresa
Mozilla.ai, al igual que Mozilla Corporation y Mozilla Ventures, es una división de propiedad exclusiva de la Fundación Mozilla, que le proporcionó 30 millones de dólares.
Según el informe, Mozilla.ai es una empresa que tiene como objetivo ayudar a construir una pila de IA de código abierto, independiente y confiable combinando las características de una organización de investigación y una comunidad.
El primer objetivo de Mozilla.ai es reunir un equipo de unos 25 desarrolladores, investigadores y gerentes de productos para crear sistemas de recomendación confiables y enormes modelos de lenguaje similares al GPT-4 de OpenAI. El objetivo más amplio de la compañía es construir una coalición de organizaciones con ideas afines, como empresas e instituciones académicas respaldadas por Mozilla Ventures.
Mozilla.ai dedicará los siguientes meses a crear herramientas que, por ejemplo, permitan a los usuarios examinar las fuentes subyacentes a las respuestas que proporcionan los chatbots de IA. Todo esto es un esfuerzo por seguir las tendencias actuales en la investigación de la IA, que también son las áreas que reciben más financiación.
Construyendo sobre Mozilla investigación previala compañía planea desarrollar sistemas que optimicen las sugerencias para valores individuales o comunitarios, brindando a los consumidores más agencia sobre la IA de recomendación de contenido, como los algoritmos que impulsan los feeds de YouTube, Twitter y TikTok.
Lea también: Ubisoft admite que la IA ayuda a los desarrolladores a escribir diálogos sobre juegos: así es como funciona la herramienta Ghostwriter
ⓒ 2023 . .
