Un grupo de investigadores de la Universidad de Waterloo ha introducido un novedoso modelo de inteligencia artificial (IA) diseñado para mejorar la confiabilidad y precisión en las decisiones generadas por IA y al mismo tiempo abordar los problemas de sesgo.
Según el equipo, los modelos convencionales de aprendizaje automático frecuentemente producen resultados sesgados, favoreciendo a grupos de población más grandes o siendo influenciados por variables ocultas, y detectar estos sesgos puede ser un proceso laborioso que implica descifrar patrones intrincados en diferentes categorías o fuentes primarias.
IA sesgada en el sector médico
El sector médico enfrenta particularmente graves implicaciones debido a resultados sesgados del aprendizaje automático. Los profesionales de la salud dependen en gran medida de extensos conjuntos de datos médicos y algoritmos complejos para emitir juicios críticos sobre la atención al paciente.
El aprendizaje automático agiliza la organización de datos y ahorra tiempo. Sin embargo, este enfoque puede pasar por alto grupos de pacientes con patrones sintomáticos poco comunes, lo que lleva a diagnósticos erróneos y consecuencias sanitarias desiguales para determinados individuos.
Bajo el liderazgo del Dr. Andrew Wong, profesor emérito de ingeniería de diseño de sistemas en la Universidad de Waterloo, se ha desarrollado un nuevo modelo para abordar estos desafíos.
Este modelo innovador está diseñado para desenredar patrones de datos intrincados y correlacionarlos con causas fundamentales específicas que no se ven afectadas por anomalías o instancias mal etiquetadas, mejorando así la confianza y confiabilidad en la Inteligencia Artificial Explicable (XAI).
“Esta investigación representa una contribución significativa al campo de XAI”, anotado Wong, y agregó que el equipo pudo revelar patrones fisicoquímicos de interacción de aminoácidos ocultos en los datos de unión a proteínas de la cristalografía de rayos X.
Estos patrones estaban previamente oscurecidos debido al entrelazamiento de múltiples factores en el entorno vinculante. Según Wong, desenmarañar estas estadísticas entrelazadas proporcionó una representación más precisa del conocimiento más profundo incorporado en los datos.
XAI se refiere a un subconjunto de técnicas de inteligencia artificial y aprendizaje automático diseñadas para proporcionar explicaciones comprensibles e interpretables para las decisiones y predicciones realizadas por los sistemas de inteligencia artificial.
En otras palabras, XAI tiene como objetivo hacer que el funcionamiento interno de los modelos de IA sea más transparente y comprensible para los humanos. El avance del equipo allanó el camino para el desarrollo del modelo de descubrimiento y desenredo de patrones (PDD).
El modelo PPD
El Dr. Peiyuan Zhou, investigador principal del equipo de Wong, destacó la misión del modelo de cerrar la brecha entre la tecnología de inteligencia artificial y la comprensión humana, permitiendo así una toma de decisiones confiable y descubriendo conocimientos profundos a partir de fuentes de datos complejas.
Según el equipo, el modelo PDD ha supuesto una revolución en el ámbito del descubrimiento de patrones. Varios casos de diversos estudios de casos han puesto de relieve la capacidad del PDD para anticipar resultados médicos para los pacientes utilizando sus historias clínicas como base.
Además, el sistema PDD puede descubrir patrones nuevos y poco comunes dentro de conjuntos de datos, lo que permite a investigadores y profesionales identificar puntos de datos mal etiquetados o anomalías dentro de los procesos de aprendizaje automático.
Los hallazgos sugieren que los expertos en atención médica ahora pueden proporcionar diagnósticos más confiables respaldados por evidencia estadística sólida y patrones fácilmente comprensibles. Esto, a su vez, ayuda a mejorar las sugerencias de tratamiento para diversas enfermedades en diferentes etapas.
Los hallazgos del equipo fueron aún más detallado en la revista npj Medicina Digital.
ⓒ 2023 . .
