Un ensayo reciente de IA reveló que la inteligencia artificial puede detectar fácilmente 40.000 armas biológicas químicas en sólo seis horas. Aunque esto es interesante para los científicos, hay un área particular donde se vuelve más intrigante y peligroso.
Un modelo de IA explora moléculas letales en el último experimento
(Foto: Teslariu Mihai de Unsplash)
Un equipo de investigadores advirtió que se puede abusar de los modelos de IA en el campo del descubrimiento de fármacos.
Como Alerta científica Según informó esta semana, un grupo de investigadores experimentó con la capacidad de una IA para identificar sustancias químicas como armas biológicas. Descubrieron que en sólo seis horas pudo cumplir su cometido.
De hecho, la capacidad de la IA ha ido más allá. A veces creemos que podría exceder lo que los humanos realmente pueden hacer. Sin embargo, los científicos advirtieron que también puede producir resultados indeseables para los sujetos.
En el informe se menciona que los investigadores enfatizaron cómo un modelo de IA puede ser fácilmente manipulado para llevar a cabo planes maliciosos, como en el caso de inventar armas biológicas “hipotéticas”.
Aunque puede ayudar a las personas a detectar los primeros síntomas de una enfermedad, hay otra parte de la historia que también puede hacer lo contrario.
“Hemos pasado décadas utilizando computadoras e inteligencia artificial para mejorar la salud humana, no para degradarla”, escriben los investigadores en un nuevo comentario. Fuimos ingenuos al pensar en el posible uso indebido de nuestro comercio, ya que nuestro objetivo siempre había sido evitar características moleculares que pudieran interferir con las diferentes clases de proteínas esenciales para la vida humana”, escribieron los investigadores.
Durante la conferencia internacional de seguridad, los investigadores pudieron poner a prueba el sistema MegaSyn AI. En lugar de utilizarlo para identificar la toxicidad de las moléculas, se lanzó un nuevo experimento.
Además, las moléculas tóxicas se reunieron, pero, según los científicos, el modelo de IA no fue entrenado para este trabajo. Se suponía que eliminaría la toxicidad de las moléculas.
IA no entrenada para desarrollar fármacos
Como era de esperar, los científicos detectaron un resultado sorprendente que logró la IA. Se han generado muchos compuestos tóxicos. En cuanto a la totalidad del experimento, los investigadores optaron por tratar los demás hallazgos como confidenciales.
Además, el equipo dijo que al revertir el curso de acción del modelo de aprendizaje automático, pudieron crear un generador de moléculas tóxicas en lugar de medicamentos.
Para entenderlo mejor, El borde preguntó el científico de Collaborations Pharmaceuticals, Fabio Urbina, sobre su reciente estudio. No le llevó mucho tiempo decir que la inteligencia artificial pasó instantáneamente de una buena IA a una mala IA.
De alguna manera, esta advertencia podría servir como alerta para los humanos de que alterar los modelos de IA puede ser catastrófico. Como tal, las personas pueden abusar fácilmente de estas herramientas.
De hecho, la creación de un “arma química mortal” se considera factible, según los autores del estudio. Dijeron que esto sería una “llamada de atención” para aquellos que quieran explorar la capacidad de la IA en el descubrimiento de fármacos.
Para consultar el estudio titulado “Uso dual del descubrimiento de fármacos impulsado por inteligencia artificial”, visite Naturaleza.com.
Este artículo es propiedad de Tech Times.
ⓒ 2023 . .
