En un nuevo estudio, los investigadores dicen que ChatGPT puede falsificar datos médicos convincentes, lo que facilitará la publicación de investigaciones inventadas que pueden causar dudas sobre la legitimidad del trabajo.
El peligro de ChatGPT para el campo médico
A pesar de las capacidades positivas de ChatGPT que brinda comodidad a otros, este tipo de tecnologÃa también puede usarse inevitablemente de manera inapropiada. Los investigadores ahora afirman que esto hará que sea más fácil aprovechar la publicación de investigaciones fraudulentas.
Según un informe de Revista Cosmos, los datos médicos fabricados de ChatGPT parecen convincentes para muchos, lo que pone en peligro a la comunidad cientÃfica, ya que depende en gran medida de los datos. Además, detectar invenciones es difÃcil ya que la obra está completamente inventada y falsificada.
Basado en un estudio publicado en Patrones, los investigadores probaron la precisión de los detectores de IA en lÃnea gratuitos. Se pidió a ChatGPT que generara un resumen para un artÃculo cientÃfico sobre los efectos de dos medicamentos diferentes en la artritis reumatoide a partir de datos de 2012-2020.
Sorprendentemente, produjo un resumen convincente que daba cifras reales, con afirmaciones de que un medicamento funciona mejor que el otro. Esto puede parecer una afirmación peligrosa para un chatbot. Los investigadores afirmaron que pudieron resaltar el peligro de la investigación inventada, junto con las razones y los posibles remedios para ello.
Lea también: Trucos para estudiantes de ética de la IA utilizando ChatGPT Chatbot
Habrá un problema mayor cuando una determinada persona utilice datos que no existen y que solo provienen del chatbot que produjo resultados inventados para realizar un estudio, que, según afirmaron, puede evitar fácilmente la detección humana y puede publicarse en el futuro.
“En una tarde, uno puede encontrarse con docenas de resúmenes que pueden enviarse a varias conferencias para su publicación”, señalaron. Algunos usuarios también pueden utilizar esta tecnologÃa para escribir manuscritos con datos fabricados y resultados falsificados. Una vez que se publiquen estos trabajos, rápidamente contaminarán la investigación legÃtima y afectarán a la industria de trabajos legÃtimos.
Beneficios de la IA para la atención sanitaria
A pesar de la advertencia de los investigadores sobre su peligro, Ingenieria interesante informó que esto también se puede utilizar de manera positiva. Usar inteligencia artificial no es tan malo para la investigación, incluida la revisión gramatical y la conclusión de resultados legÃtimos encontrados en estudios. Esto reducirá el tiempo y el proceso de los investigadores para realizar un determinado estudio.
A medida que la inteligencia artificial emerge en diferentes sectores como la fabricación y la ingenierÃa, la IA también puede ayudar a la industria de la salud al proporcionar resultados mejores y más rápidos, monitoreo las 24 horas del dÃa, los 7 dÃas de la semana y prevención de errores médicos con supervisión humana.
Para que las personas puedan utilizar ChatGPT de forma segura y correcta, los investigadores concluyeron que es necesario realizar pruebas y consideraciones futuras para estudiar los datos fraudulentos y sus implicaciones.
según El informe sobre tecnologÃa sanitaria, Open AI logró aprobar una versión del examen de licencia médica de los Estados Unidos. Actualmente se utiliza para capturar información y redactar apelaciones de denegación de seguro del paciente.
â“’ 2023 . .
