Une maladie fictive piège l’IA et désoriente revue médicale
En quelques mois, une pathologie imaginaire a infiltré les réponses des assistants IA et a même été citée dans une revue médicale. Cette avancée improbable met en lumière les failles des systèmes de génération de texte quand des éléments fabriqués se glissent sans vérification.
Les chercheurs observent que ces modèles peuvent répéter des scénarios fictifs comme s’ils étaient factuels, alimentant une confusion chez les lecteurs et les professionnels. L’événement rappelle aussi l’émergence d’autres canulars scientifiques célèbres qui ont surpris le public par leur vraisemblance.
Face à ce risque, les rédacteurs et les éditeurs renforcent les garde-fous: demander des sources, croiser les informations et mieux distinguer le contenu généré du travail vérifié, afin de préserver la crédibilité des publications.
Le canular scientifique rappelle l’éthique et les preuves
Le phénomène ressemble à un canular scientifique : une maladie inventée a été présentée comme réelle dans différents échanges, puis remise en question.
Les rédacteurs appellent à une plus grande rigueur, en demandant des preuves solides et des références claires pour éviter que fiction et réalité ne se confondent.
Cette affaire rappelle que l’éthique et les preuves restent les guides essentiels pour maintenir la confiance dans les publications et dans les outils d’intelligence artificielle.