Google avance que ses « AI overviews », qui proposent en tête des résultats de recherche des « aperçus » résumant les réponses identifiées par l'IA générative comme les plus pertinentes, sont « utiles » et « fiables ».
Dans un cas qualifié de « très dangereux » par les experts interrogés par le Guardian, Google a par exemple conseillé à tort aux personnes atteintes d'un cancer du pancréas d'éviter les aliments riches en graisses. Ce qui va à l'encontre des recommandations habituelles et pourrait augmenter le risque de décès des patients, soulignent les experts.
Une recherche Google sur les « symptômes et tests du cancer du vagin » a répertorié le frottis du col de l'utérus comme un test de dépistage du cancer du vagin, ce qui est là encore « totalement erroné » et pourrait amener à ignorer des symptômes avérés, souligne Athena Lamnisos, directrice générale de l'association caritative Eve Appeal
Le Guardian a également constaté que les aperçus fournis par l'IA de Google en réponse à des recherches sur des troubles mentaux tels que la psychose et les troubles alimentaires offraient des « conseils très dangereux » et étaient « incorrects, nuisibles ou susceptibles d'inciter les gens à ne pas demander d'aide », explique Stephen Buckley, responsable de l'information chez Mind, qui les qualifie de « très préoccupants »