Si vous avez utilisé Google récemment, vous avez remarqué la vue d’ensemble de l’IA apparaître en haut de vos recherches. Les réponses rapides et pratiques à vos requêtes de recherche proposent pour vous économiser le temps de faire défiler les résultats de la recherche et de cliquer sur des liens pour trouver la réponse vous-même. Mais, combien pouvez-vous vraiment faire confiance à ces résumés de l’IA?
Selon une nouvelle étude de Choice Mutual, pas trop – du moins, pas en ce qui concerne des sujets financiers importants. « Les aperçus de l’IA offrent une commodité, mais leur précision actuelle pour des sujets complexes comme l’assurance-vie et l’assurance-maladie n’est pas fiable », a déclaré le PDG de Choice Mutual, Anthony Martin, dans un article sur les résultats de l’étude.
Plus de la moitié des réponses générées par l’IA aux requêtes d’assurance-vie ont été jugées inexactes par les experts sur le sujet. Bien que les réponses liées à l’assurance-maladie soient précises plus souvent, les quelques fois où ils n’étaient pas impliqués des erreurs potentiellement nocives.
Voici un examen plus approfondi de ce que l’étude a révélé, pourquoi vous ne devriez pas compter sur l’IA, quelle que soit sa pratique, ainsi que quelques conseils sur la façon d’utiliser l’IA sans se faire duper des informations trompeuses.
L’aperçu de l’IA de Google a fait des erreurs qui pourraient vous coûter de l’argent
(Image Credit: Getty Images)
L’analyse mutuelle de choix comprenait 1 000 requêtes communes, 500 chacune sur l’assurance-vie et l’assurance-maladie. L’aperçu de l’IA pour chaque requête a été examiné manuellement par des experts sur chaque sujet pour évaluer la précision de la réponse générée par l’IA.
Dans l’ensemble, l’étude a révélé que 57% des réponses de l’IA sur l’assurance-vie contenaient des erreurs. Bien que l’IA de Google ait plus raison en ce qui concerne l’assurance-maladie, les 13% des réponses qui étaient erronées contenaient des informations inexactes qui pourraient vous coûter de l’argent si vous la preniez à leur valeur nominale.
Sur l’assurance-vie, par exemple, le terme de recherche « l’assurance-vie pour les personnes âgées de plus de 85 sans examen médical » n’a retourné une réponse générée par l’IA qui comprenait des informations sur l’émission garantie l’assurance-vie – un type de police d’assurance-vie qui offre une couverture indépendamment des conditions de santé. Cependant, les experts de l’étude ont noté que ce type d’assurance-vie n’est pas offert aux personnes de plus de 85 ans.
Dans l’évaluation des réponses de l’AIO sur l’assurance-maladie, elle était plus précise. Mais les 13% des résultats qui contenaient des erreurs étaient dangereusement inexacts. Par exemple, lors de la recherche « est-il obligatoire de s’inscrire à Medicare à 65 ans », l’AIO a déclaré que vous pouvez retarder l’inscription sans pénalité si vous avez toujours une assurance maladie par le biais de votre employeur (ou de votre conjoint).
Bien que cela soit en partie vrai, cela ne s’applique qu’aux grands employeurs avec plus de 20 employés. Si vous travaillez pour une petite entreprise ou si vous êtes indépendant, vous pourriez faire face à des pénalités pour retarder l’inscription à Medicare. Prendre une vue d’ensemble de l’IA de Google à sa valeur nominale pourrait entraîner des pertes financières.
Pourquoi même les gens intelligents peuvent être dupés par l’IA
En plus de réaffirmer l’importance de la vérification des faits, ce qui montre également cette étude, c’est à quel point il peut être facile pour une réponse d’IA de tromper même un utilisateur intelligent. Ces réponses semblent approfondies, contenant des détails spécifiques et une terminologie précise qui peut rendre les réponses complètes si vous n’avez pas une expertise de l’industrie ou une connaissance de première main du sujet que vous recherchez.
Dans de nombreux cas, il n’est même pas immédiatement clair quels aspects d’une réponse peuvent être erronés ou justifier des recherches supplémentaires. Selon Martin, cela « contribue directement aux consommateurs qui prennent de mauvaises décisions d’assurance basées sur les fausses informations fournies par les réponses d’IA de Google ».
L’une des raisons pour lesquelles l’IA a décollé au cours des deux dernières années a à voir avec les modèles de grande langue (LLM), comme les Gémeaux de Google, qui alimentent les aperçus de l’IA que vous voyez maintenant en haut des pages de recherche. Les LLM ont un talent pour sembler cohérent et intelligent, même s’il s’agit techniquement de filer des mots basés sur la probabilité mathématique.
Il n’y a pas de réflexion analytique ou de raisonnement derrière. Mais il est facile pour nous de supposer qu’il y en a parce que les mots qu’il est formulés ensemble forment des phrases complètes et à consonance naturelle. Mais, en ce qui concerne les sujets que vous connaissez moins ou où les erreurs de l’AI sont aussi évidentes, il est facile d’être dupé par la prose humaine qu’elle génère.
En ce qui concerne des sujets comme l’assurance-vie ou l’assurance-maladie, de nombreuses personnes qui recherchent Google pour des réponses à leurs questions ne sont pas des experts sur ces sujets. De plus, l’assurance de toute nature est un sujet complexe avec beaucoup de nuances qui est facile pour un LLM de se brosser ou de manquer entièrement.
Conseils pour la vérification des faits AI
(Image Credit: Getty Images)
Le plus gros point à retenir de l’étude mutuelle Choice est que vous ne devriez pas compter uniquement sur l’IA pour répondre aux questions importantes. « Il existe de nombreuses nuances entre différents types de plans de vie et d’assurance-maladie, vous voulez donc vous tourner vers un agent vétéran qui a une expérience approfondie de travailler avec ces plans », a déclaré Martin.
Vous avez besoin d’une véritable expertise humaine en ce qui concerne les questions qui pourraient avoir un impact sur vos finances ou votre santé.
Voici quelques conseils pour utiliser l’IA sans le laisser induire en erreur:
- Poser des questions de suivi. Décomposer la réponse de l’IA en points clés. Ensuite, effectuez une nouvelle recherche sur les points clés qui comptent pour vous. Dans cette réponse Medicare mentionnée ci-dessus, par exemple, vous pouvez utiliser cet aperçu de l’IA comme point de départ, mais ensuite les exigences de couverture de l’employeur Google pour des informations plus approfondies (et crédibles) sur le sujet.
- Vérifiez ses sources. Lorsque vous demandez des sources, les LLMS ne fournissent généralement que des liens vers des pages pour une lecture plus approfondie, pas nécessairement les pages qu’ils ont réellement référencées pour générer la réponse. Mais vous pouvez les utiliser comme prochaine étape dans le processus de vérification des faits.
- Assurez-vous que plus d’une source peut confirmer les informations. Si vous trouvez une étude médicale confirmant que le café est bon pour vous, par exemple, revenez à votre recherche et recherchez des résultats d’étude supplémentaires pour vous assurer que ce n’était pas seulement une seule fois avant de commencer à avaler le café au Gallon.
- Pour les décisions de vie critiques, Trouver un expert humain Vous pouvez vous tourner avec vos questions. Cela pourrait être un conseiller financier, un agent d’assurance, un représentant de votre banque, votre médecin ou toute autre personne ayant des informations d’identification vérifiables auxquelles vous pouvez faire confiance.
