Pourquoi l’IA est-elle en train de nous rendre stupides ?

Avec la déferlante des LLM ( Large Language Models ), provoquée fin 2022 par l’émergence soudaine de es solutions les plus faciles qui lui demanderont le moins de ressources cognitives .

Jamais nous n’avons pu apprendre aussi facilement grâce à cette technologie, et c’est bien là le problème. Le processus d’apprentissage suppose , puisqu’elle nous évite de manipuler nous-mêmes la matière première du savoir et nous livre un produit fini prémâché, qui n’a jamais fait preuve d’une quelconque construction intellectuelle de notre part . C’est le postulat d’une étude publiée dans la revue PNAS NEXUS le 28 octobre, par deux chercheurs américains en marketing, Jin Ho Yun et Shiri Melumad. Après sept expériences menées sur plus de 10 000 participants, voici ce qu’ils en ont conclu, et nous préférons vous prévenir, ce n’est pas bien réjouissant.

Apprendre sans effort : le vrai piège cognitif

Selon les deux auteurs, les usagers s’informant via l’IA générative ont tendance à développer des connaissances plus superficielles que ceux qui utilisent «  à l’ancienne  » une recherche web classique. La synthèse d’informations (même si elle peut être correcte, ce n’est pas le sujet) produite par un modèle n ous soulage de la partie inconfortable de l’apprentissage , qui nous demande forcément un effort intellectuel plus important. Nous devenons, en théorie, plus efficaces, mais ne comprenons pas ce que nous cherchons : peut-on vraiment parler d’efficacité dans ce cas-là ?

En aucun cas l’étude affirme que l’IA est une mauvaise vectrice d’informations, mais elle transforme l’acte même d’apprendre en consommation d’informations , comme un fast-food trop gras mal digéré. Une recherche web via Google, par exemple, nous oblige à lire plusieurs sources, à s’assurer de leur fiabilité et à les comparer pour éviter qu’elles ne nous donnent des informations contradictoires : des étapes indispensables au bon fonctionnement de notre cognition et de notre compréhension.

Si l’on utilise un chatbot pour le même objectif, il s’acquittera de ces tâches à notre place, ce qui nous installe dans une forme de paresse cognitive. Nous devenons ainsi les récéptacles passifs d’un savoir qui nous infantilise intellectuellement, comme si cette technologie nous déchargeait du lourd fardeau que serait devenu l’acte de penser .

Le constat des deux auteurs n’a pas été établi au doigt mouillé , puisqu’ils ont demandé aux participant de l’étude, durant sept expérience, d’apprendre sur un sujet donné. Un groupe utilisait la recherche Google, l’autre un modèle génératif qui synthésait les informations.

Les chercheurs ont demandé à des lecteurs indépendants d’évaluer les écrits rédigés par chaque participant. Sans savoir quel outil avait été utilisé, les relecteurs donnaient toujours les meilleures notes aux textes issus d’une recherche classique . Pire encore : quand les deux groupes recevaient exactement les mêmes informations (pour éviter que l’IA soit pénalisée, ce qui aurait biaisé le résultat), les utilisateurs de chatbot produisaient toujours des réponses moins pertinentes.

Que nous montre, au fond ce protocole et ces résultats ? Que la compréhension n’est jamais le fruit du savoir brut , mais de l’effort que l’on investit pour le transformer en contenu intelligible.

En aucun cas cette étude ou nous-mêmes ne diabolisons les LLM, qui restent, quoiqu’on en dise, de formidables outils à condition qu’ils soient bien utilisés. Il nous faut simplement avoir l’honnêteté d’admettre que ces systèmes automatisés n’ont d’intelligence que le nom , ils n’ont pas d’intérirorité, ce sont des perroquets algorithmiques qui recyclent des mots.

Jamais ils ne remplaceront l’acte de penser, et si nous continuons à leur confier les premières étapes de notre raisonnement (un ensemble de compétences que l’on apprend autour de 5 à 8 ans), notre rapport à l’information s’étiolera inévitablement .

L’essor d’Internet dans les années 1990 et 2000 avait provoqué, dans certains cercles intellectuels, des réticences similaires. D’aucun y percevaient déjà une menace pour la qualité de la connaissance et de l’apprentissage, mais nous sommes finalement restés acteurs de notre propre savoir et le Web a provoqué de multiples révolutions en accompagnant la création d’une culture numérique extraordinaire .

Depuis la colonisation de l’IA dans notre vie quotidienne , les acteurs de la tech nous ont mis un autre contrat entre les mains : celui du savoir clé en main . Comme l’explique Gaspard Koenig dans son ouvrage La Fin de l’individu : «  Le plus grand danger n’est pas l’IA. C’est nous-même s […] L’IA est notre lit de Procuste, ce brigand mythologique qui raccourcissait les membres de ses hôtes pour les adapter à la taille de son lit […] Nous ne devons pas tempérer notre langage […] ratiboiser nos ambitions, pour rentrer dans le lit à taille unique des algorithmes ». Le lit de Procuste était confortable, car standardisé, mais la standardisation de la pensée est un confort qui pourra, à terme, nous coûter très cher . Beaucoup s’y glissent déjà avec plaisir, et il n’y a rien de plus redoutable qu’un piège auquel on consent avec enthousiasme

🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités et sur notre WhatsApp . Et si vous nous adorez, on a une newsletter tous les matins .

D’après Journal du Geek.