La lettre de veille de janvier 2023 : « Qui parle ? »

Depuis sa livraison en novembre 2022, le modèle de langage ChatGPT, système d’intelligence artificielle qui peut générer du texte, est l’objet de nombreux articles autour de ses usages problématiques, notamment par les étudiants, mais aussi leurs enseignants utilisant l’outil pour rédiger leurs appréciations, ainsi que par des chercheurs produisant des articles scientifiques semi-automatiquement…Des questions sur l’avenir de la production d’essais et de recherches universitaires sont ainsi soulevées, et plus largement des questions éthiques, juridiques et de régulation. “ChatGPT et autres IA suscitent de plus grandes questions que celles auxquelles elles répondent“, comme celle de l’appropriation de bien public autour des connaissances …

Les scientifiques et les spécialistes de l’édition craignent par exemple que la sophistication croissante des chatbots ne compromette l’intégrité et l’exactitude de la recherche. ChatGPT semble bien pouvoir en effet tromper même des experts académiques sur leurs propres sujets, écrit Else Holly dans un article du 12 janvier.

Est donc suggéré que ceux qui évaluent les communications scientifiques, les articles de recherche et les actes de conférence, devraient mettre en place des politiques visant à éradiquer l’utilisation de textes générés par l’IA. Les logiciels antiplagiat utilisés dans le monde universitaire, comme Compilatio, “se disent déjà sur le coup” et des détecteurs de texte produits par ChatGPT commencent à apparaître… Parmi les outils en ligne pour détecter les plagiats et les contenus dupliqués listé par Fidel Navamuel, est indiqué GPTZero, “outil un peu sérieux qui s’attaque aux ravages causés par le fameux ChatGPT.” Des chercheurs de Stanford ont lancé DetectGPT, un outil de détection des textes générés par ChatGPT dédié à l’enseignement supérieur, un outil montréalais pour détecter l’IA a aussi été développé pour les textes en anglais, l’analyse des textes écrits en français est à venir.  Si les institutions choisissent d’autoriser l’utilisation de cette technologie dans certains cas, elles devraient établir des règles claires en matière de divulgation. 

En effet, le chatbot a déjà fait ses débuts officiels dans la littérature scientifique, obtenant au moins quatre crédits d’auteur sur des articles et des prépublications publiés comme le signale Chris Stokel-Walker le 18 janvier : beaucoup de scientifiques désapprouvent …Pour cette raison, une conférence comme ICML (International Conference on Machine Learning) a déjà interdit aux chercheurs de soumettre des articles produits en partie avec ChatGPT.

Une spécialiste de l’éthique du numérique, Laurence Devillers, a appelé le 20 janvier, dans une tribune au « Monde », à cerner les défis éthiques posés par le robot conversationnel pour mieux en maîtriser l’usage : « Saluer l’avancée technologique, mais comprendre les limites de ce type de système ». Le danger le plus direct de ces systèmes est la possibilité d’inonder le monde de milliards de « fake news » …Cependant, “d’un mal pourrait ainsi naître un bien” écrit Erwan Lamy le 26 janvier :  “Devant une avalanche de textes dont on ne saurait s’ils sont corrects ou non, notre vigilance pourrait s’affirmer“, “les lecteurs des productions de cette IA, échaudés par le torrent de « bullshit » qu’elle risque de déverser, pourraient redoubler d’attention à la lecture d’un texte en ligne”...

Thierry Boibeau propose ainsi de réfléchir aux limites actuelles et futures de ChatGPT, et aux marchés potentiels pour ce type de systèmes dans un article du 20 janvier : “ChatGPT, une IA qui parle très bien… mais pour quoi faire ?”

Des universités à l’étranger,  en Australie et aux Etats-Unis, ont déjà interdit l’utilisation de ChatGPT, accusé de faciliter la triche. L’outil  a réussi par exemple à passer un examen de Master of business administration (MBA) d’une école de commerce, avec la note B. Il a été banni des écoles new-yorkaises ! Pour l’instant en France, Sciences Po Paris a annoncé l’encadrement de l’utilisation de ChatGPT pour ses étudiants, mails la plupart des établissements sont encore en pleine phase de réflexion et “l’idée est plutôt d’accueillir cette nouvelle technologie, voire de l’inclure dans la pédagogie“. Il est donc envisagé comme un outil pédagogique.

L’aide à la rédaction n’est pas la seule façon de mettre à profit ChatGPT. Plus de 100 extensions, bots, addons et autres apps permettant déjà d’intégrer ChatGPT à votre environnement de travail !

Alana Rister présente dans une vidéo comment dialoguer avec ChatGPT, comme vous le feriez avec un de vos collègues pour stimuler votre réflexion et découvrir un nouveau domaine, poser une problématique, développer une hypothèse, analyser les données …

Bémol pourtant ! Curtis Kendrick a essayé ChatTGPT pour une communication et lui a demandé s’il avait été formé sur la littérature académique. Le programme ne l’était pas, utilisant des sources provenant d’Internet et des sites de médias sociaux. Le projet d’intégrer des données académiques est envisagé mais sans calendrier …Pour lui, il faudrait exposer ChatGPT à des données provenant du monde universitaire (JSTOR, ScienceDirect, …) ou des sources de référencement de citations : “Cela permettrait à ChatGPT de fournir des citations d’articles ou d’autres travaux effectifs, plutôt que de les inventer comme un étudiant de première année qui doit rendre un devoir le lendemain matin“. Il répond à la question de son article en date du 26 janvier : “The Efficacy of ChatGPT: Is it Time for the Librarians to Go Home?” par cette conclusion : “As far as the librarians, I think we better stick around for a while longer. ChatGPT se nourrit des cours et du savoir disponible en ligne, mais il ne fait pas le tri entre le vrai et le faux, c’est l’un de ses principaux problèmes. “Si ChatGPT est un puissant exécuteur de tâches redondantes, il ne faut pas confondre cet outil conversationnel avec un moteur de recherche ou une encyclopédie.” rappelle Marie Turcan le 31 janvier : “Ne faites pas confiance à ChatGPT, il ment tout le temps

L’émergence de ChatGPT a mis “les produits basés sur l’intelligence artificielle sous le feu des projecteurs“comme par exemple le nouveau produit DeepL Write , service qui vous permet d’améliorer vos textes (pour le moment seulement pour l’anglais et l’allemand). “Selon DeepL, Write serait particulièrement utile pour les journalistes, les auteurs, ou encore les chercheurs, qui peuvent utiliser les suggestions de l’intelligence artificielle pour doper leurs créativités.”

Bref, ce service a donc des limites, va sans doute susciter encore des débats et peut au mieux pour l’instant servir d’assistant …Chaque jour, la liste d’applications de l’IA s’allonge dans tous les domaines de la science et “sur le terrain, les chercheurs apprennent à collaborer avec ces nouveaux assistants de pointe. “L’IA est en train d’envahir à grande vitesse les laboratoires pour améliorer les instruments, accélérer les calculs, aiguiller vers des hypothèses fécondes, etc.” rappelait David Larousserie dans Le Monde en octobre dernier. Alors, autant participer : la recherche s’est emparée de ce sujet avec le projet public-privé Bloom (BigScience Large Open-science Open-access Multilingual Language Model) : BigScience vise à entraîner, sur un modèle de science ouverte et participative, un modèle de langue multilingue et open source.

BigScience Logo

Et le reste de l’actualité ici :

PS : ce billet n’a pas été rédigé par ChatGPT !

 

 


OpenEdition vous propose de citer ce billet de la manière suivante :
Laurence Bizien (2 février 2023). La lettre de veille de janvier 2023 : « Qui parle ? ». Lab & doc. Consulté le 22 juillet 2024 à l’adresse https://doi.org/10.58079/qo45


Laurence Bizien

Documentaliste au Centre de Recherche Nantais Architectures Urbanités (CRENAU) ,équipe nantaise du laboratoire AAU (UMR Ambiances, Architectures, Urbanités)

Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search