La lettre de veille de mars 2024 : l’IA dans la recherche

La Commission européenne a publié le 20 mars des recommandations, à destination des chercheurs, institutions et agences de financement, sur l’utilisation responsable de l’IA dans la recherche, dont les points clés sont : les chercheurs doivent éviter d’utiliser des outils d’IA générative dans les activités de peer reviewing ou les évaluations, en veillant à ce que leur utilisation respecte la vie privée, la confidentialité et les droits de propriété intellectuelle ; les organismes de recherche doivent promouvoir l’application éthique de l’IA générative et superviser avec vigilance le développement et l’utilisation de ces outils au sein de leurs institutions ; les organismes de financement sont encouragés à aider les candidats à adopter l’IA générative d’une manière transparente. Une fiche récapitulative est aussi disponible.

Le site Retraction Watch a mis en ligne une liste d’articles et de peer reviews montrant des preuves qu’ils ont été écrits par ChatGPT …

L’Université de Bordeaux « met à disposition de la communauté enseignante une série de ressources pédagogiques permettant de comprendre le fonctionnement des IA génératives comme ChatGPT, leurs avantages, leurs limites, mais aussi de connaître les différentes utilisations qu’un étudiant, enseignant, ou tuteur peuvent en faire ».

Dans l’article du Monde sur la fonction du mentorat dans la recherche, Magdalena Skipper, directrice de la revue Nature qui décerne un prix du mentorat, cite une scientifique ayant apprécié les conseils d’une intelligence artificielle, plus « gentille » que ses mentors.

La Commission de l’IA a par ailleurs remis au président de la République, le 13 mars, un rapport contenant 25 recommandations pour faire de la France un acteur majeur de la révolution technologique de l’intelligence artificielle (IA). Parmi les lignes d’action, la mise en place d’une exception IA dans la recherche publique (libération des chercheurs des contraintes administratives, revalorisation de leur rémunération et doublement des moyens de la recherche publique spécialisée en IA). Le 25 mars 2024 était lancé le Programme et Équipement Prioritaire de Recherche (PEPR) IA, dans le cadre du plan France 2030, avec pour objectif de faire de la recherche française un champion mondial de l’intelligence artificielle.

Concernant le domaine de la recherche documentaire et des bibliothèques, Emmanuelle Bermès a rédigé le 30 mars dans son blog un billet sur le RAG (Retrieval Augmented Generation). Cette “application de l’intelligence artificielle et plus spécifiquement, des modèles de langues et de l’IA générative, est en train de prendre pas mal d’essor en ce moment”.

Les éditeurs universitaires et l’IA ne doivent pas être ennemis écrit David Clark (Oxford University Press) : “les entreprises d’IA générative devraient cesser d’arnaquer les éditeurs et collaborer avec eux pour enrichir la recherche”.

A noter, la troisième édition du Baromètre de l’esprit critique, parue le 21 mars à l’initiative d’Universcience, questionne également le rapport des Français à l’intelligence artificielle, en se concentrant en particulier sur les IA dites « génératives » comme ChatGPT ou Midjourney : ceux-ci sont intéressés mais méfiants. D’après ce baromètre, la science jouit d’une bonne réputation “puisque 8 à 9 enquêtés sur 10 jugent qu’elle permet par exemple de mieux comprendre le monde dans lequel nous vivons et d’améliorer les conditions de vie.”

A lire, le reste des actualités ici :