Éléments pour l'IA en classe | IA génératives de textes

Les IA génératives de textes

Le cas ChatGPT

ChatGPT est un robot conversationnel qui permet de répondre aux questions que vous lui posez. L’accès aux anciennes versions est gratuit.

Pour y accéder, il suffit de se rendre sur le site officiel de ChatGPT d’OpenAI, et s’inscrire.

OpenAI est une entreprise américaine créée par Elon Musk et Sam Altman en 2015 à San Francisco en Californie. Son but est de créer des avancées dans l’intelligence artificielle. Ses services les plus connus sont alors DALL-E 2, GPT-3 et ChatGPT. ChatGPT n'est pas opensource et son code est largement secret.

ChatGPT est une intelligence artificielle dite conversationnelle, un chatbot basé sur GPT (Generative Pre-training Transformer). Vous pouvez donc avoir une vraie conversation avec ChatGPT. Il se souvient des questions que vous venez de lui poser et vous pouvez rebondir sur ce qu’il vous répond.

Il peut être utilisé pour effectuer diverses tâches comme :

La génération de texte (y compris par exemple lettre de motivation, réponse à un mail, poème, scénario etc. )
La traduction
La compréhension de questions
La transformation de données en tableaux
La génération de code
La génération et la modification d'images
…

ENTRETIEN

Dans une interview à Capital, Laurence Devillers, professeur d’intelligence artificielle à la Sorbonne, chercheur au CNRS et auteure de l’essai Les robots émotionnels (Editions de l’Observatoire), livre sa vision de cette nouvelle révolution numérique qui se déroule sous nos yeux.

ENTRETIEN de Laurence Devillers

Les modèles de langage

Comment fonctionnent les modèles de langage ?

Cette vidéo est une introduction aux modèles de langage. Elle s'adresse à un public large (par exemple élèves et enseignants de collèges et lycées, et plus généralement aux non spécialistes de l'informatique ou de l'IA).

Une série de vidéos pédagogiques destinée au grand public, l’équipe de recherche Flowers du Centre Inria de l'université de Bordeaux, spécialisée en Intelligence Artificielle (IA), vous propose de mieux comprendre comment fonctionnent les modèles de langage.

Constatant que la grande majorité des ressources éducatives sur ces modèles adoptait un format long et destiné à un public relativement averti, ce projet de vidéos au format court s’adresse en particulier aux élèves et enseignants de collèges et lycées, et plus généralement aux non spécialistes de l'informatique ou de l'IA.

GPT-4, Bard, etc : quelles applications concrètes ?

Dans cette vidéo, nous vous proposons d’étudier les applications possibles de ces outils dans des domaines comme le travail, la santé, l’éducation ou encore la préservation de langues.

Le prompting, ou l’art de se faire comprendre par ChatGPT

Cette vidéo introduit la notion de prompting, qui permet de faire réaliser une certaine tâche à un modèle de langage (par exemple #ChatGPT) en lui expliquant cette tâche au moyen de phrases en langage naturel. On y voit, au travers d’exemples, deux méthodes de prompting (expliquer la tâche en langage naturel, et donner des exemples de réalisation de la tâche).

Les forces des modèles de langage

Cette vidéo présente les principales forces des modèles de langage tels que ChatGPT ou Bard.

Prompting avancé, raisonnements par chaînes de pensée et leurs limites

Les modèles de langage comme ChatGPT ou Bard sont capables de tenir des raisonnements simples pour résoudre un problème donné. Cependant, il est parfois nécessaire d'avoir recours à différentes techniques de prompting avancé pour les aider à organiser de tels raisonnements.

Quelles applications concrètes

Les applications possibles de ces outils dans des domaines comme le travail, la santé, l’éducation ou encore la préservation de langues.

Faire manipuler des outils à ChatGPT

Les modèles de langage comme ChatGPT ou Gemini sont capables de réaliser une grande diversité de tâches pour répondre aux besoins de leur utilisateur. Afin de tirer une meilleure partie de leurs compétences, on peut leur faire manipuler des outils lors de la rédaction de leur réponse.

developmentalsystems.org/

IA, quelle langue ?

Vous pouvez directement poser vos questions en français et l’intelligence artificielle vous répondra dans la même langue et ce même si le site est en anglais.

Comme pour toute recherche, poser les "bonnes" questions reste le plus important. C’est votre capacité à savoir poser les bonnes questions aux intelligences artificielles qui définira la qualité des réponses.
Reste ensuite à trier, faire une lecture critique des réponses. Quelles sources ? Tout cela est-il plausible ?

Une IAG répondra toujours, même (et pour certains, surtout) n'importe quoi. Les réponses peuvent tout simplement être complètement fausses (voir hallucinations).
Quelquefois, il vous prévient que ses données ne sont à jour que jusqu'à telle date. Le doute critique est indispensable.

Limites des IAG

Dès que l'on pousse réellement l'exigence des demandes, les limites sont vite atteintes. Par exemple, dans la génération de code, ChatGPT peut s’interrompre sans possibilité de reprise, proposer des codes différents à une même demande, du code inadapté, "bavard", ou qui ne répond pas aux besoins.

Passant de l'émerveillement à la franche consternation, sans filtre, la pratique de ChatGPT a pour principal défaut d'installer le doute : dans quelle mesure est-il possible de faire confiance aux IAG ?
La question revient alors à celle de la tolérance à l’erreur que vous pouvez accepter dans votre domaine.

Un autre problème relevé est aussi le manque de transparence. Privilégier les modèles Opensource.

GPT-4 est la prochaine version de GPT. Generative Pre-trained Transformer-4 a été entraînée sur plus de 100 000 milliards de paramètres (contre 175 milliards pour GPT-3).
Dit comme cela, c'est toujours impressionnant, mais rappelez-vous de l'exercice sur le jeu de cartes. Cela ne représente qu'environ le nombre de combinaisons possibles d'un jeu de 17 cartes.

Température, hallucinations, empathie…

Les mots de l'IA sont souvent des attributs typiquement humains, une manière de faire oublier que nous avons affaire avant tout à des machines.

Par exemple, la réponse des IA générative peut être modulée entre zéro et un, selon le degré de créativité des modèles. C'est ce qu'on appelle la température.

Une hallucination est une réponse fausse ou trompeuse qui est présentée comme un fait certain. Ce phénomène est appelé « hallucination » par analogie avec le phénomène de l’hallucination en psychologie humaine.

Cependant, une différence clé est que l’hallucination humaine est généralement associée à de fausses perceptions, alors qu’une hallucination d’IA est associée à des réponses ou des croyances injustifiées. Certains chercheurs pensent que le terme hallucination anthropomorphise de manière excessive les ordinateurs.

Quelles alternatives à ChatGPT ?

Les IA Qui ne nécesitent pas de comptes

/

Les IA françaises

La France a commencé à bâtir son propre ChatGpt depuis l'été 2021. Avec Bloom, un projet de science ouverte et participative piloté par Hugging Face, une start-up fondée à New-York… par trois Français. Cette intelligence artificielle a été mise au point par un millier de chercheurs, avec le soutien du CNRS, du ministère de l'enseignement supérieur et de la recherche ainsi que de partenaires du domaine privé, des entreprises comme Thalès, Airbus ou Orange. Ce chatbot, capable de s'exprimer en 46 langues, s'appuie une technologie comparable à ChatGPT et s'entraîne sur le supercalculateur Jean-Zay, le plus puissant d'Europe, basé à Saclay.