Quelques repères pour les outils grand public
Les outils grand public
Les IAGT ont fait une apparition publique fracassante avec la sortie de chatGPT en novembre 2022. Depuis, les outils se sont multipliés et l'offre gratuite s'est aujourd'hui étoffée. Citons quelques agents conversationnels utilisables gratuitement avec ou sans compte :
Les grands modèles de langage
Les agents conversationnels que nous utilisons s'appuient sur de grands modèles de langage (LLM). Si l'on détaille les LLM proposés par vittascience, on peut distinguer certaines informations importantes :
Le LLM utilisé
Il est principalement caractérisé par :
- sa taille en Milliards de paramètres : la taille n'est pas forcément un gage de qualité. Elle exprime la quantité de données utilisée pour entrainer le modèle.
- ses données d'entrainement qui se caractérisent par leur nature (forums, code informatique, articles de journaux, etc), leur qualité (forums, réseaux sociaux, etc). Elles portent aussi des caractéristiques culturelles, sociétales, politiques (certaines parties du monde sont sous représentées).
Le pré-prompt
Le pré-prompt peut être transparent pour l'utilisateur car défini par le service utilisé. Il peut également être défini par l'utilisateur lui-même comme le montre la capture suivante :
le taux de créativité
Le "taux de créativité" aussi appelée "température" ou "taux d'aléatoire" dans vittascience, permet d'ajuster la dimension créative de la réponse d'un l'agent conversationnel.
Prenons l'exemple de Microsoft Copilot. qui propose 3 niveaux de créativité pré-définis :
les tokens
On peut presque considérer que les tokens sont récemment devenus une nouvelle unité informatique.
En effet, lors de l'utilisation d'un agent conversationnel, on se verra limité quant au nombre de tokens :
- autorisés dans le prompt : 4000 tokens pour chatGPT 3.5, 8000 tokens pour Copilot
- retournés dans la réponse : 4096 tokens en réponse pour chatGPT 3.5 et copilot par exemple.
Avançons dans ce module et passons à l'activité suivante :
Les IAGT comme assistant du pédagogue ➡️