L'émergence de Chat GPT

GPT, c’est qui quoi ?

Les concepteurs de GPT ont transcodé une immense base de connaissances textuelles (le Web) en données numériques manipulables par les ordinateurs. Quelques repères d’échelle, en ordre de grandeur :

• Nombre de mots indexés sur le web : environ 10¹⁵ (estimation approximative, aucun décompte officiel n’existe)
• Nombre de paramètres des plus grands modèles GPT : de l’ordre de 10¹² (chiffre exact non communiqué publiquement par OpenAI)
• Nombre de neurones dans un cerveau humain : environ 10¹¹, soit 86 milliards selon l’étude de référence de Herculano-Houzel (2009)

GPT fonctionne selon un principe simple : prédire le mot le plus probable selon un contexte constitué d’une base de mots ordonnés, une question précise (prompt) et son modèle algorithmique. La puissance du modèle et la richesse informationnelle produisent des réponses pertinentes où « la sémantique émerge des signes ».

Que nous dit GPT ?

GPT est un perroquet qui n’est pas savant, mais doué d’un formidable talent pour chercher les aiguilles (prompts) dans une botte de foin (le Web).

GPT ne comprend pas ce qu’il dit, comparable à un lecteur de CD diffusant de la musique sans la comprendre. Il n’originine rien mais excelle à localiser et exprimer les informations recherchées.

GPT c’est magique – donc « y’a un truc »

Le langage humain repose sur des conventions consensuelles. Son découplage signifié/signifiant, allié à l’alphabet, crée une économie radicale de moyens pour exprimer des possibilités infinies.

Le sens réside dans l’esprit de l’auteur et émerge chez le lecteur qui reconstruit le sens depuis les signes. Ainsi, « le lecteur (humain ou machine) fait émerger le sens des mots et des phrases statistiques construites par GPT ».

Garbage in, garbage out

GPT accède à tout mais ne « connaît » rien. S’il était alimenté par des données statistiquement inexactes, il deviendrait « conspirationniste et négationniste » sans son sens commun naturel.

GPT, et ensuite ?

Ce que nous captons dans ses réponses n’est donc pas une conscience émergente, mais l’intelligence collective de ses concepteurs et des contributeurs web, relayée par le lecteur qui lui donne sens.

Des capacités augmentées pourraient émerger en intégrant des couches algorithmiques utilisant GPT dynamiquement, combinées avec des structures récursives et de l’apprentissage par renforcement. Ces combinaisons pourraient générer des propriétés d’adaptabilité émergentes.

La base de connaissances restant de nature humaine, les futures IA avancées « resteront d’une certaine manière à notre image ».

Intégration chez Agora Software

Agora Software utilise GPT pour deux tâches complémentaires :

1. Construire des corpus d’apprentissage pour la reconnaissance d’intentions spécifiques
2. Affiner la reconnaissance d’intentions pour les phrases sortant du périmètre fonctionnel défini

La solution préserve les qualités de souveraineté, d’explicabilité et de confidentialité qui caractérisent l’approche d’Agora.