ChatGPT : enthousiasme ou inquiétude ?

Introduction

ChatGPT a dominé les manchettes en tant que bot conversationnel avancé développé par OpenAI, encore au stade de prototype. Il vise à répondre à des questions dans des domaines aussi variés que le droit, la programmation ou la culture générale.

Tests de logique

Les premières expériences avec des énigmes logiques sont convaincantes. Sur l’énigme des boules noires et blanches, un problème de déduction impliquant trois personnes portant des boules colorées et nécessitant une inférence à partir des observations des uns et des autres, ChatGPT trouve une partie de la solution. Sur la variante du problème de Monty Hall, il fournit les bons calculs de probabilité et explique en quoi cette variante diffère du problème original.

Ces premiers tests sont réellement impressionnants.

JavaScript et code

ChatGPT démontre aussi de solides capacités en programmation. Il génère des fonctions JavaScript correctes de validation d’e-mail, les réécrit sans difficulté en COBOL puis en Assembleur, et corrige ses propres erreurs dès qu’on lui signale un bug, une vérification null manquante par exemple.

Les limites fondamentales de ChatGPT

1. Un modèle d’une taille extraordinaire

GPT-3 embarque 175 milliards de paramètres, ce qui nécessite environ 700 Go de RAM rien que pour le charger. L’entraînement a mobilisé des ressources considérables : un seul GPU V100 aurait mis 288 ans à l’effectuer seul. L’infrastructure Azure de Microsoft a parallélisé ce travail sur plusieurs mois, pour un coût estimé à 4,6 millions de dollars en puissance de calcul, avec une empreinte carbone loin d’être négligeable.

2. Déjà dépassé le jour de sa sortie

Les données d’entraînement de GPT-3 s’arrêtent en 2021 : les événements récents n’y figurent pas. Interrogé sur l’actuel PDG de Twitter, ChatGPT répond encore Jack Dorsey, une information caduque depuis longtemps. Mettre le modèle à jour en temps réel supposerait un réentraînement dont le coût serait prohibitif.

3. Hallucinations et fausses informations

ChatGPT affirme parfois des informations incorrectes avec la même assurance que ses bonnes réponses. Malgré les précautions d’OpenAI sur la qualité des données d’entraînement, le système continue de produire occasionnellement de fausses informations : un vrai risque s’il est traité comme une source faisant autorité.

Le paysage concurrentiel

Google n’est pas directement menacé : ChatGPT ne peut pas remplacer l’indexation en temps réel de Google Search, dont la réplication coûterait bien trop cher. Google développe en parallèle LaMDA et l’architecture PATHWAYS, pensée pour mettre à jour ses modèles en continu au fil de l’arrivée de nouvelles données.

L’approche distincte d’Agora Software

Agora ne cherche pas à rivaliser avec l’omniscience de ChatGPT. L’entreprise développe des interfaces conversationnelles ciblées via GAEL, son moteur propriétaire de traitement du langage naturel. Concrètement, ce qui change :

• Déploiement décentralisé : GAEL se distribue dans des conteneurs dédiés, pas sur des serveurs centralisés.
• Classes d’apprentissage : chaque client crée ses propres données d’entraînement via des classes supervisées, directement depuis la console d’administration Agora.
• Légèreté : l’entraînement se termine en moins d’une minute et les modèles tournent sur Raspberry Pi, pour une empreinte carbone minimale.
• Périmètre maîtrisé : GAEL répond aux questions dans les limites fonctionnelles des applications connectées, pas au-delà.
• Sécurité et confidentialité : des environnements dédiés et cloisonnés limitent le partage de données entre projets.
• Omnicanal et multilingue : intégration avec Teams, WhatsApp, Messenger, SMS et les autres plateformes où les utilisateurs échangent déjà.

Conclusion

ChatGPT reste une prouesse technique impressionnante. Mais il n’apprend qu’à partir de texte : il lui manque la nuance contextuelle et les signaux non verbaux nécessaires à une lecture fine d’une situation. Comme l’écrivent le chercheur Jacob Browning et Yann LeCun, “il est clair que ces systèmes sont condamnés à une interprétation superficielle, qui n’approchera jamais la richesse de la pensée humaine” (Noema Magazine).

Ces systèmes vont augmenter la productivité et faciliter le diagnostic dans de nombreux secteurs, mais leur lecture du monde restera superficielle. ChatGPT est un outil puissant, au même titre qu’un marteau : précieux pour construire, dangereux mal utilisé. Il va changer des usages sans jamais remplacer le jugement humain.