ChatGPT : enthousiasme ou inquiétude ?

Introduction

ChatGPT a dominé les manchettes comme un bot conversationnel avancé développé par OpenAI, encore au stade de prototype. Il vise à répondre à des questions dans des domaines variés : droit, programmation, culture générale.

Tests de logique

Les premières expériences avec des énigmes logiques sont convaincantes :

• L’énigme des boules noires et blanches : ChatGPT résout partiellement ce problème de déduction logique impliquant trois personnes portant des boules colorées, nécessitant une inférence basée sur les observations.
• La variante de Monty Hall : ChatGPT fournit correctement les calculs de probabilité et explique en quoi la variante diffère du problème original.

Ces premiers tests se révèlent genuinement impressionnants.

JavaScript et code

ChatGPT démontre de solides capacités en programmation :

• Génère des fonctions JavaScript correctes de validation d’e-mail
• Réécrit la même fonction en COBOL et Assembleur sans difficulté
• Lorsque des bugs sont identifiés (vérifications null manquantes), ChatGPT reconnaît les erreurs et corrige immédiatement le code

Les limites fondamentales de ChatGPT

1. Un modèle d’une taille extraordinaire

GPT-3 contient 175 milliards de paramètres, nécessitant environ 700 Go de RAM rien que pour le charger. L’entraînement a consommé des ressources énormes : un seul GPU V100 aurait besoin de 288 ans ; l’infrastructure Azure de Microsoft a parallélisé ce travail sur plusieurs mois, pour un coût estimé à 4,6 millions de dollars en puissance de calcul. L’empreinte carbone est substantielle.

2. Déjà obsolète à sa création

Les données d’entraînement de GPT-3 s’arrêtent en 2021. Les événements actuels et les développements récents n’y sont pas reflétés. Interrogé sur l’actuel PDG de Twitter, ChatGPT cite Jack Dorsey — une information périmée. Une mise à jour en temps réel nécessiterait un réentraînement d’un coût prohibitif.

3. Hallucinations et fausses informations

ChatGPT fait preuve d’« ultracrépidarianisme » — il affirme des informations incorrectes avec assurance. Malgré les précautions d’OpenAI sur la qualité des données, le système produit occasionnellement de fausses informations, pouvant diffuser de la désinformation s’il est traité comme une source faisant autorité.

Le paysage concurrentiel

Google n’est pas directement menacé. ChatGPT ne peut pas remplacer l’indexation en temps réel de Google Search en raison de coûts prohibitifs. Google développe LaMDA et l’architecture PATHWAYS, qui met à jour les modèles en continu au fil de l’arrivée de nouvelles données, permettant une adaptation dynamique sur plusieurs modèles coexistants.

L’approche distincte d’Agora Software

Agora ne cherche pas à concurrencer l’omniscience de ChatGPT. L’entreprise développe des interfaces conversationnelles ciblées via GAEL, son système de traitement du langage naturel propriétaire.

Différences clés :

• Déploiement décentralisé : GAEL se distribue dans des conteneurs dédiés, non sur des serveurs centralisés
• Classes d’apprentissage : Les clients créent des données d’entraînement propriétaires via des classes supervisées depuis la console d’administration Agora
• Légèreté : L’entraînement se complète en moins d’une minute ; les modèles fonctionnent sur Raspberry Pi avec une empreinte carbone minimale
• Périmètre limité : GAEL répond uniquement aux questions dans les limites fonctionnelles des applications connectées
• Sécurité et confidentialité : Des environnements dédiés et entièrement sécurisés minimisent le partage de données entre projets
• Omnicanal et multilingue : Intégration avec Teams, WhatsApp, Messenger, SMS et autres plateformes où les utilisateurs communiquent déjà

Conclusion

ChatGPT représente une réalisation technique de pointe aux résultats spectaculaires, témoignant d’un remarquable progrès. Cependant, il ne peut pas vraiment remplacer les humains — il n’apprend qu’à partir de textes, manquant la nuance contextuelle et les éléments non verbaux essentiels à une compréhension complète.

Ces systèmes augmenteront la productivité et assisteront le diagnostic dans de nombreux secteurs, mais ils offrent une compréhension de surface. Comme le notent Jacoby Browning et Yann LeCun : ces systèmes sont « destinés à une compréhension superficielle qui n’approchera jamais la pensée humaine complète ».

ChatGPT est un outil puissant — comme un marteau, utile pour construire ou dangereux s’il est mal utilisé. La technologie va changer des vies sans remplacer le jugement humain.

Cet article n’a pas été écrit par ChatGPT.