IA et éthique : toc ou pas ?

L’éthique, c’est quoi ?

L’éthique est une notion intuitive mais difficile à définir précisément. Intimement liée à la morale, elle a fait l’objet de réflexions philosophiques depuis l’Antiquité (Confucius, Platon) jusqu’à nos jours (Levinas, Ricoeur).

La philosophie morale étudie la morale, qui elle-même concerne la finalité des actions humaines en vue d’une vie conforme au bien. Cette discipline s’entrelace inévitablement avec les dimensions religieuses, politiques et sociales qui structurent nos sociétés.

Les sciences de la vie

Le domaine médical s’est préoccupé d’éthique depuis l’origine, comme l’atteste le serment d’Hippocrate (IVe siècle av. J.-C.). Les progrès de la biologie ont amplifié les enjeux éthiques, particulièrement concernant le début et la fin de vie, la psychiatrie et les transplantations d’organes.

En France, le Comité Consultatif National d’Éthique pour la Vie et la Santé accompagne patients, praticiens et législateurs sur ces questions délicates.

L’éthique médicale contemporaine repose sur quatre principes fondamentaux :

1. L’autonomie : respect de la capacité individuelle à décider de sa santé
2. La bienfaisance : faciliter le bien-être du patient
3. Primum non nocere : l’obligation de ne pas nuire
4. La justice : traiter tous les patients de façon équitable

L’éthique dans le numérique

Le numérique a pénétré rapidement administrations, espaces publics, entreprises et vies privées. La puissance des logiciels s’accroît exponentiellement, notamment avec les progrès de l’Intelligence Artificielle.

Cette puissance technologique produit des effets bénéfiques (imagerie médicale) et néfastes (désinformation, complotisme), tout en générant des incertitudes quant à ses impacts réels (réseaux sociaux, chatbots).

En France, le décret du 23 mai 2024 a établi le Comité Consultatif National d’Éthique du Numérique, marquant un tournant dans la prise en compte des enjeux éthiques liés aux technologies.

Il n’y a que l’intention qui compte (?)

Un coup de pouce pour le meilleur et pour le pire

Le “nudge” est une méthode organisationnelle ou communicationnelle fondée sur la psychologie (réflexes, biais, conformisme) visant à orienter les décisions selon le principe : “inciter sans contraindre”.

Exemples de nudges positifs : favoriser une alimentation saine en restauration collective, lutter contre les addictions, promouvoir l’éducation, encourager une conduite prudente, réduire l’impact carbone.

Exemples de nudges négatifs : favoriser les addictions, surveillance de masse, désinformation, captation du temps de cerveau disponible.

Que ce soit pour le bien ou le mal, les nudges reposent sur une forme de tromperie pour corriger un penchant identifié.

L’irrationalité devient la norme

Emmanuel Kemel, professeur-chercheur au CNRS spécialisé en économie et sciences de la décision, alerte sur la puissance du couple IA + nudge au service d’un marketing manipulateur.

“Les nudges usuels reposaient sur des biais comportementaux issus de recherches. Le big data détecte automatiquement la moindre faille décisionnelle exploitable.”

L’utilisation massive de nudges rend systématiques les erreurs qui étaient autrefois occasionnelles : l’irrationalité devient la norme. Cette pratique fragilise les fondements de l’économie de marché, où les consommateurs éclairés censément incitent les producteurs à proposer les meilleures offres. Les nudges inversent ce processus : le producteur impose les préférences du consommateur influencé, qui perd son contrepouvoir.

L’informatique affective

L’informatique affective (“affective computing”) désigne une application capable de percevoir les émotions utilisateur, d’analyser les circonstances et d’adapter son comportement selon les objectifs programmés.

Le film Her, de Spike Jonze illustre cette dynamique : une application personnalisée développe une relation émotionnelle avec son utilisateur.

Louis de Diesbach, éthicien de la technique, note que personne ne salue sa porte d’entrée. Cependant, les interactions conversationnelles naturelles diffèrent fondamentalement des relations avec les objets inanimés conventionnels, comblant partiellement l’asymétrie utilisateur/machine.

Hypertrucage (Deep Fake)

Les deepfakes combinent “deep learning” et “fake” : contrefaçons numériques apparues en 2014, initialement utilisées pour impliquer des personnalités dans des scènes pornographiques.

Depuis, ces vidéos hypertruquées se sont multipliées : faux Obama avertissant des risques des deepfakes, faux Trump annonçant l’éradication du SIDA.

Nicolas Obin, maître de conférences à Sorbonne Université et chercheur à l’Ircam, souligne deux propriétés rendant les deepfakes particulièrement dangereux :

1. Le réalisme accru par la combinaison d’algorithmes performants et de masses de données
2. La démocratisation de ces outils via des ressources partagées (modèles vocaux librement accessibles)

Avec la publication massive de données personnelles sur les réseaux sociaux, toute personne risque de devenir victime de deepfakes. Les personnalités publiques demeurent largement plus exposées.

Une menace plus pernicieuse concerne la manipulation émotionnelle : un assistant vocal pourrait adapter tonalités et expressions pour influencer comportements d’achat ou de persuasion politique, ciblant chaque citoyen individuellement.

Contenus falsifiés et vidéos artificielles foisonnent dans la sphère informationnelle. Certains visent à déstabiliser des opérations militaires avec des répercussions opérationnelles. Les détecter et les contrer demeurent essentiels pour protéger les opérations et la crédibilité des forces.

Tout est poison, rien n’est poison, c’est la dose qui fait le poison

Laurence Devillers, professeure en informatique appliquée aux sciences sociales à l’Université Paris-Sorbonne, propose cinq observations :

1. Les interactions naturelles avec les humains doivent être sensibles aux émotions
2. L’humain anthropomorphise naturellement les objets quotidiens
3. Les robots interprètent les signes mais n’éprouvent pas d’émotions
4. L’IA n’est pas neutre ; les éditeurs portent une responsabilité éthique
5. La société doit définir les règles ; le moteur économique seul ne suffira pas

Comme pour les médicaments avec posologie et surveillance des effets, l’IA nécessite un encadrement éthique et un suivi temporel des risques.

L’éthique dans le monde professionnel

La Villa Numeris, pour une IA à impact positif

La Villa Numeris est un think tank indépendant promouvant un modèle européen du numérique affirmant la primauté de l’humain. Son plaidoyer Pour une IA à impact positif appelle à structurer l’écosystème européen et créer un champion européen de l’IA.

En partenariat avec le Metalab de l’ESSEC, elle constate que “la régulation seule ne suffira pas. Les techniques numériques doivent être pensées dans leurs conséquences humaines, sociologiques, sociales, économiques et environnementales”.

Numeum : une réflexion de fond sur l’IA éthique

Numeum est le syndicat professionnel français des ESN et éditeurs de logiciel. Sa commission IA s’interroge : “Comment accélérer en toute sécurité le développement des usages de l’IA ?”

Son initiative Ethical AI vise à accompagner les créateurs d’IA souhaitant intégrer l’éthique au cœur de leurs activités, déclinant principes généraux en méthodes et outils pratiques.

L’éthique chez les grands éditeurs d’IA générative

Les principaux éditeurs d’IA générative ont identifié le sujet et multiplient comités, guides et red teams. Les promesses ne valent que pour qui les écoute, mais c’est encourageant.

La crainte principale : une réglementation étatique restreignant les capacités d’action et alourdissant les coûts de production IA. Pour l’éloigner, ils appliquent la maxime de Cocteau : “puisque ces mystères me dépassent, feignons d’en être l’organisateur”.

Apple a déjà annoncé qu’Apple Intelligence ne serait pas lancée en Europe à l’automne 2024. Meta l’a suivi, citant un cadre réglementaire trop incertain (RGPD, IA Act, DMA).

OpenAI, IA et éthique ?

Fin 2015, Elon Musk a co-fondé OpenAI avec Sam Altman pour proposer une IA sûre au bénéfice de l’humanité, sans monétisation. La réalité a divergé : OpenAI est devenue une solution fermée à but lucratif contrôlée par Microsoft.

Courant 2024, après le départ de responsables clés, l’équipe chargée de la sécurité d’une superintelligence IA a été dissoute. Que l’un des hommes les plus riches du monde attaque en justice sa propre création n’est pas anodin.

Microsoft, l’éthique au cœur de l’IA

Microsoft propose un rapport précis et consistant sur l’IA responsable, décliné en quatre points : gouvernance, cartographie, mesure, management. Son approche suit un cycle itératif structurant.

Meta, une IA sérieusement éthique

Les équipes de Mark Zuckerberg semblent prendre sérieusement les aspects éthiques et sécuritaires, multipliant garde-fous et points de contrôle (red teams notamment). L’avenir en révélera l’efficacité.

Meta souligne particulièrement : cybersécurité, armes chimiques/biologiques, sécurité des enfants, confidentialité.

Que retenir ?

Ce qu’on ignore ne fait pas peur : on méconnaît ce qu’on ne sait pas. Ce qu’on croit savoir génère des phantasmes.

L’éthique touche à la morale, difficilement formalisable en règlements. Rappelons les polémiques vaccination obligatoire/volontaire des années Covid.

Les quatre principes éthiques médicaux (autonomie, bienfaisance, ne pas nuire, justice) pourraient-ils guider ce voyage nécessaire ? L’Union Européenne s’y intéresse via l’IA Act, non sans débats.

C’est bien la dose qui fait le poison.