Tech • IA • Robotique • Jeu
L'IA qui lit vos émotions, la fausse bonne idée ? Débat avec une philosophe de l'IA
5/10INTRO
Alexandra Préjean, chercheuse en éthique de l’IA au CEA, soutient que les systèmes de lecture des émotions se diffusent plus vite que les garde-fous, et que la discrimination, l’opacité et le pouvoir des entreprises en constituent les principaux risques.
POINTS CLÉS
De la philosophie à l’éthique de l’IA
Préjean, formée en philosophie et en littérature à Montréal, s’est ensuite spécialisée en éthique de l’IA au Québec et a achevé un doctorat à l’université de Leyde, aux Pays-Bas. Ses travaux portent sur les systèmes de reconnaissance des émotions, la justice sociale et les effets sociétaux de long terme des technologies prétendant détecter les sentiments, le stress ou l’intention.
Pourquoi le CEA est impliqué
Le CEA, fondé en 1945, a étendu son champ au-delà de la recherche nucléaire et industrielle vers quatre domaines stratégiques, dont le numérique. Dans cette branche, la recherche en éthique examine la place de l’IA dans de grandes transitions sociales, notamment en santé, sécurité et systèmes bas carbone, en faisant travailler des philosophes aux côtés d’ingénieurs et de physiciens.
La méthode ascendante du projet AOLIA
Le travail postdoctoral de Préjean s’inscrit dans AOLIA, un projet européen dirigé au CEA par Alexis Grinbaum. Au lieu de partir de règles abstraites, le projet suit pendant des mois des développeurs sur leurs lieux de travail, en documentant les problèmes éthiques et de conformité rencontrés lors de la conception de systèmes d’IA. La recherche couvre l’Europe ainsi que des pays comme le Canada, la Chine, la Corée du Sud et le Japon, révélant à la fois des différences culturelles et des inquiétudes récurrentes à l’échelle mondiale.
L’IA émotionnelle est déjà très répandue
Des systèmes commercialisés comme capables de lire les émotions sont déjà utilisés dans la santé, l’éducation, les ressources humaines, les transports, les aéroports et le contrôle aux frontières. Dans le recrutement, ils peuvent profiler des candidats à partir d’expressions faciales ou de signaux vocaux. En médecine, des versions plus anciennes étaient présentées comme des outils d’assistance, notamment des interfaces destinées à aider certains utilisateurs autistes à interpréter les expressions du visage.
Pourquoi la “lecture des émotions” est contestée
Préjean estime que beaucoup de ces systèmes n’identifient pas réellement les émotions. En pratique, ils détectent souvent des indices visibles, comme un sourire, puis leur attribuent une étiquette émotionnelle telle que la joie, alors que la même expression peut signaler l’embarras, le sarcasme ou la tromperie. Cet écart entre expression et état intérieur est au cœur du débat éthique.
Les biais et la discrimination restent un danger central
Une préoccupation majeure concerne les données d’entraînement biaisées. Certains systèmes de vision par ordinateur ont montré une précision moindre selon les groupes démographiques et, lors de scandales passés aux États-Unis, des expressions similaires étaient plus souvent interprétées négativement chez des personnes noires que chez des personnes blanches. Dans les contextes sécuritaires, cela peut renforcer des préjugés humains existants et créer des boucles de discrimination.
Le problème de la responsabilité
Préjean affirme que l’IA diffère du jugement humain individuel, car un modèle défaillant peut étendre un biais à l’ensemble d’une population. La responsabilité est aussi plus difficile à établir lorsque les systèmes sont propriétaires et opaques, surtout dans la police ou la sécurité. Les victimes peuvent peiner à prouver le préjudice ou à obtenir réparation si les institutions rejettent la faute sur le logiciel.
Les limites de l’AI Act européen
Dans le cadre de l’AI Act de l’Union européenne, la reconnaissance des émotions est apparue tardivement comme exemple marquant de pratique interdite, mais d’importantes exceptions subsistent, notamment en santé et en sécurité. Les entreprises peuvent aussi rebaptiser des outils similaires en disant qu’ils détectent des expressions faciales, le bien-être ou des traits de personnalité plutôt que des émotions. En pratique, la terminologie peut changer alors que la technologie et les usages restent largement les mêmes.
IA de compagnie et expérimentation sociale
Préjean distingue les technologies utiles de ce qu’elle qualifie d’expérimentation sociale à grande échelle, portée par la concurrence des Big Tech. Elle cite les services d’IA de compagnie, particulièrement populaires dans certaines régions d’Asie, comme des produits répondant à une solitude réelle tout en approfondissant l’isolement et en réduisant les contacts humains. De récents cas américains, où de tels systèmes auraient orienté des usagers vulnérables vers des états nuisibles, soulignent le risque de lancer des produits d’abord et de n’ajuster qu’après les dégâts.
Le pouvoir des entreprises et la nécessité de ralentir
Elle se montre sceptique face à l’autorégulation des grandes entreprises de l’IA, évoquant les contradictions entre leurs avertissements publics sur les dangers et la sortie rapide de modèles toujours nouveaux. À ses yeux, une poignée d’entreprises transnationales façonnent désormais les règles d’adoption technologique tout en reléguant au second plan les tests d’équité, la transparence et les garanties préalables. La tâche la plus urgente est d’interrompre ce cycle consistant à déployer des systèmes à grande échelle puis à tirer les leçons des dégâts ensuite.
Là où l’IA peut encore aider
Préjean ne rejette pas l’IA en bloc. Elle voit un potentiel dans des usages médicaux étroitement définis, comme l’aide à la détection de l’inconfort chez des patients atteints de démence, de maladie de Parkinson ou de troubles avancés de la communication, lorsque des protocoles cliniques existants peuvent encadrer un déploiement prudent. La question clé est celle du contexte: quelles applications apportent des bénéfices sans devenir discriminatoires, coercitives ou guidées par la surveillance.
CONCLUSION
La position de Préjean n’est pas anti-technologie, mais anti-précipitation. Son avertissement central est que l’IA doit servir le jugement humain et l’autonomie collective, et non banaliser des systèmes opaques qui classent les émotions, étendent la surveillance et renforcent le contrôle des entreprises.
Poser une question