Le Texas porte la sécurité de l’IA devant les tribunaux
Le Texas poursuit OpenAI et son directeur général Sam Altman au sujet de ChatGPT, en accusant l’entreprise d’avoir présenté le chatbot comme sûr et fiable tout en échouant à protéger les utilisateurs, notamment les enfants, contre des réponses nocives et une dépendance dangereuse au produit . L’affaire, déposée devant un tribunal de district du comté de Collin, vise plusieurs entités d’OpenAI ainsi qu’Altman à titre personnel, ce qui en fait non seulement un dossier sur un produit, mais aussi un test de responsabilité des dirigeants dans l’essor de l’IA .
Les accusations sont graves, mais elles demeurent des accusations. Aucun tribunal n’a encore conclu qu’OpenAI ou Altman avait violé le droit texan, et le dossier en est encore au début de la procédure . Cette nuance est essentielle, car la plainte mêle droit de la consommation, protection des mineurs et arguments plus larges sur les risques des grands modèles de langage. Le Texas ne demande pas seulement des sanctions après des préjudices allégués; l’État veut qu’un juge modifie la manière dont ChatGPT peut être proposé au Texas .
La thèse centrale de l’État est qu’OpenAI aurait commercialisé ChatGPT comme un outil digne de confiance, fiable et sûr, tout en sachant que les grands modèles de langage peuvent générer des informations inexactes, dommageables ou dangereuses . Selon le Texas, ces risques n’auraient pas été suffisamment communiqués aux utilisateurs, et les garde-fous de l’entreprise auraient échoué dans des situations touchant les mineurs, l’automutilation, les troubles alimentaires, la violence et l’usage compulsif .
Ce que le Texas reproche à OpenAI
La plainte repose sur deux fondements juridiques. Le premier est le Texas Deceptive Trade Practices–Consumer Protection Act, la grande loi texane de protection des consommateurs . Le Texas soutient que les affirmations d’OpenAI sur la sécurité de ChatGPT, ainsi que ses omissions sur les risques du produit, seraient trompeuses parce qu’elles auraient encouragé les Texans à se fier à un outil susceptible d’halluciner, de donner des conseils dangereux ou de simuler un lien émotionnel pouvant être interprété comme une forme d’attention humaine .
Le second fondement est le Securing Children Online through Parental Empowerment Act, ou SCOPE Act . Sur ce terrain, le Texas affirme qu’OpenAI n’aurait pas fourni les outils de vérification d’âge, de consentement parental et de supervision parentale requis pour les services numériques utilisés par des mineurs . L’argument est important, car il traite un chatbot généraliste non pas comme un simple logiciel, mais comme un service numérique pouvant relever d’obligations de protection de l’enfance habituellement associées aux plateformes sociales et aux services en ligne.
Le Texas accuse aussi OpenAI de ne pas vérifier correctement l’identité et le lien familial des parents ou tuteurs, et de ne pas fournir aux parents vérifiés des outils suffisants pour superviser l’usage de ChatGPT par un mineur . Le différend devient donc autant une affaire de conformité qu’une affaire de sécurité des modèles: si le tribunal suit la logique de l’État, les fournisseurs de chatbots pourraient être poussés à renforcer les barrières d’âge, les tableaux de bord parentaux et les contrôles de données.
La plainte cherche également à engager la responsabilité personnelle d’Altman pour les tromperies et préjudices allégués liés à ChatGPT . C’est l’un des aspects les plus agressifs du dossier. Viser individuellement un dirigeant augmente les risques pour les responsables d’entreprises d’IA qui s’expriment publiquement sur la sécurité, la fiabilité et le rythme de déploiement.
Les mesures demandées envoient le vrai signal
Le Texas ne réclame pas seulement des pénalités civiles. L’État demande de vastes mesures d’injonction, dont une interdiction pour OpenAI de proposer ChatGPT aux mineurs au Texas . Il demande aussi que les nouveaux modèles d’IA ne puissent pas être mis à disposition des utilisateurs texans tant qu’un évaluateur indépendant, approuvé par le tribunal, n’aura pas examiné et validé leurs garde-fous de sécurité .
Cette demande de contrôle préalable des nouveaux modèles est l’élément que l’industrie de l’IA suivra de plus près. Si un tribunal l’acceptait, le Texas créerait de fait un point de contrôle de sécurité au niveau de l’État pour les futures versions d’OpenAI, au moins pour les utilisateurs texans. Même si une telle ordonnance n’est jamais prononcée, la demande montre comment les procureurs généraux des États pourraient tenter de réguler l’IA par le contentieux de la consommation plutôt que d’attendre une loi fédérale spécifique.
Le Texas demande aussi des pénalités civiles pouvant atteindre 10 000 dollars par violation dans le cadre du droit texan de la consommation . D’autres reportages indiquent que la plainte réclame plus de 1 million de dollars de pénalités civiles, ainsi que des frais et honoraires d’avocats . L’exposition financière finale dépendrait des violations éventuellement prouvées par le Texas et de la manière dont le tribunal les calculerait.
Les remèdes demandés dépassent largement le contentieux classique de l’avertissement insuffisant. Ils toucheraient l’accès, la conception du produit, la vérification d’âge, les tests de sécurité et la gouvernance des lancements. Pour les entreprises d’IA, c’est précisément ce qui rend l’affaire importante: la question juridique n’est plus seulement de savoir si un chatbot peut causer un dommage, mais si les promesses de sécurité peuvent être confrontées aux choix d’ingénierie, de test et de déploiement.
La réponse d’OpenAI et les faits encore contestés
OpenAI défend son travail en matière de sécurité. Un porte-parole de l’entreprise a déclaré qu’OpenAI avait travaillé avec des experts pour améliorer ChatGPT, réduire les risques et ajouter des garde-fous, tout en reconnaissant le rôle des pouvoirs publics dans la définition de normes solides de sécurité de l’IA . L’entreprise a également indiqué vouloir travailler avec le Texas et d’autres États à des politiques pragmatiques s’appliquant à toute l’industrie, et non à une seule entreprise .
Cette réponse annonce probablement l’un des axes de défense: OpenAI pourrait soutenir que la régulation de la sécurité doit être générale, techniquement fondée et sectorielle, plutôt qu’imposée par un seul procès contre une seule société. L’entreprise pourrait aussi contester l’application du SCOPE Act à ChatGPT telle que la propose le Texas, le caractère prétendument trompeur de ses déclarations de sécurité, ainsi que la faisabilité ou la portée des injonctions demandées.
La plainte contient aussi de nombreuses questions de fait. Le Texas cite des exemples allégués d’utilisateurs ayant subi des dommages après des interactions avec des chatbots, ainsi que des affirmations selon lesquelles des mineurs auraient développé une relation excessive avec le produit . OpenAI devrait vraisemblablement contester la causalité, l’interprétation de ces incidents et le caractère raisonnable des garde-fous déjà en place. Comme les tribunaux avancent plus lentement que les cycles technologiques, la phase de découverte pourrait devenir une bataille sur les tests internes, la conception du produit, les avertissements aux utilisateurs et la connaissance des risques par les dirigeants.
Pourquoi l’affaire dépasse le Texas
Le procès intervient alors que des responsables d’États américains utilisent de plus en plus les lois existantes sur la consommation et la sécurité des enfants contre les grandes plateformes technologiques . Le Texas a déjà engagé ou réglé des dossiers impliquant Meta, TikTok et Roblox, et l’affaire OpenAI étend cette stratégie d’application du droit des plateformes sociales et du jeu vidéo vers l’IA de pointe .
Ce glissement est important parce que la surveillance fédérale de l’IA reste fragmentée. Si les États commencent à appliquer leurs propres lois de consommation et de protection des mineurs aux chatbots, les entreprises d’IA pourraient se retrouver face à un patchwork d’obligations sur la vérification d’âge, les contrôles parentaux, les avertissements, les tests de modèles et l’approbation des lancements. Même si des règles fédérales arrivent un jour, les procureurs généraux des États pourraient continuer à utiliser leurs propres textes comme leviers parallèles.
Pour OpenAI, l’enjeu immédiat est la défense judiciaire. Pour le secteur, le message est plus large: les mots “sûr”, “fiable”, “digne de confiance” ou “protégé par des garde-fous” peuvent devenir des pièces dans un dossier judiciaire. Les équipes produit, sécurité et communication devront peut-être traiter toute affirmation publique sur la sécurité comme une affirmation à documenter, tester et actualiser en continu.
L’affaire place aussi les mineurs au centre de la gouvernance de l’IA. Le débat n’est plus seulement une spéculation abstraite sur une superintelligence future. Il porte sur un chatbot disponible aujourd’hui: doit-il vérifier l’âge, avertir les parents, refuser plus systématiquement certains sujets et afficher plus clairement ses limites? Le Texas tente de rendre ces questions exécutoires devant un juge.
Pas de bouton “regenerate” devant le tribunal
La plainte du Texas contre OpenAI et Sam Altman ne décide pas si ChatGPT est dangereux, si OpenAI a trompé les utilisateurs ou si Altman est personnellement responsable. Ces questions appartiennent au tribunal. Mais le dépôt du dossier change la posture du débat sur la sécurité de l’IA: un État demande désormais à un juge d’imposer des restrictions sur l’accès, les lancements et l’examen de sécurité.
Cette affaire teste donc plus qu’un chatbot d’une seule entreprise. Elle teste la capacité des lois existantes de protection des consommateurs à devenir le premier cadre réellement contraignant pour les promesses de sécurité de l’IA. Et pour une industrie habituée à lancer vite, itérer publiquement et expliquer ensuite, le prompt juridique n’a désormais pas de bouton “regenerate” facile.
Commentaires
Sois le premier à commenter.