Une ONG américaine veut utiliser l’IA pour surveiller les discours haineux dans des classes à Gaza

Une expérimentation scolaire sous tension

Une organisation caritative américaine opérant des écoles à Gaza veut utiliser l’intelligence artificielle pour surveiller les conversations en classe, selon une enquête publiée le 9 octobre 2026 par Associated Press [1]. L’organisation, Gaza Children Village, présente ses établissements comme des lieux offrant éducation, repas, soins médicaux et soutien psychologique à des enfants marqués par la guerre, mais le dispositif envisagé a transformé ce projet éducatif en débat beaucoup plus vaste sur la surveillance et le pouvoir de définir ce qui peut être dit dans une salle de classe [1].

Le système prévu consisterait à enregistrer les conversations en classe, puis à les analyser automatiquement afin de signaler des propos considérés comme “haineux”, “incitatifs” ou antisémites [1]. Si un propos est détecté, une alerte serait envoyée au fondateur de l’organisation, le Dr David Hasan, qui pourrait ensuite contacter l’enseignant afin d’examiner le contexte et de donner un retour pédagogique [1]. AP rapporte que Hasan a indiqué que les enregistrements seraient conservés 72 heures, tandis qu’un compte rendu d’un panel public du 8 octobre indique que le système pourrait produire une alerte environ 20 minutes après la détection d’un langage problématique [1][2].

L’enjeu dépasse largement la technologie éducative. À Gaza, la surveillance n’est pas un sujet abstrait. Elle s’inscrit dans un contexte de guerre, de peur, de destructions scolaires massives et de lutte politique autour de l’avenir du territoire [1]. Un outil présenté par ses promoteurs comme un soutien aux enseignants peut donc être perçu par ses détracteurs comme un instrument de contrôle idéologique.

Qui porte ce projet?

Gaza Children Village a été fondé par le Dr David Hasan, un neurochirurgien né au Koweït de parents palestiniens et enseignant aujourd’hui à la faculté de médecine de Duke University, en Caroline du Nord [1]. Hasan explique que son projet est né de missions médicales à Gaza et de la volonté de rompre les cycles de violence entre Palestiniens et Israéliens [1]. Il a aussi raconté avoir grandi avec une image négative des Juifs et des Israéliens, avant de découvrir d’autres perspectives après son arrivée aux États-Unis [1].

Les écoles de l’organisation, appelées Academies of Hope, fonctionnent dans le centre et le sud de Gaza et accueillent notamment des enfants ayant perdu des proches ou subi des déplacements liés à la guerre, selon AP [1]. Hasan affirme conserver une partie importante du programme de l’Autorité palestinienne, tout en retirant des éléments qu’il juge favorables à la violence, à l’antisémitisme ou à l’hostilité envers Israël [1]. Lors d’un panel organisé le 8 octobre par NGO Monitor à l’International Institute for Counter-Terrorism de Reichman University, Hasan a déclaré que Gaza Children Village était passé à 21 académies accueillant environ 22 000 enfants [2].

Cette croissance explique en partie l’ampleur des inquiétudes. Un test limité dans quelques classes aurait déjà posé des questions éthiques. Un réseau accueillant des milliers d’élèves change d’échelle. Si les micros et les caméras deviennent une présence quotidienne dans ces écoles, l’IA ne sera pas un simple outil expérimental: elle entrera dans des classes où élèves et enseignants vivent déjà sous une pression politique, émotionnelle et sécuritaire extrême.

Ce que l’IA serait censée détecter

Le dispositif utiliserait des équipements d’enregistrement en classe et une analyse automatisée pour repérer des propos contraires au programme éducatif de l’organisation [1]. AP rapporte que la technologie a été testée et que le plan consiste à la déployer dans des dizaines de salles de classe, en s’appuyant sur un message de Hasan consulté par l’agence [1]. Mais plusieurs éléments restent flous: la date de lancement, les termes exacts qui déclencheraient une alerte, et le fait de savoir si les enseignants, les élèves et les familles ont été informés du dispositif [1].

Ces zones d’ombre sont essentielles. Les systèmes d’IA appliqués au langage dépendent fortement des définitions retenues, des données utilisées et du contexte. Une phrase peut être haineuse dans une situation, citée dans une discussion historique dans une autre, ou mal interprétée en raison d’un dialecte, d’une traduction ou d’une référence politique. Dans une classe à Gaza, où s’entremêlent arabe, traumatisme, religion, nationalisme, colère et deuil, le risque d’erreur ou d’autocensure est particulièrement élevé.

Hasan présente la surveillance comme un moyen d’aider les enseignants à appliquer un programme différent de celui auquel beaucoup sont habitués [1]. Lors du panel du 8 octobre, il a aussi évoqué le filtrage des enseignants, la révision des manuels et l’usage du programme de l’Autorité palestinienne comme base, dont seraient retirés les éléments considérés comme haineux ou incitatifs [2]. Selon un compte rendu de cette intervention, il a cité des exemples de modifications, comme remplacer des problèmes de mathématiques portant sur des “martyrs” par des exemples liés au football, ou transformer un exercice lié à la trajectoire d’une arme en exercice sur le lancer du javelot olympique [2].

Pour les partisans du projet, ces changements représenteraient une tentative concrète de bâtir une éducation non violente après des années de radicalisation et de guerre. Pour les opposants, ils soulèvent une autre crainte: que des bailleurs étrangers, des acteurs liés à Israël ou des organisations américaines puissent définir ce que les enfants palestiniens ont le droit d’apprendre, de dire ou de se rappeler.

Entre réforme éducative et “boîte de Pandore”

L’enquête d’AP montre que les réserves ne viennent pas seulement d’observateurs extérieurs. Bishara Bahbah, militant politique palestino-américain siégeant au conseil de l’organisation, a déclaré à AP qu’il n’était pas au courant du plan de surveillance et que des caméras destinées à étouffer l’échange libre en classe ne seraient pas acceptables [1]. Un responsable d’un groupe humanitaire partenaire a aussi affirmé à AP que l’usage de l’IA pour surveiller les paroles ouvrait une “boîte de Pandore” et pourrait amener son organisation à reconsidérer son travail avec Gaza Children Village [1].

Cette expression résume le dilemme. Il est normal que des écoles observent les pratiques pédagogiques et accompagnent les enseignants. Mais Gaza n’est pas un environnement scolaire ordinaire, et l’audio d’une classe n’est pas une simple donnée administrative. Il peut contenir des souvenirs d’enfants ayant perdu des proches, des colères politiques, des références religieuses, des critiques d’Israël, du Hamas, de l’Autorité palestinienne, de donateurs ou d’organisations humanitaires. Si ces paroles sont enregistrées puis classées par un algorithme, les conséquences sociales peuvent être lourdes, même sans partage externe des fichiers.

AP indique qu’aucun élément ne montre actuellement que l’organisation aurait l’intention de transmettre les enregistrements à d’autres acteurs [1]. Mais l’absence d’un partage annoncé ne remplace pas un cadre de gouvernance solide. Qui possède les enregistrements? Qui peut auditer l’algorithme? Un enseignant peut-il contester une alerte? Les parents donnent-ils leur consentement? Les élèves savent-ils qu’ils sont enregistrés? Que se passerait-il si des autorités, des donateurs ou des groupes armés réclamaient l’accès aux données? Ces questions restent sans réponse publique.

La bataille plus large pour l’école à Gaza

La controverse s’inscrit dans une lutte plus vaste sur l’avenir politique et institutionnel de Gaza. AP souligne que des groupes palestiniens de défense des droits critiquent l’agenda éducatif de Gaza Children Village, qu’ils jugent insuffisamment responsable devant les structures locales et onusiennes qui gèrent depuis longtemps l’éducation dans le territoire [1]. Le même article rapporte qu’un porte-parole du gouvernement palestinien, Mohammad AbuAlrob, a défendu le programme de l’Autorité palestinienne comme axé sur la tolérance et la justice, tout en estimant que la surveillance en classe franchirait une ligne importante [1].

Hasan et ses soutiens défendent l’idée qu’une transformation de l’éducation est indispensable pour sortir Gaza de la violence [2]. Lors du panel du 8 octobre, il a aussi évoqué l’utilisation future de jeux Xbox et Nintendo pour enseigner l’Holocauste, avec un accent mis sur la collaboration et l’empathie [2]. Selon le même compte rendu, le calendrier précis et le rôle éventuel de l’ambassade des États-Unis n’étaient pas établis [2].

Matzav, qui a également couvert l’événement du 8 octobre, a décrit cette refonte éducative comme comprenant le filtrage des enseignants, la surveillance des classes par IA et des manuels révisés reconnaissant explicitement Israël [3]. Cette formulation montre pourquoi le projet est politiquement explosif. Pour certains publics, la reconnaissance d’Israël et l’enseignement de l’Holocauste sont des corrections nécessaires face à l’antisémitisme. Pour d’autres, surtout dans une Gaza dévastée, l’initiative peut ressembler à une rééducation imposée de l’extérieur avant même que les Palestiniens aient retrouvé le contrôle de leur vie civique de base.

La vie privée dans une zone de conflit

Même dans un district scolaire en paix, une surveillance par IA exigerait des garanties fortes. À Gaza, le seuil éthique est encore plus élevé. AP cite Amjad Iraqi, de l’International Crisis Group, selon qui de nombreux Palestiniens craignent que presque chaque mot, pensée ou geste puisse être saisi et utilisé contre eux, dans un contexte où Israël a largement utilisé l’information et la surveillance pendant la guerre [1]. AP rappelle aussi que l’armée israélienne a utilisé l’IA pour trier des communications interceptées et repérer des propos suspects, y compris dans des contextes de ciblage [1].

Ce contexte modifie la réception du projet. Même si Gaza Children Village affirme vouloir utiliser l’outil uniquement pour former les enseignants, les familles peuvent craindre que les enregistrements soient un jour exposés, piratés, réclamés sous pression ou mal interprétés par des personnes éloignées de la classe. Les enseignants peuvent éviter les discussions difficiles. Les élèves peuvent apprendre que la réponse la plus sûre est de se taire.

Le défi de l’organisation n’est donc pas seulement technique. Elle devrait démontrer que le système est nécessaire, proportionné, transparent, contrôlé de manière indépendante et réversible. Il faudrait des procédures de consentement claires, une limitation stricte de la conservation, des audits indépendants, des droits de recours pour les enseignants, des règles spécifiques de protection de l’enfance et une définition publique de ce qui constitue un discours haineux ou incitatif. Sans ces garanties, l’outil risque d’affaiblir la confiance dont toute école a besoin.

Un test pour l’IA humanitaire

Le projet de Gaza Children Village montre à quelle vitesse l’IA peut passer d’un rôle administratif à une fonction de jugement moral et politique. Un système qui signale des paroles n’est jamais neutre lorsque la définition du langage dangereux est contestée. À Gaza, des mots comme résistance, martyr, occupation, Israël, Palestine, justice ou sécurité peuvent avoir des sens radicalement différents selon celui qui écoute.

Cela ne signifie pas que l’école doive ignorer l’incitation à la violence ou l’antisémitisme. Cela ne signifie pas non plus que les enfants doivent être privés d’une éducation à l’empathie, à la non-violence et à l’histoire. Le problème est la méthode. Dans une société détruite, une réforme éducative portée par des microphones et des alertes algorithmiques peut produire davantage de peur, même lorsqu’elle se réclame de la paix.

À ce stade, l’histoire reste ouverte. Gaza Children Village développe un réseau scolaire ambitieux et affirme que l’IA peut aider à protéger un programme fondé sur la paix et la tolérance [1][2]. Ses critiques, y compris certaines personnes liées au projet, redoutent que la surveillance des classes ne réduise au silence enseignants et élèves, menace la vie privée et transfère le contrôle de l’éducation à Gaza vers des acteurs extérieurs insuffisamment responsables [1]. La question décisive est désormais de savoir si l’organisation mettra en place des garanties publiques avant tout déploiement, ou si l’une des expériences éducatives les plus sensibles de Gaza avancera sans consentement réel de celles et ceux qui vivent dans ces salles de classe.

Développements

1. A US charity plans to use AI to monitor its Gaza classrooms for ‘hateful’ speech - AP NewsAP News · 9 oct. 2026, 07:12 · 7/10

Sources des dernières 72 heures

1. [1]Xbox, Nintendo games may soon be used to teach Gaza children about Holocaust8 oct. 2026, 02:00
2. [2]HOLOCAUST LESSONS ON XBOX: Gaza Schools Introduce Radical Education Overhaul to Replace Terror Incitement With Holocaust Education8 oct. 2026, 02:00
3. [3]A US charity plans to use AI to monitor its Gaza classrooms for 'hateful' speech9 oct. 2026, 07:06

Article généré par IA à partir d’une recherche web récente, puis conservé comme instantané éditorial daté.