L'IA pour tuer : le plus grand débat du 21e siècle..? -- avec Meron Rapoport

INTRO

Un nouveau documentaire intitulé NASA a propulsé les accusations visant le ciblage assisté par IA à Gaza au centre du débat public, d’anciens soldats israéliens décrivant des pratiques de frappe acceptant un lourd bilan civil et s’appuyant sur des systèmes comme Lavender.

POINTS CLÉS

Un film fondé sur les témoignages de soldats

NASA tire son nom de l’abréviation militaire hébraïque pour dommages collatéraux et s’appuie sur les témoignages de 24 soldats israéliens, pour la plupart liés au renseignement militaire. Le film examine la manière dont les décisions de ciblage ont été prises pendant la guerre à Gaza, y compris l’usage d’outils logiciels pour identifier de présumés militants. Sa sortie a suscité une attention inhabituelle après un accueil remarqué à la Mostra de Venise, puis il est devenu un succès au box-office en Italie.

Le fonctionnement présumé de Lavender

D’anciens soldats décrivent Lavender comme un système utilisé pour générer des listes de 40 000 à 50 000 Gazaouis soupçonnés de liens avec le Hamas. Selon eux, le logiciel tirait des déductions à partir des contacts téléphoniques et d’autres connexions de données, transformant de larges schémas en soupçons mortels. En pratique, figurer sur une telle liste pouvait fortement accroître la probabilité d’être pris pour cible.

Des ratios de morts civils présentés comme normalisés

Les témoignages affirment que des frappes étaient approuvées malgré des pertes civiles attendues à une échelle auparavant jugée inacceptable dans les opérations israéliennes. Des soldats disent que, pour des cibles de rang inférieur, l’armée pouvait accepter la mort d’environ 20 civils, tandis que pour des figures plus importantes, le seuil toléré pouvait monter à 100, 200, 300, et dans un cas même 500. Le film présente cela comme la preuve d’un changement majeur dans les règles d’engagement.

Des frappes nocturnes sur des maisons

Des témoins disent que les attaques visaient souvent des domiciles privés lorsque les militants présumés étaient censés dormir avec leurs familles plutôt que lorsqu’ils se trouvaient en position de combat. Ce choix, disent-ils, augmentait fortement le risque de tuer des proches et des voisins. Certains soldats décrivent aussi des cas où la personne visée n’était pas présente, ou avait été mal identifiée par le système.

Le rôle humain restait central, mais contesté

L’armée a soutenu qu’apparaître dans Lavender ne suffisait pas, à lui seul, à autoriser une frappe. Mais la controverse essentielle est de savoir si l’examinateur humain avait un réel pouvoir pour rejeter les recommandations algorithmiques dans un contexte de guerre marqué par une intense déshumanisation et une pression pour agir vite. Cette question est au cœur de débats mondiaux plus larges sur les armes autonomes et l’IA dans la guerre.

Pourquoi des soldats ont parlé

Les entretiens suggèrent un long travail de mise en confiance avec les sources sur de nombreux mois de reportage. Certains participants semblent avoir voulu que le public israélien et le reste du monde sachent ce qui a été fait à Gaza, même si le film évite de s’attarder sur le remords personnel. Il en ressort plutôt un récit détaillé de procédures, d’écrans, de listes et d’autorisations que plusieurs témoins comparent à une forme mortelle de télécommande.

Un retour de bâton en Israël

Le film a déclenché de vives réactions en Israël, avec des accusations de trahison, des appels à l’emprisonnement et même des menaces de violence contre ses auteurs. Selon des proches de la production, l’hostilité est devenue si forte qu’un retour en sécurité en Israël a été considéré comme difficile pendant un temps. Aucun cinéma en Israël n’aurait accepté de projeter publiquement le documentaire après des avertissements sur de possibles sanctions.

Un contexte politique plus large

La controverse s’est déployée dans le cadre d’une campagne électorale et d’une lutte plus large autour des responsabilités liées aux attaques du 7 octobre. Benjamin Netanyahu a aussi engagé une action en justice contre Haaretz au sujet d’informations selon lesquelles il aurait reçu des avertissements préalables par des canaux étrangers. Des critiques estiment que les attaques contre le film ont aussi servi à détourner l’attention de ces questions politiquement sensibles.

Un succès international et une critique plus profonde

Le documentaire a été salué par d’importants critiques aux États-Unis et en Europe, avec de fortes critiques soulignant à la fois son urgence politique et sa retenue formelle. Dans le même temps, certaines voix pro-palestiniennes ont reproché à l’opinion internationale de réagir plus vivement lorsque des Israéliens décrivent des violences que les Palestiniens documentent eux-mêmes depuis longtemps. Les défenseurs du film répondent que sa contribution spécifique est d’exposer de l’intérieur la logique interne de la prise de décision militaire israélienne.

CONCLUSION

La question centrale soulevée par NASA n’est pas seulement l’ampleur des dommages causés aux civils à Gaza, mais la façon dont logiciel, doctrine militaire et validation humaine se sont combinés pour rendre ces dommages ordinaires en apparence. Alors que les États négocient de futures règles sur les armes à IA, les accusations décrites dans le film devraient s’inscrire dans un débat bien plus vaste sur la responsabilité en temps de guerre.

Sur le même sujet : IA

• →Des dirigeants de l'IA signent un engagement commun, convertir les watts en PIB, le débat sur la conscience des modèles | Diet TBPN· 1 oct.
• →Les annonces d'OpenAI (dont Dots !) et celles d'Anthropic : ça chauffe ! + interview !· 1 oct.
• →Le LIE Session 2 - RETEX : mes erreurs sur la voie du souverain· 1 oct.