
Tech • IA • Robotique • Jeu
Les modèles de langage open source ablitérés sont modifiés pour supprimer de nombreux comportements de refus, ce qui les rend plus faciles à utiliser pour des demandes liées au droit d’auteur, trompeuses ou dangereuses, tout en réduisant légèrement leurs performances sur les benchmarks.
L’ablitération consiste à modifier un modèle open source afin qu’il cesse de refuser un large éventail d’instructions. L’objectif est de retirer les comportements de sécurité ajoutés après le préentraînement et le fine-tuning de type assistant, pour créer des systèmes qui répondent à des demandes que les modèles grand public bloquent souvent. Ses partisans les jugent plus utiles; ses critiques y voient une érosion directe des garde-fous.
Les chatbots modernes sont généralement façonnés en plusieurs étapes: préentraînement à grande échelle, fine-tuning de type assistant, puis une phase de sécurité qui enseigne des schémas de refus. L’ablitération vise cette dernière couche de comportement. La méthode décrite repose sur la comparaison entre prompts acceptés et refusés, la lecture des activations internes, l’identification d’une « direction de refus » dominante, puis la modification des poids pour la neutraliser.
Les jailbreaks par prompt sont souvent de courte durée, car les fournisseurs les corrigent rapidement. L’ablitération est présentée comme une intervention plus durable, car elle modifie le modèle lui-même plutôt que la formulation d’une requête. Elle est aussi décrite comme plus précise qu’un fine-tuning général, qui peut davantage dégrader les capacités globales.
La discussion souligne que certains modèles chinois, dont DeepSeek, peuvent accepter des demandes que des assistants occidentaux comme Claude refusent, par exemple une aide pour concevoir un faux comptoir de vente. Pourtant, ces mêmes modèles peuvent encore refuser du texte protégé par le droit d’auteur, comme des paroles de chansons. Les variantes ablitérées visent à supprimer même ces limites restantes.
Ces modèles sont décrits comme prêts à produire du contenu protégé, des transcriptions et des instructions techniques très sensibles. Parmi les exemples figurent la génération des paroles d’une chanson populaire de Justin Bieber et une réponse à une question sur la dissolution d’un corps avec de l’acide. De tels comportements soulèvent immédiatement des inquiétudes en matière d’abus du droit d’auteur, de fraude, de cybermalveillance et de violence.
Supprimer les refus ne laisse pas le modèle sous-jacent inchangé. Une comparaison citée affirme qu’un score de capacité est passé de 87 % à 82 % après ablitération. Cela suggère une perte modérée de qualité sur les benchmarks, même si les utilisateurs recherchant des sorties sans restriction peuvent juger le modèle plus « utile » pour des tâches bloquées.
Les modèles évoqués sont open source et peuvent être auto-hébergés, ce qui les rend plus difficiles à contrôler que des systèmes propriétaires. Les utilisateurs pourraient rechercher sur des hubs de modèles des versions ablitérées et télécharger des variantes construites à partir de bases populaires. Cela abaisse la barrière d’entrée pour ceux qui veulent des systèmes non censurés sur une infrastructure locale ou privée.
Au-delà de l’auto-hébergement, certains services proposent un accès API à ces systèmes modifiés avec des interfaces proches de déploiements de type OpenAI. Cela signifie que les utilisateurs n’ont pas forcément besoin de leur propre matériel ni d’une configuration technique pour essayer des modèles sans restriction. Une disponibilité plus large pourrait accélérer l’expérimentation, mais elle étend aussi l’accès à des sorties que de nombreux fournisseurs interdisent volontairement.
Les modèles ablitérés montrent à quel point les couches de sécurité de l’IA open source peuvent être affaiblies ou supprimées facilement. L’enjeu principal n’est plus de savoir si des systèmes sans restriction peuvent être créés, mais jusqu’où ils se diffuseront et comment les sociétés répondront aux risques qu’ils permettent.
Poser une question