
Tech • IA • Robotique • Jeu
⏱ Résumé en ≈ 5 min · vidéo de 15 min — 10 min gagnées
Anthropic a été fondée par d’anciens dirigeants d’OpenAI qui estimaient que l’accélération rapide de l’IA pouvait apporter d’importants gains scientifiques et économiques, mais exigeait une entreprise construite autour de la sécurité, de l’intérêt public et de la recherche de pointe.
Anthropic est née d’un groupe de chercheurs et d’opérationnels qui travaillaient sur les grands modèles, les politiques publiques, l’interprétabilité et la sécurité chez OpenAI. Ils ont conclu que les progrès du calcul et des données amélioraient régulièrement les capacités des modèles, avec l’apparition de nouveaux comportements à mesure que les systèmes changeaient d’échelle. Cette tendance les a convaincus qu’une IA de niveau humain pourrait arriver de leur vivant et qu’une nouvelle organisation était nécessaire pour gérer à la fois l’opportunité et le risque.
Une intuition centrale de l’équipe fondatrice était qu’une IA toujours plus puissante pouvait être construite en augmentant la puissance de calcul, la taille des modèles et la quantité de données. Beaucoup s’attendaient à un codage explicite du raisonnement ou de la planification, mais le groupe a vu l’intelligence progresser selon une courbe de mise à l’échelle plus prévisible. Cela a ouvert la perspective de systèmes d’IA capables de contribuer au logiciel, aux mathématiques, à la biologie, à la robotique et à la médecine.
Les fondateurs voyaient l’IA comme une technologie au potentiel transformateur, notamment contre le cancer, les maladies cardiovasculaires, l’obésité, les infections et d’autres problèmes limités par l’ingéniosité humaine. En même temps, ils la considéraient d’une gravité comparable à celle des médicaments ou du nucléaire: extrêmement précieuse, mais dangereuse si elle est mal utilisée. Cette double vision a motivé la création d’une entreprise où la sécurité ferait partie de la mission centrale plutôt que d’être une préoccupation secondaire.
L’entreprise a été constituée en public benefit corporation le 26 janvier 2021. Cette structure devait permettre des décisions favorisant le bénéfice sociétal à long terme plutôt que le rendement à court terme pour les actionnaires. En interne, cela signifiait se préparer à des moments où l’entreprise pourrait volontairement sacrifier profit, vitesse ou part de marché afin de réduire le risque ou de déployer ses systèmes avec plus de prudence.
Au départ, l’organisation était légère et improvisée. Les dirigeants géraient eux-mêmes des tâches de startup de base, notamment l’obtention de clusters de calcul AWS, la création du premier site web, la levée de fonds, le recrutement et même la paie. L’entreprise fonctionnait d’abord surtout comme un laboratoire de recherche, sans savoir clairement si ses systèmes deviendraient de grands produits ou resteraient des curiosités scientifiques.
Les premiers modèles ont été conçus autour de l’objectif d’être helpful, harmless, and honest, mais les progrès furent inégaux. Certains systèmes inventaient avec assurance de fausses informations, validaient des conseils absurdes comme un régime uniquement à base de pommes de terre, ou pouvaient être poussés vers des comportements aberrants. Un tournant est venu à la mi-2022 avec le modèle devenu Claude, qui a commencé à répondre de manière plus ancrée et cohérente, avec un net progrès en raisonnement de bon sens.
Claude a été lancé publiquement en mars 2023, mais l’entreprise se voyait encore en retard sur la frontière technologique. Des clients potentiels demandaient ouvertement pourquoi choisir son modèle plutôt que ceux des concurrents. Cette période a renforcé l’effort sur le préentraînement, l’apprentissage par renforcement et l’usage efficace du calcul, l’accès à une puissance de calcul à grande échelle étant traité comme une nécessité stratégique.
La sortie de Claude 3 Opus a marqué la première fois où l’entreprise a estimé disposer d’un modèle de tout premier plan. Claude 3.5 Sonnet a ensuite consolidé cette position, surtout pour les tâches de programmation. Cela a conduit au développement de Claude Code, un outil conçu pour permettre au modèle d’agir plus directement sur l’ordinateur d’un utilisateur afin de résoudre des problèmes logiciels, contribuant à déclencher une nouvelle vague de demande.
Anthropic soutient que la recherche sur la sécurité est plus solide lorsqu’elle est menée sur les systèmes les plus capables plutôt que sur des systèmes plus faibles. Travailler à la frontière permet de révéler plus tôt les modes d’échec et les risques de détournement, donnant plus de temps pour réagir. L’entreprise a aussi déclaré publier ses recherches en sécurité même lorsque cela peut affaiblir sa position concurrentielle, au motif qu’une adoption large des garde-fous est nécessaire pour l’industrie.
Un changement majeur est venu avec des tests limités de Mythos, un modèle apparemment capable de trouver des vulnérabilités logicielles à un niveau expert dans de nombreuses applications. L’entreprise a conclu que si un tel système devenait largement accessible à des acteurs malveillants, les conséquences pourraient être graves. Au lieu d’une sortie standard, elle a lancé le projet Glasswing, en donnant l’accès à un ensemble plus restreint d’organisations tout en construisant des garde-fous et en permettant aux défenseurs d’identifier et corriger les vulnérabilités en premier.
Les dirigeants de l’entreprise estiment qu’un déploiement plus lent et plus contrôlé peut coûter à court terme, mais sert mieux la mission de long terme. Ils soutiennent que les entreprises d’IA doivent offrir non seulement des avertissements sur les usages catastrophiques, mais aussi une vision positive de la technologie. Parmi les usages actuels cités figurent l’aide aux patients pour obtenir de meilleurs diagnostics, le soutien aux entrepreneurs et aux amateurs, et l’accélération de la recherche en biologie, y compris des travaux susceptibles de révéler de nouveaux mécanismes d’édition génétique beaucoup plus rapidement.
Anthropic a été fondée sur la conviction qu’une IA avancée sera à la fois profondément utile et intrinsèquement risquée. Sa stratégie consiste à rester à la frontière tout en acceptant, si nécessaire, des compromis commerciaux pour orienter la manière dont la technologie est déployée.
Poser une question