Le bras de fer entre Anthropic et le Pentagone concernant l'utilisation militaire de Claude

L'affrontement entre Anthropique et le Pentagone C'est devenu l'un des cas les plus frappants concernant Jusqu'où peut aller l'utilisation militaire de l'intelligence artificielle générative ?Ce qui avait commencé comme un accord stratégique visant à déployer le modèle Claude sur les réseaux classifiés du département de la Défense américain s'est terminé ce qui a entraîné une confrontation directe sur les limites éthiques et opérationnelles de cette technologie..

Au cœur du conflit se trouve le Le Pentagone exige de pouvoir utiliser des modèles anthropiques à « toutes fins légales »., en réponse au refus de l'entreprise d'autoriser certaines utilisations, notamment dans surveillance de masse de la population et dans systèmes d'armes entièrement autonomesLes tensions se sont exacerbées après la révélation que Claude aurait été utilisé dans l'opération américaine qui a abouti à la capture de Nicolás Maduro à Caracas.

Un contrat de plusieurs millions de dollars menacé

Anthropic a signé cet été un accord avec le département de la Défense d'une valeur de jusqu'à 200 milliards de dollars, devenant ainsi l'un des premiers laboratoires d'IA avancée à déployer ses modèles dans réseaux classifiés Du Pentagone. Claude, adapté aux besoins du gouvernement et de la sécurité nationale, a été intégré comme composante essentielle des outils analytiques de l'armée américaine.

Au sein des forces armées, certains se plaignent de devoir négocier au cas par cas les utilisations autorisées et celles qui entrent en conflit avec les politiques internes d'Anthropic Cela s'avère impraticable dans un contexte opérationnel. La marge d'interprétation concernant la définition exacte des catégories interdites – armes autonomes et surveillance de masse – a généré frottement continu ces derniers mois.

Des sources citées par les médias américains affirment que, compte tenu de cette situation, «Tout est sur la table”, y compris la possibilité de remplacer progressivement la technologie d'Anthropic par celle d'autres fournisseurs plus flexibles. Le remplacement de Claude ne serait cependant pas immédiat, car le modèle est spécifiquement adapté à certaines applications gouvernementales et de défense qui ne peut pas être migrée du jour au lendemain.

La valeur de ce contrat dépasse largement son aspect financier : il s'agit du fournisseur d'IA du Pentagone. Il fait office de sceau de légitimité avant les autres gouvernements et les grandes entrepriseset renforce les évaluations privées qui, dans le secteur de l'IA, sont mesurées en des dizaines de milliards de dollarsPerdre cette vitrine serait un coup dur pour n'importe laquelle des grandes entreprises pharmaceutiques.

Claude et l'opération visant à capturer Nicolás Maduro

La controverse a éclaté suite à des informations selon lesquelles Le Wall Street JournalAxios et d'autres médias américains suggèrent que Claude aurait été employé dans le cadre de l'opération militaire américaine à Caracas. qui s'est soldée par la capture de Nicolás Maduro. Cette mission, menée par les forces spéciales américaines début janvier, a combiné des bombardements ciblés et le déploiement de commandos d'élite pour prendre d'assaut le complexe où se cachait le dirigeant vénézuélien.

D'après ces reconstitutions, l'IA d'Anthropic aurait été intégrée via la plateforme de Palantir Technologies, fournisseur régulier du Pentagone, pour traiter de grands volumes d'informations En temps réel, recouper les communications interceptées et synthétiser les images satellites et les données des drones pendant la phase active de l'opération.

Des sources citées par la presse indiquent que Claude aurait aidé hiérarchiser les objectifs, les itinéraires et les risques dans un contexte de combats urbains complexes. Les autorités vénézuéliennes ont fait état de dizaines de morts, et certains rapports mentionnent au moins 83 décès durant l'offensive, bien que les États-Unis n'aient pas officiellement communiqué le nombre de victimes.

Ni Anthropic ni le département de la Défense n'ont explicitement confirmé le rôle précis de cet outil dans la mission. Un porte-parole de l'entreprise a simplement déclaré qu'il ne pouvait faire aucun commentaire. si Claude a été utilisé dans des opérations spécifiquesclassifiées ou non classifiées, et que toute mise en œuvre, que ce soit dans le secteur privé ou gouvernemental, doit respecter les politiques internes, ce qui Elles interdisent de faciliter la violence, de concevoir des armes ou de participer à la surveillance de masse..

Conflit de cultures : clauses éthiques contre « finalités purement légales »

Une grande partie du conflit découle de la culture d'entreprise d'Anthropic. Fondée par les frères Dario et Daniela Amodei —anciens directeurs de la recherche chez OpenAI—, la société a été créée sous le nom de société d'intérêt public et se présente depuis des années comme l'un des laboratoires d'IA les plus avancés « Idéologique » en matière de sécurité et les risques à long terme.

Ses modèles Claude sont formés selon l'approche dite « IA constitutionnelle »avec des règles internes conçues pour rejeter les demandes impliquant des dommages physiques, des violations des droits de l'homme ou surveillance invasiveParmi leurs lignes rouges figure expressément le soutien à armes autonomes sans supervision humaine et des programmes de surveillance de masse ciblant les citoyens américains.

Cette approche contredit directement la doctrine que le Pentagone a exposée ces derniers mois. Une note interne du département de la Défense, divulguée à la presse, affirme que les forces armées peuvent utiliser des outils d'IA commerciaux pour à des fins légalesmême si les conditions d'utilisation privées des entreprises stipulent le contraire, pour autant que les lois américaines et internationales applicables soient respectées.

Le secrétaire à la Défense, Pete Hegseth, a même déclaré publiquement que les États-Unis Elle n'utilisera pas de modèles d'IA qui empêchent les "guerres".Cela établit clairement la priorité opérationnelle sur les restrictions que s'imposent les fournisseurs. Pour les commandants militaires, l'IA est déjà un capacité stratégique comparable pour Anthropic, il s'agit d'une technologie à usage général dont la légitimité repose sur la limitation de ses utilisations les plus controversées, comme un nouveau système radar ou une flotte de drones.

Dans ce contexte, toute tentative de l'entreprise de revenir sur les événements de Caracas ou de les qualifier – par exemple en s'enquérant du rôle de son logiciel lors du raid – a été interprétée dans certains secteurs du Pentagone comme une tentative de sa part de revenir sur les événements de Caracas ou de les qualifier de « tentative de la partie adverse ». signe de méfiance ou de désapprobation concernant l'utilisation militaire de sa propre IA, ce qui a durci le ton des négociations.

Palantir comme intermédiaire et le risque de « désintermédiation éthique »

Un autre élément clé de ce puzzle est Palantir, la société d'analyse de données qui Depuis des années, elle constitue une infrastructure quasi structurelle de l'appareil de sécurité américain.Leurs plateformes servent de pont entre les réseaux ultra-secrets du département de la Défense et les modèles d'IA commerciaux état de l'art.

D'après les fuites, Claude a eu accès à des environnements classifiés du Pentagone. uniquement grâce à la technologie PalantirCette couche intermédiaire permet de combiner l'IA d'Anthropic avec d'autres systèmes d'analyse, de simulation et de visualisation utilisés lors de conflits précédents et dans le cadre de missions de surveillance des frontières ou de lutte contre le terrorisme.

Le problème, du point de vue du contrôle d'utilisation, est qu'une fois le modèle intégré à une plateforme externe, l'entreprise qui l'a créé perte de visibilité granulaire concernant précisément les requêtes effectuées par les utilisateurs militaires et la configuration des filtres et des dispositifs de protection.

Plusieurs analystes décrivent cette situation comme un cas de « désintermédiation éthique »Les startups spécialisées en IA affichent des politiques strictes, mais délèguent la mise en œuvre technique à des intégrateurs qui travaillent en coulisses avec les forces armées et les agences gouvernementales. Si ces intermédiaires assouplissent les restrictions au nom de l'efficacité opérationnelle ou de la rapidité de réponse, La capacité réelle de l'entreprise à empêcher certaines utilisations est réduite. à ce qui peut être démontré lors d'audits ultérieurs, qui sont presque toujours complexes.

L'épisode de la capture de Maduro illustre à quel point la conception de la chaîne technologique Cela conditionne la possibilité effective d'imposer des limites à l'IA militaire., au-delà des phrases bien intentionnées contenues dans les politiques d'utilisation.

Légalité, « chaîne d’élimination » accélérée et responsabilité

Au-delà du débat contractuel, cette affaire témoigne d'une transformation doctrinale en cours au sein du département de la Défense. Ces dernières années, le Pentagone a investi des milliards pour accélérer ce qu'il appelle la « chaîne de mise à mort », la séquence qui va de la détection d'une cible à sa neutralisation.

Des mannequins comme Claude sont prometteuses Digestion en quelques secondes Des volumes d'informations qui nécessitaient auparavant des équipes humaines entières et des heures d'analyse : interception des communications, reconnaissance d'images, rapports de terrain, données satellitaires… Le tout présenté en langage naturel et assorti de recommandations priorisées pour les commandants.

Le risque, soulignent les experts en éthique militaire et en gouvernance technologique, est que cela génère un dépendance psychologique Les suggestions du système peuvent s'avérer problématiques en situation d'urgence. Si un agent dispose de peu de marge de manœuvre et que l'IA propose une ligne de conduite apparemment judicieuse, il peut être très difficile, en pratique, de remettre en question les conclusions du modèle.

De plus, l'utilisation de l'IA dans les opérations secrètes soulève des questions quant à la responsabilité démocratiqueEn cas d’erreurs graves – par exemple, un bombardement causant des victimes civiles en raison d’une mauvaise interprétation des renseignements – il n’est pas clair où se situe la responsabilité : au commandant qui prend la décision finale, à l’intégrateur qui a configuré la plateforme ou à l’entreprise qui a entraîné le modèle et défini ses limites ?

Jusqu'à présent, ni le Pentagone ni Anthropic n'ont précisé les mesures de protection spécifiques mises en place pendant l'incident. intervention à CaracasCombien de personnes supervisaient les suggestions de Claude, ou quels mécanismes existaient pour bloquer les recommandations potentiellement disproportionnées ou illégales ?

La concurrence entre les géants de l'IA et la pression sur Anthropique

Le bras de fer entre Anthropic et le Pentagone se déroule dans un contexte de concurrence féroce par le biais du marché de la défense. Des entreprises comme OpenAI (avec ChatGPT et sa plateforme pour les entreprises), Google (Gémeaux) ou xAI (Grok) collabore déjà avec le Département de la Défense dans des environnements non classifiés et négocie son entrée dans des réseaux plus sensibles selon la norme « toutes fins légitimes ».

Selon des sources au sein de l'administration, au moins une de ces entreprises a déjà accepté que cadre de flexibilitéTandis que d'autres se montrent plus disposés qu'Anthropic à adapter leurs services au domaine militaire. Parallèlement, des consortiums dirigés par de grandes entreprises technologiques ont annoncé des outils d'IA destinés à assister des millions de membres du personnel militaire dans les tâches d'analyse, de génération de rapports et formation avec la réalité virtuelle.

Les chiffres du secteur expliquent une partie de cette pression : on estime que l’IA se concentre déjà autour de 44 % du financement mondial Dans les domaines de la défense, de la sécurité et de la résilience, des milliards de dollars sont investis dans des projets liés à la prise de décision automatisée, à la surveillance, aux drones et à l'imagerie satellitaire. Pour tout laboratoire d'IA, négliger ce marché revient à se priver d'une part considérable de son potentiel commercial.

Dans le même temps, le coût potentiel en termes de réputation a augmenté. Être perçu comme l'entreprise qui conçoit « Cerveaux » pour armes autonomes ou, pour les systèmes de surveillance de masse, cela peut entraver le recrutement de talents, effrayer certains investisseurs et provoquer une résistance de la part des clients civils qui se méfient de la militarisation de la technologie.

Des inscriptions ont déjà été effectuées au sein d'Anthropic et d'autres entreprises du secteur. démissions d'employés et des débats internes sur la mesure dans laquelle il est acceptable de collaborer sur des contrats militaires. Ces conflits rappellent l'affaire Google et Project Maven, qui, en 2018, avait provoqué une vague de protestations internes et contraint l'entreprise à ne pas renouveler son accord avec le Pentagone.

Dimension internationale et écosystème réglementaire européen

Bien que la confrontation entre Anthropic et le Pentagone se déroule à Washington, ses effets se font sentir dans le monde entier. écosystème technologique et réglementaire européenL'Union européenne poursuit son travail sur Loi sur l'IA, la première législation majeure et exhaustive sur l'intelligence artificielle, qui comprend des restrictions spécifiques pour systèmes à haut risque et exige des garanties supplémentaires dans des domaines tels que la surveillance biométrique ou l'utilisation d'outils de pointe par la police et l'armée.

En Europe, le débat sur l'IA dans la défense est généralement soumis à un examen plus rigoureux. garantLes pays de l'OTAN ayant une forte tradition de contrôle parlementaire — dont l'Espagne — suivent de près la manière dont les États-Unis intègrent les modèles de langage génératifs dans des missions concrètes, conscients que ce précédent pourrait influencer les missions futures. opérations conjointes ou au sein de l'Alliance atlantique.

Pour les gouvernements européens, l’enjeu n’est pas seulement technologique, mais aussi juridique : ils doivent décider dans quelle mesure ils sont prêts à dépendre de… plateformes américaines dans des domaines aussi sensibles que la défense, et quelles sont les conditions requises en matière de transparence, d'audits et de contrôle démocratique de l'utilisation de l'IA dans les conflits.

De plus, l'affaire Anthropic-Pentagone renforce les arguments de ceux qui, à Bruxelles, réclament un cadre spécifique pour l'IA militaireEn coordination avec l'OTAN, mais conforme aux principes fondamentaux des droits de l'homme de l'UE, la loi sur l'IA, bien qu'axée principalement sur les applications civiles, voit son intégration croissante dans les opérations militaires rendre difficile le maintien d'une séparation nette entre les deux.

Les entreprises européennes de technologie et de défense, ainsi que les filiales locales des principaux laboratoires américains, devront opérer dans un scénario où les contrats militaires les plus lucratifs Elles pourraient entrer en conflit avec les règles politiques et les sensibilités du continent.

Qui décide des limites de l'IA militaire ?

Le problème sous-jacent à tout cet épisode est une question qui met mal à l'aise : Dans quelle mesure les entreprises privées peuvent-elles opposer leur veto à des utilisations spécifiques ? Qu’en est-il d’une technologie que les États considèrent comme stratégique pour leur sécurité nationale ? Et, inversement, un gouvernement peut-il unilatéralement ignorer les clauses éthiques convenues avec un fournisseur, en invoquant des raisons de défense ?

Le Pentagone affirme qu'un cadre consolidé existe déjà pour lois, règles d'engagement et contrôles internes pour prévenir les abus, et que l'ajout de niveaux de veto du secteur privé pourrait désavantager les États-Unis face à des rivaux comme la Chine ou la Russie, où l'intégration de l'IA dans la surveillance et l'armement est soumise à moins de contrôles.

Pour sa part, Anthropic soutient que garanties techniques —des blocages au sein même des modèles, une surveillance active de l'utilisation et des audits périodiques— sont le seul moyen réaliste de réduire le risque d'escalade vers armes autonomes sans supervision humaine ou des programmes de surveillance de masse. Selon lui, se fier uniquement aux interprétations ultérieures de la loi ne suffit pas à prévenir les scénarios les plus dangereux.

Le contraste avec les autres entreprises du secteur est évident : tandis qu'Anthropic tente de maintenir une position plus restrictiveTrois autres grandes entreprises ont accepté, à des degrés divers, le critère « à toutes fins légales », tout en précisant qu'elles continueront de négocier certaines garanties. Il en résulte une pression accrue sur Anthropic, qui risque de se retrouver isolée si elle est la seule à s'y opposer.

En pratique, la première grande bataille pour le contrôle des utilisations militaires de l'IA ne se déroule pas au sein d'un parlement ou d'une cour internationale, mais dans un table de négociation de contrat entre une entreprise technologique et le plus grand appareil militaire de la planèteCe qui sera décidé là-bas définira, plus ou moins silencieusement, le cadre des futurs accords à l'échelle mondiale.

Prise dans son ensemble, l'affaire Anthropic-Pentagone est devenue un symbole des tensions qui accompagnent le développement de l'intelligence artificielle : une technologie née pour automatiser les tâches et améliorer la productivité qui, lorsqu'elle entre dans le domaine de la défense, impose un choix entre croissance et principes, rapidité et prudence, secret militaire et contrôle démocratiqueLa manière dont ce conflit sera résolu sera suivie de près à Washington comme à Bruxelles, car elle déterminera en grande partie la façon dont l'IA sera intégrée dans les conflits futurs.

Article connexe :

GenAI.mil : le pari du Pentagone sur l’intelligence artificielle militaire

Alberto Navarro

Je suis un passionné de technologie qui a fait de ses intérêts de « geek » un métier. J'ai passé plus de 10 ans de ma vie à utiliser des technologies de pointe et à bricoler toutes sortes de programmes par pure curiosité. Aujourd'hui, je me spécialise dans l'informatique et les jeux vidéo. En effet, depuis plus de 5 ans, j'écris pour différents sites Web sur la technologie et les jeux vidéo, créant des articles qui cherchent à vous donner les informations dont vous avez besoin dans un langage compréhensible par tous.

Si vous avez des questions, mes connaissances s'étendent de tout ce qui concerne le système d'exploitation Windows ainsi qu'Android pour les téléphones mobiles. Et mon engagement est envers vous, je suis toujours prêt à consacrer quelques minutes et à vous aider à résoudre toutes les questions que vous pourriez avoir dans ce monde Internet.