Aller au contenu

Goldman Sachs retire Claude Code : la leçon des agents IA

·

goldman-sachs-retire-claude-code-agents-ia-featured

Goldman Sachs vient de retirer Claude Code de ses équipes de banquiers et traders. Pas un couac silencieux dans un coin de réunion — une décision officiellement documentée, qui a fait pas mal de bruit sur Hacker News cette semaine. 780 points, 412 commentaires : le genre de sujet qui touche une corde sensible dans la communauté tech.

La réaction pavlovienne serait de lire ça comme « encore une grande boîte qui a peur de l’IA ». Mais c’est plus intéressant que ça. Claude Code n’est pas un chatbot. C’est un agent. Et mettre un agent IA dans l’environnement de travail d’un trader, c’est une décision qui méritait effectivement d’être reconsidérée sérieusement.

Ce recul dit quelque chose de précis sur l’état de l’adoption enterprise de l’IA : le problème n’est pas l’IA en soi, c’est le mismatch entre ce que l’outil fait réellement et l’environnement dans lequel on l’a planté.

TL;DR — Goldman Sachs retire Claude Code de ses banquiers et traders non pas parce que l’IA « ne marche pas », mais parce qu’un agent qui lit des fichiers et exécute du code n’a probablement rien à faire dans un environnement financier ultra-régulé. La vraie leçon : tous les outils IA ne sont pas interchangeables, et la question du contrôle d’accès aux données est le vrai mur auquel l’adoption enterprise est en train de se cogner.

Claude Code, ce n’est pas GitHub Copilot

Première chose à clarifier pour éviter le faux débat : Claude Code n’est pas un outil d’autocomplétion. GitHub Copilot, c’est une suggestion de code dans ton éditeur — tu acceptes ou tu refuses, tu gardes le contrôle total sur chaque ligne. Claude Code, c’est un agent qui peut lire ton codebase, modifier des fichiers, exécuter des commandes dans un terminal, appeler des APIs externes, et enchaîner des actions de sa propre initiative. C’est fondamentalement différent en termes d’autonomie et de surface d’accès.

Concrètement : si tu lui demandes « ajoute une validation email dans ce projet », il ne te sort pas un snippet à copier-coller. Il ouvre les fichiers concernés, les modifie directement, crée éventuellement des tests unitaires, et peut exécuter le tout pour vérifier que ça tourne. C’est puissant pour un développeur sur son propre projet. C’est problématique dans un environnement où tu ne maîtrises pas exactement ce que l’agent peut atteindre.

Cette distinction entre « assistant passif » et « agent actif » est au cœur de pourquoi Goldman a reculé. Et c’est une distinction que beaucoup d’équipes IT commencent seulement à vraiment saisir — souvent après avoir déployé l’outil, pas avant.

Un trader et un agent qui lit ses fichiers

Les banquiers et traders de Goldman ne sont pas des développeurs. Certains ont des compétences en Python pour l’analyse de données ou la modélisation financière, mais leur environnement de travail contient des données ultra-sensibles : positions de trading en temps réel, modèles propriétaires de valorisation, données clients, communications internes classifiées. Des données dont la moindre fuite peut coûter des centaines de millions de dollars et déclencher des procédures réglementaires en cascade.

Quand un agent IA tourne dans cet environnement, il a potentiellement accès — même de façon non intentionnelle — à tout ce qui traîne dans les dossiers accessibles. Et ces données partent vers des serveurs externes pour être traitées par les modèles d’Anthropic. C’est là que la compliance entre en jeu, violemment.

Goldman évolue sous la surveillance de la SEC, de la FINRA, et d’une constellation de régulateurs internationaux. La règle de base dans la finance : les informations non-publiques importantes (MNPI — Material Non-Public Information) ne peuvent pas circuler librement en dehors des périmètres contrôlés. Un agent IA qui « lit » les fichiers présents dans l’environnement d’un trader, même pour une tâche apparemment anodine, représente une surface d’exposition réglementaire considérable.

DÉCOUVREZ NOS RÉALISATIONS

Sirene

Sirene

Plateforme de formation PWA pour les forces de securite. Scenarios temps reel, evaluation MSP officielle et mode offline.

Voir le projet →

⚠️ MNPI et agents IA : la combinaison risquée. Dans la finance, le MNPI est strictement encadré par la réglementation. Un agent IA qui accède aux fichiers d’un trader — même sans intention malveillante — peut involontairement embarquer ces données sensibles dans ses requêtes vers des serveurs tiers. C’est un risque de compliance réel, pas théorique.

La compliance, le mur qui revient toujours

Ce n’est pas la première fois qu’une institution financière fait marche arrière sur un outil IA grand public. Samsung avait interdit ChatGPT après qu’un employé ait collé du code propriétaire dans une conversation. JPMorgan Chase a restreint l’accès à ChatGPT dès le début de l’année 2023. Le pattern se répète à chaque nouveau cycle d’outil : adoption rapide, incident ou prise de conscience, restriction ou encadrement strict.

Mais avec les agents, le risque change de nature. Un chatbot, tu lui envoies exactement ce que tu décides de lui envoyer — tu as le contrôle total de l’input. Un agent, lui, peut aller chercher des informations dans ton système de sa propre initiative, sans que tu aies approuvé chaque accès individuellement.

La différence entre un chatbot et un agent IA, c’est la différence entre une voiture que tu conduis et une voiture autonome qui décide de son itinéraire.

Les équipes juridiques des grandes banques ont commencé à saisir cette nuance. Et la réponse, pour l’instant, c’est souvent la même séquence : on désactive, on réfléchit, on revient avec un protocole plus contrôlé. Goldman n’invente rien — il applique le même réflexe prudentiel que ses concurrents, mais sur un outil d’une génération plus récente.

Ce que cette décision ne dit pas sur l’IA

Attention à l’interprétation trop rapide : Goldman qui retire Claude Code ne signifie pas que l’IA dans la finance est morte, ni même en recul. Goldman continue d’investir massivement dans des outils IA développés en interne et déploie des modèles sur des périmètres strictement contrôlés. La nuance, c’est « quoi » et « comment », pas « oui ou non ».

Des projets comme Bloomberg GPT — entraîné sur des données financières, hébergé dans un environnement maîtrisé, avec des accès auditables — représentent l’approche alternative que les institutions financières privilégient. Les données ne quittent pas l’infrastructure, les accès sont tracés, les modèles sont spécialisés. C’est moins polyvalent qu’un agent généraliste, mais c’est auditable et contrôlable, deux mots qui font briller les yeux des équipes compliance.

La tendance lourde dans les secteurs régulés, c’est « modèle hébergé sur notre infrastructure, avec logs d’audit complets », pas « API externe vers un fournisseur tiers ». C’est pourquoi l’hébergement et la maîtrise de l’infrastructure redeviennent des sujets stratégiques dans les discussions IA, bien au-delà de la simple question de performance ou de coût.

La leçon pour les secteurs hors finance

Goldman Sachs, c’est un cas extrême par l’intensité réglementaire et les enjeux financiers en jeu. Mais la logique s’applique bien au-delà des salles de marchés. Dans la santé (données patients, HDS, RGPD), dans le secteur public, dans les cabinets d’avocats ou d’experts-comptables — partout où la confidentialité des données est critique, la question « cet agent a accès à quoi exactement ? » devient non-négociable avant tout déploiement.

WESTCODE BY LEB

Studio web en Mayenne — On crée des outils numériques qui transforment

Pour les PME et startups, la contrainte est moins formelle mais le risque existe. Brancher un agent IA sur ton Google Drive complet, tes emails et tes fichiers de compta parce que c’est « plus pratique » — c’est une surface d’exposition qui mérite cinq minutes de réflexion sérieuse avant activation. Et quand le besoin est réel, mieux vaut souvent développer des outils sur mesure avec des périmètres d’accès précisément définis plutôt que d’utiliser des agents génériques sans garde-fous adaptés à ton contexte.

La bonne pratique concrète : définir le scope d’accès de chaque outil avant de le déployer, pas après l’incident. Un agent qui ne peut lire que les fichiers du projet courant, dans un dossier sandboxé, sans accès réseau étendu — c’est une décision très différente d’un agent qui tourne avec tes credentials admin sur l’ensemble du système de fichiers.

✅ 4 questions à poser avant tout déploiement d’agent IA : Quels dossiers et APIs l’agent peut-il atteindre ? Les données manipulées sont-elles sensibles ou réglementées ? Ces données quittent-elles ton infrastructure ? Qui peut auditer les actions de l’agent après coup ? Si tu n’as pas de réponse claire aux quatre, ce n’est pas le moment de déployer.

Un recul pragmatique, pas une panique anti-IA

La décision de Goldman est pragmatique, pas réactionnaire. Sortir un outil puissant d’un environnement pour lequel le déploiement n’avait pas été correctement préparé, c’est une bonne gestion des risques. Ce n’est pas une panique anti-IA, ce n’est pas un rejet idéologique — c’est simplement de l’ingénierie appliquée au bon niveau.

Ce qui me semble plus important, c’est ce que ça préfigure pour les deux prochaines années. La vague « déployons l’IA partout » arrive à son premier vrai mur : la question du contrôle granulaire des accès. Les entreprises qui s’en sortiront bien ne sont pas celles qui ont tout interdit par principe — ce sont celles qui ont pris le temps de comprendre ce que leurs outils font réellement, avant de les lâcher sur des environnements de production sensibles.

Le vrai test pour 2026 : Anthropic et ses concurrents vont-ils réussir à proposer des modes de déploiement enterprise qui satisfont les équipes compliance sans sacrifier l’utilité des agents ? Si la réponse est non, les grands groupes construiront leurs propres outils en interne. Et le marché des agents IA ressemblera alors beaucoup moins à ce qu’on imagine aujourd’hui.