Le défi de l'IA que la plupart des entreprises n'ont pas

Il y a quelques mois, j'ai assisté à un GC AI Summit organisé par la Harvard Law School. Comme prévu, il y a eu beaucoup de discussions sur les outils d'IA, les cadres de gouvernance, les réglementations émergentes et l'avenir de la profession juridique.

Un sujet de discussion s'est démarqué des autres : la plupart des organisations doivent seulement penser à la manière dont elles déploient l'IA, tandis que nous devons penser à la manière dont nous déployons l'IA et comment nous développons l'IA.

La plupart des entreprises sont des « déployeurs d’IA », ce qui signifie qu’elles utilisent l’IA en interne pour améliorer la productivité, automatiser les flux de travail, renforcer la prise de décision et créer des efficacités opérationnelles. Leur défi est de savoir comment adopter l’IA de manière responsable tout en gérant les risques.

Les entreprises technologiques sont de plus en plus confrontées à un défi différent, car elles sont également des « développeurs d’IA », ce qui signifie qu’elles créent des produits aidant les clients à exploiter l’IA tout en respectant leurs propres exigences réglementaires, de sécurité et de gouvernance.

Nous sommes à l'intersection d'être à la fois un déployeur d'IA et un développeur d'IA. Nous déployons l'IA au sein de notre propre organisation tout en aidant simultanément les clients à comprendre, gouverner, sécuriser et se conformer au paysage de l'IA en rapide évolution. Cela crée un défi unique, mais aussi une opportunité unique.

Le service juridique est au cœur de la gestion des deux défis

Traditionnellement, les équipes juridiques étaient responsables de comprendre comment les forces externes affectent le fonctionnement de l'entreprise :

• Les gouvernements introduisent de nouvelles réglementations
• Les normes industrielles évoluent
• Les attentes des clients évoluent

Le rôle du service juridique est d’interpréter ces forces, d’évaluer les risques et d’aider l’entreprise à les gérer avec succès. L’IA ne change pas cette responsabilité, elle l’élargit.

Aujourd’hui, on attend de plus en plus de Legal qu’il aide à répondre à des questions qui ne sont pas purement juridiques :

• Comment devrions-nous gouverner l'IA en interne ?
• Quels risques sont acceptables ?
• Quelles barrières de sécurité devraient exister ?
• Comment équilibrer innovation et responsabilité ?
• Comment maintenir la confiance des clients, employés, régulateurs et investisseurs ?

Ces questions se retrouvent souvent sur le bureau d’un conseiller juridique car Legal a une visibilité sur l’ensemble de l’organisation. Contrairement à la plupart des fonctions, nous opérons simultanément à travers les départements, produits, clients, régulateurs et marchés.

Le sommet a renforcé quelque chose que j’observe et applique avec mon équipe depuis un certain temps : le rôle du service juridique évolue d’un conseiller à un orchestrateur. Pas parce que les avocats prennent soudainement toutes les décisions, mais parce que quelqu’un doit connecter toutes les pièces en mouvement.

Trois questions qui détermineront le succès

L’un des cadres les plus utiles du sommet était que les organisations qui naviguent dans l’IA doivent finalement répondre à trois questions.

1. Comment mesurons-nous les gains de l'IA ?

La plupart des discussions sur l’IA commencent par l’enthousiasme face à ce qui est possible. Bien moins nombreuses sont celles qui se concentrent sur la création réelle de valeur :

• Réduisons-nous le temps consacré aux tâches répétitives ?
• Améliorons-nous la prise de décision ?
• Aidons-nous les employés à se concentrer sur des activités à plus forte valeur ajoutée ?
• Créons-nous de meilleurs résultats pour les clients ?

Les organisations qui constatent le plus grand impact ne déploient pas simplement l'IA parce que tout le monde le fait. Elles identifient des problèmes commerciaux spécifiques et mesurent si l'IA aide à les résoudre. L'adoption de la technologie seule n'est pas l'objectif. Les résultats commerciaux comptent davantage.

2. Comment envisageons-nous l'efficacité et la qualité ?

Historiquement, les organisations ont considéré la rapidité, la qualité et le coût comme des forces concurrentes :

• Avancez plus vite et la qualité en souffre
• Améliorer la qualité et augmenter les coûts
• Réduisez les coûts et la lenteur

L'IA a le potentie de remodeler cette équation, mais seulement si les organisations sont intentionnelles quant à son utilisation.

Le sommet est revenu à plusieurs reprises sur une question à laquelle de nombreuses organisations ont encore du mal à répondre : comment mesurer la qualité dans un monde habilité par l’IA ? L’efficacité est relativement facile à mesurer, mais la qualité est beaucoup plus difficile. Pour les équipes juridiques, cela signifie se demander si l’IA nous aide à prendre de meilleures décisions, à identifier les problèmes plus tôt, à améliorer la cohérence et à créer de meilleurs résultats, et pas simplement à accomplir les tâches plus rapidement. L’avenir n’appartiendra pas aux organisations qui maximisent uniquement l’efficacité, mais à celles qui améliorent à la fois l’efficacité et la qualité simultanément.

3. Comment l’IA impacte-t-elle la confiance ?

C’est peut-être la question la plus importante. Si les employés ne font pas confiance à l’IA, ils ne l’utiliseront pas. Si les clients ne font pas confiance à la manière dont vous utilisez l’IA, ils ne feront pas affaire avec vous. Si les régulateurs ne font pas confiance à votre gouvernance, ils en créeront une pour vous. Si les conseils ne font pas confiance aux résultats, ils continueront à chercher des réponses auprès de la direction.

Un intervenant l’a résumé simplement : « Le conseil d’administration ne fait pas confiance à l’IA. Ils vous font confiance. » La technologie peut générer des recommandations. La technologie peut accélérer les flux de travail. La technologie peut faire émerger des insights. Mais la responsabilité reste humaine. La confiance reste humaine. Le leadership reste humain. À mesure que l’IA devient plus puissante, la confiance devient plus précieuse.

Ce que j'ai entendu des dirigeants de Microsoft, Workday et d'ailleurs

Bien que le sommet ait couvert une gamme de sessions, des professeurs de Harvard aux responsables juridiques internes en passant par les cadres des opérations juridiques, un ensemble cohérent de thèmes a émergé à travers des perspectives très différentes.

Une session animée par Bjarne Tellman (FjordStream Advisors) a présenté le défi comme une question de « vitesse structurée ». Son point était que les organisations n’adoptent pas simplement des outils d’IA, mais construisent des systèmes qui doivent faire évoluer l’intelligence en toute sécurité. Selon lui, le rôle du service juridique n’est pas de freiner l’innovation, mais de créer la gouvernance et les structures de données qui permettent la rapidité sans fragilité. Il a décrit cela comme la base d’un modèle de « usine d’IA » : un système auto-renforçant où les données, la gouvernance et l’apprentissage améliorent continuellement les résultats au fil du temps.

De la leadership de Microsoft dans Corporate, External, and Legal Affairs (CELA), le message était plus opérationnel et directif. L'organisation reconfigure activement Legal en une fonction consultative et de développement qui crée des outils internes d'IA, des systèmes d'intelligence réglementaire et des flux de travail basés sur des agents qui réduisent la recherche manuelle et orientent l'attention vers un engagement réglementaire et politique à plus forte valeur ajoutée. Le fil conducteur était clair : les équipes juridiques ne sont plus seulement des consommatrices de technologie ; elles deviennent des créatrices.

Pour Workday, la discussion s'est concentrée sur la manière dont les organisations mettent en œuvre l'IA de manière responsable à grande échelle. Le modèle décrit est passé des principes aux pratiques puis aux personnes, soutenu par un système de gouvernance structuré où les services juridiques, de la confidentialité et de l'ingénierie supervisent conjointement le développement de l'IA. Un thème récurrent était que la réussite de l'adoption dépend moins des outils individuels que de la capacité des organisations à concevoir des systèmes d'entrée, de classification des risques et de responsabilité permettant d'utiliser l'IA de manière cohérente et sécurisée dans toute l'entreprise.

Lors de toutes les sessions, y compris des exemples issus de grandes équipes juridiques et opérationnelles d’entreprise, la conversation revenait systématiquement à quelques défis pratiques : comment structurer les données d’entreprise pour que les systèmes d’IA puissent réellement les utiliser, comment passer des « tiroirs » de dossiers et contrats à des systèmes de connaissances intégrés, et comment intégrer l’assurance qualité dans les flux de travail activés par l’IA afin que les résultats soient fiables à grande échelle.

Le paradoxe du déployeur-développeur

Pour des entreprises comme la nôtre qui naviguent dans le paradoxe deployer-developer, ces questions deviennent encore plus importantes car nous y répondons simultanément sous deux angles. En tant qu’AI deployer, nous devons comprendre comment les lois, réglementations et attentes publiques évolutives impactent notre propre organisation. En tant qu’AI developer, nous devons comprendre comment ces mêmes évolutions affectent nos clients. Cela signifie que nous regardons constamment dans deux directions à la fois :

1. Vers l’intérieur. Comment utilisons-nous l’IA de manière responsable ? Comment la gouvernons-nous ? Comment gérons-nous les risques tout en favorisant l’innovation ?
2. Vers l’extérieur. Comment aidons-nous les clients à répondre à ces mêmes questions ? Quelles capacités leur faut-il ? Quels contrôles comptent ? Quelles preuves devront-ils fournir pour démontrer la conformité, la sécurité et une gouvernance responsable ?

Plus nous comprenons un côté, mieux nous sommes positionnés pour résoudre l’autre. Cela crée un avantage que beaucoup d’organisations n’ont pas : nous ne faisons pas que constater ces défis ; nous les vivons.

À bien des égards, cela nous place dans une position unique pour influencer la manière dont les organisations envisagent la gouvernance de l’IA, la gestion des risques et la confiance.

La vitesse nécessite une structure

Un autre thème qui est revenu à plusieurs reprises lors du sommet était la tension entre innovation et gouvernance. Partout, les organisations se précipitent pour adopter l’IA. Certaines avancent prudemment. D’autres de manière imprudente. La plupart cherchent à trouver le bon équilibre.

Un intervenant a décrit l’objectif comme la création d’une « vélocité structurée ». J’ai trouvé cette expression particulièrement convaincante. Les entreprises doivent agir rapidement car les clients attendent de l’innovation, et les avantages concurrentiels n’attendent que rarement une certitude parfaite. En même temps, la vitesse sans structure crée des risques.

Un exemple partagé lors du sommet concernait un système d’IA qui redirigeait automatiquement les expéditions de produits pour éviter les perturbations météorologiques. Le système était optimisé pour la rapidité et l’efficacité, mais n’a pas pris en compte les restrictions réglementaires. Il n’a pas considéré si les ports vers lesquels les expéditions étaient redirigées pouvaient réellement les accepter. Le résultat a été un problème opérationnel coûteux que personne ne voulait créer. La leçon n’était pas que l’IA a échoué. C’était que la gouvernance a échoué.

La technologie peut évoluer plus rapidement que les organisations ne peuvent le penser si des garde-fous appropriés ne sont pas en place. L’objectif n’est pas de freiner l’innovation, mais de créer une structure qui permet à l’innovation de se développer en toute sécurité.

Un autre intervenant a utilisé l’Autobahn allemande comme métaphore. La raison pour laquelle de grandes portions de l’Autobahn peuvent fonctionner sans limitation de vitesse n’est pas qu’il n’y ait pas de règles. C’est parce qu’il existe une forte culture de discipline, de responsabilité et de respect des règles en place. S’il pleut, une limitation de vitesse est appliquée, et aucune tolérance n’est accordée aux infractions à cette limitation. La « vitesse structurée » fonctionne sur l’Autobahn parce que les mesures de sécurité sont comprises et respectées.

Le même principe s’applique à l’IA. Si les organisations ne créent pas des voies sûres et approuvées pour l’innovation, les employés trouveront leurs propres chemins. La réponse n’est pas la restriction pour la restriction. C’est créer des cadres qui permettent aux gens d’agir rapidement, de manière responsable et confiante.

L’avenir ne consiste pas à remplacer les professionnels

Chaque fois qu'une nouvelle technologie apparaît, des prédictions suivent rapidement sur les professions qui disparaîtront. La profession juridique, comme beaucoup d'autres, les a entendues d'innombrables fois auparavant :

• Internet allait tout changer
• La recherche numérique allait tout changer
• L'automatisation du workflow des contrats allait tout changer

Ces prédictions n’étaient pas fausses. La profession a changé, mais elle n’a pas été remplacée.

Un intervenant a fait une observation qui m’a marqué : les professionnels supposent souvent que la nouvelle technologie leur permettra de faire plus vite et moins cher ce qu’ils font déjà. En réalité, la technologie change généralement ce que signifie être un professionnel dès le départ.

L'IA suivra probablement le même schéma. Le travail le plus précieux des avocats n'a jamais été de collecter des informations. Nos atouts les plus précieux sont le jugement, la compréhension du contexte, l'équilibre des intérêts concurrents, la construction de la confiance et la prise de décisions en situation d'incertitude.

Ces responsabilités restent profondément humaines. Ce qui change, c’est la façon dont nous passons notre temps. Les professionnels les plus performants (juridiques ou non) seront ceux qui apprendront à combiner technologie, jugement et expertise plus efficacement que quiconque.

Réflexions finales

Ma principale conclusion du sommet est que les organisations ont désormais l'opportunité de contribuer à définir ce à quoi ressemble une adoption responsable de l'IA avant que quelqu'un d'autre ne le fasse pour elles. Pour les équipes juridiques, cela signifie aider à créer les cadres qui favorisent l'innovation. Pour les entreprises technologiques, cela signifie reconnaître la position unique que nous occupons en tant que déployeurs et développeurs d'IA. Pour nous tous, cela signifie comprendre que l'avenir sera défini par la manière réfléchie dont nous choisissons d'utiliser l'IA. Les entreprises qui réussiront cela ne se contenteront pas de s'adapter au futur. Elles aideront à le créer.