Ce que Y Combinator ne vous dira pas : Les 27 Lois de l'Intelligence Artificielle en Entreprise
Avertissement : La présente publication revêt un caractère purement informatif et ne saurait constituer un conseil juridique, financier, ou professionnel de quelque nature que ce soit. L'auteur ne formule aucune déclaration ni garantie, expresse ou tacite, quant à l'exactitude, l'exhaustivité, la fiabilité, ou la pertinence du contenu, et décline toute responsabilité relative aux pertes pouvant résulter de son utilisation ou de la confiance qui lui serait accordée. L'auteur exclut toute responsabilité concernant les dommages directs, indirects, accessoires, ou consécutifs. Les références à des tiers (notamment Y Combinator) ne visent qu'à des fins d'identification et n'impliquent aucune approbation ni affiliation. Aucune obligation de mise à jour n'est assumée.
À l'issue de missions de déploiement d'intelligence artificielle conduites en France, en Italie et en Grèce, et forte de l'expérience immédiate ainsi acquise, je souhaiterais exposer ce que je me permets de qualifier de « 27 Lois du déploiement d'IA », un corpus de principes directeurs dont la méconnaissance nous aura conduits à des écueils stratégiques qu'il eût été possible d'éviter moyennant une compréhension plus fine des dynamiques organisationnelles que je me propose d'élucider ci-après.
Préalablement à ce déplacement européen, j'ai été destinataire de nombreuses sollicitations de la part de candidats au programme Y Combinator, lesquels s'enquéraient invariablement : « Quels sont les critères d'excellence d'un candidat YC ? » Ces interrogations s'accompagnaient systématiquement de descriptions détaillées de leurs solutions d'intelligence artificielle, assorties de cette question récurrente : « Estimez-vous que notre orientation stratégique soit pertinente ? »
Force est de constater que la plupart de ces orientations s'avèrent inadéquates, quoique pour des raisons que ces entrepreneurs ne soupçonnent point.
L'hiatus fondamental
Ce que mes observations m'ont permis d'établir, c'est qu'il existe une déconnexion structurelle au sein de l'écosystème de l'intelligence artificielle, laquelle conduit à l'échec prévisible d'entreprises technologiques prometteuses. Les fondateurs issus du secteur technologique présument souvent appréhender les problématiques métier, tandis que les dirigeants d'entreprise s'imaginent maîtriser les solutions techniques. Ces deux présomptions s'avérant généralement erronées. Cet hiatus entre ces visions du monde constitue précisément le terrain où périssent les entreprises les plus prometteuses.
L'écart entre notre appréhension des problématiques métier et la manière dont les acteurs économiques éprouvent et vivent concrètement ces défis « sur le terrain » détermine si votre solution sera perçue comme une catastrophe absolue ou, au contraire, comme une véritable planche de salut. La majorité des fondateurs technologiques n'ont jamais exercé au sein des organisations auxquelles ils aspirent à commercialiser leurs solutions, ce qui les conduit à élaborer des réponses destinées à une entreprise chimérique qui n'existe que dans leur représentation mentale, cette déconnexion ne constituant pas uniquement un obstacle commercial, mais s'avérant être une condamnation du produit lui-même.
L'individu qui gère des processus défaillants depuis deux années détient des connaissances qui vous échappent, et maîtrise quels contournements s'avèrent véritablement efficaces, quelles procédures « officielles » sont systematiquement ignorées, et quelles solutions généreront davantage de difficultés qu'elles n'en résoudront. Les méconnaître constitue un risque majeur.
À l'issue de ces déploiements récents, j'ai pris conscience de l'existence de schémas prévisibles régissant cet hiatus, des modèles que je structure désormais sous forme de vingt-sept lois destinées à vous épargner l'apprentissage onéreux que nous venons d'expérimenter.
Ces lois s'articulent selon cinq catégories interconnectées, à l'instar du Modèle Stellaire de Jay Galbraith pour la conception organisationnelle : les modalités réelles de prise de décision (Structure), les véritables motivations sous-jacentes au projet (Système de récompenses), l'adoption effective par les utilisateurs de vos réalisations (Capital humain), la capacité de vos processus à appréhender la réalité organisationnelle (Processus), et la pertinence stratégique du problème que vous vous proposez de résoudre (Stratégie).
Défaillir sur l'un quelconque de ces points rend votre excellence technique parfaitement superflue.
Chroniques Noème.AI : Lorsque la réalité percute l'algorithme
Quels territoires plus propices que la France, l'Italie et la Grèce pour appréhender ces vérités implacables ? Milan et sa précision architecturale, Athènes et sa sagesse millénaire sur la nature humaine, la France et son élégance bureaucratique qui eût ému Kafka lui-même.
Nous avons initié ces projets il y a plusieurs mois auprès du personnel administratif d'une université européenne, étendant par la suite notre intervention à un cabinet juridique. Ces deux expériences se sont révélées particulièrement révélatrices dans l'élucidation de ces vingt-sept lois. Ce que nos observations ont établi, c'est que la plupart des développeurs logiciels, des experts en apprentissage automatique et des spécialistes en intelligence artificielle possèdent une maîtrise remarquable de leurs domaines respectifs, mais que seulement un pour cent d'entre eux appréhende ne serait-ce qu'une ou deux de ces règles organisationnelles, sans même évoquer leur ensemble.
Cette méconnaissance ne procède nullement d'un défaut d'intelligence, mais plutôt de l'absence de certaines compétences qui ne s'acquièrent qu'au terme d'une exposition prolongée à des programmes internationaux d'envergure, compétences que la plupart des ingénieurs ne développent jamais, étant par trop absorbés par le perfectionnement de leurs algorithmes pour accorder l'attention requise aux réalités politiques.
Loi 1 : Cartographier la véritable structure du pouvoir (Structure)
L'organigramme constitue une fiction, et l'influence réelle circule à travers des réseaux informels, des relations historiques, et la distinction cruciale entre qui détient l'autorité budgétaire et qui maîtrise la problématique.
La France nous a dispensé cet enseignement avec une brutalité remarquable. Les universités françaises demeurent rattachées à l'appareil gouvernemental par des processus contraignants et une définition hiérarchique des rôles qui eût impressionné une cour médiévale.
Ce fut l'un de mes premiers moments de « sidération ». Au sein de la fonction publique, il existe des configurations où l'on ne saurait prendre la moindre décision de manière autonome. La prise de décision relative à votre fonction émane d'un tiers, et votre rôle se borne à l'exécution d'instructions procédurales détaillées.
Certains profils participent à la prise de décision et à la formulation d'instructions destinées au personnel. D'autres profils revêtent un caractère purement exécutoire : ils mettent en œuvre les décisions arrêtées et qui leur sont communiquées, un cloisonnement hermétique séparant ces deux fonctions.
Les décideurs s'trouvaient engourdis par la gestion de décisions qu'ils ne pouvaient déléguer. Les exécutants s'enlisaient dans un automatisme cérébral consistant à suivre scrupuleusement la documentation administrative. D'un point de vue interne, il ne s'agit nullement d'un dysfonctionnement, le système opérant conformément à sa conception.
Ce qu'aucun organigramme ne saurait vous révéler, c'est que l'individu qui appose sa signature sur votre contrat ne peut souvent prendre les décisions qui déterminent votre succès, tandis que celui qui maîtrise véritablement le fonctionnement organisationnel ne dispose généralement d'aucune prérogative d'acquisition. Une navigation défaillante dans ce labyrinthe vous conduira inexorablement à élaborer la solution inadéquate pour l'interlocuteur erroné.
Lors d'entretiens préliminaires, j'ai observé que le personnel manifestait des signes de démotivation, d'épuisement professionnel, et une absence de perspectives d'évolution. S'agissant des personnes approchant de la retraite, une attitude manifeste du type « je ne serai plus présent dans quelques mois, ils devront donc s'en accommoder ». Les emplois gouvernementaux offrent certes la sécurité, mais l'évolution hiérarchique nécessite la conformité à d'innombrables exigences, incluant même la candidature à des scrutins pour accéder à certaines fonctions.
En qualité de consultant externe, vous vous trouvez immergé dans cet environnement singulier où des dynamiques contradictoires vous sollicitent en permanence. Votre conscience de la relation entre le « donneur d'ordre » et les « dépositaires de l'historique procédural » — ces individus de terrain qui vous communiqueront ou non les informations déterminantes pour votre succès ou votre échec, revêt une importance capitale.
Si vous ne saisissez point ces dynamiques, vous édifierez et réédifierez votre application jusqu'à épuisement de vos ressources financières. La hiérarchie vous transmettra certaines informations, le personnel de terrain vous en communiquera d'autres. Votre interrogation première devient alors : qui convient-il de croire ? Celui qui rémunère ou celui qui utilisera effectivement l'application ?
Lorsque vous vous fourvoyez sur ce point, tout le reste devient dénué de pertinence.
Loi 2 : Élucider la nature véritable des dysfonctionnements (Système de récompenses)
Les entreprises révèlent rarement leurs difficultés authentiques, évoquant « l'efficacité » lorsqu'elles signifient « nous connaissons une hémorragie financière », ou dissertant de la résolution du problème énoncé alors qu'il conviendrait de rechercher la véritable problématique.
Une fois que nous eûmes appréhendé les tensions et l'inertie organisationnelle, il nous fallut comprendre les motivations sous-jacentes. La plupart des établissements abordent l'intelligence artificielle comme un remède à de multiples maux : lenteur, défaillances de performance, insatisfaction clientèle, surcharge administrative, optimisation du compte de résultats, libération du temps des experts afin que ceux-ci puissent se consacrer aux tâches nécessitant véritablement leur expertise.
Nous entreprîmes d'« évaluer la température » de ces motivations pour déterminer laquelle constituait la motivation principale. La réponse s'avéra particulièrement sidérante : aucune !
Après nous être entretenus avec chaque interlocuteur désigné pour nous exposer leurs difficultés, nous rencontrâmes fortuitement un individu parfaitement étranger au projet, lequel nous communiqua une information des plus précieuses : « Le directeur administratif vient de démissionner pour convenances personnelles, et l'un des administrateurs les plus expérimentés, responsable de planifications cruciales, prendra sa retraite dans trois mois. Chacun subit par conséquent une pression accrue. »
L'évidence s'imposait alors. Nous n'étions point confrontés à une problématique d'efficacité. Nous fûmes sollicités pour ce projet afin de pallier une hémorragie de connaissances institutionnelles et l'angoisse relative à leur remplacement.
Lorsque l'on approfondit l'analyse, l'on découvre les véritables moteurs : un dirigeant sur le départ couvrant ses manquements, une équipe en sous-effectif tentant de gagner du temps, ou un consultant justifiant ses honoraires. Tant que vous ne cernez point ce qui motive véritablement ce projet, vous œuvrez à l'aveugle.
Il existe de nombreuses configurations où les entreprises nous consultent lorsqu'il est déjà trop tardif : comptes de résultats affichant des soldes négatifs dans de multiples domaines (l'un d'eux accusait déjà un déficit de vingt millions d'euros !), clientèle se plaignant de manière permanente, épuisement administratif généralisé dans tous les départements, experts noyés dans des tâches manuelles accaparant cinquante pour cent de leur temps. Ainsi va l'entreprise contemporaine.
Chaque entreprise recèle ces points de tension, et si vous les méconnaissez, votre remarquable solution d'intelligence artificielle rejoindra les applications onéreuses et inutilisées.
Les acteurs métier appréhendent la valeur de la transformation mais adoptent généralement une approche défaillante en tentant de la mener de manière autonome. Les technologues affectionnent le changement et la transformation mais méconnaissent généralement l'objectif véritable que la transformation doit porter.
Comprendre ce qui motive la partie adverse à participer à cette démarche revêt une égale importance pour les deux parties, car il s'agit (permettez-moi d'insister) d'un cheminement.
Loi 3 : Sélectionner judicieusement votre compagnon de voyage (Capital humain)
Les entreprises se doivent de choisir le « compagnon de voyage » approprié. Toute société peut dilapider vos ressources, mais le partenaire technologique adéquat gérera votre budget projet comme s'il s'agissait du sien propre.
Les technologues se doivent également de procéder à une sélection rigoureuse, particulièrement s'ils possèdent un sens de l'éthique et de l'esthétique. Vous vous interrogez peut-être sur la pertinence de l'« esthétique » pour les technologues ? Nous y reviendrons sous peu.
Ce que j'ai observé constitue une combinaison fatale : des dirigeants d'entreprise qui considèrent la technologie comme magique et des dirigeants technologiques qui perçoivent les affaires comme simples. Ces deux présomptions s'avérant erronées. Le succès nécessite un individu qui comprend que chaque ligne de code revêt des implications politiques et que chaque processus métier comporte des contraintes techniques.
Loi 4 : Édifier pour l'excellence, non pour la simple fonctionnalité (Processus)
L'intelligence artificielle démocratisant le développement logiciel, vous disposez d'un choix : édifier rapidement et médiocrement, ou édifier correctement. Et les clients d'entreprise discernent instantanément la différence.
Nous évoluons à l'ère de « l'abondance logicielle ».
Quiconque peut désormais concevoir des logiciels, et les développeurs peuvent les élaborer avec une rapidité sans précédent. Un adage français stipule : « les cordonniers sont toujours les plus mal chaussés ». Lorsque vous concevez des applications pour autrui, vous négligez la médiocrité de vos propres outils. Ce phénomène caractérise de nombreux départements informatiques : ils élaborent des applications pour l'ensemble de l'organisation tandis que leur propre département fonctionne au moyen de tableurs (oui, je plaide coupable !).
Les modèles de langage spécialisés dans la rédaction de code permettent désormais à quiconque de devenir développeur logiciel, peut-être médiocre, mais développeur néanmoins.
Yohji Yamamoto, ce créateur japonais anti-mode qui rejette la haute couture conventionnelle, déclare : « Si je puis accomplir quelque chose en ce monde, c'est modifier quelque peu la valeur de la beauté. »
(Crédit : © Paul Lovis Wagner / Greenpeace)
Nous pouvons choisir d'enrichir la valeur de l'excellence, ou nous rabaisser à la mode éphémère en édifiant des logiciels médiocres et peu sûrs. Chacun de nous qui conçoit des logiciels doit faire un choix, et l'avenir en dépend.
Nous pouvons succomber à la tentation d'élaborer des produits rapides et économiques qui contribuent à la médiocrité en négligeant la sécurité, la conception d'expérience utilisateur, les meilleures pratiques d'ingénierie, les biais algorithmiques, la sécurité réseau, la conformité au RGPD. Ou nous pouvons nous instruire sur les fondamentaux de l'ingénierie et édifier quelque chose qui respecte l'éthique, la sécurité, la sûreté et la protection dès l'origine.
Loi 5 : L'entreprise ne constitue point les PME avec davantage de zéros (Stratégie)
Votre contournement ingénieux destiné aux PME devient un obstacle rédhibitoire pour l'entreprise, et si vous aspirez à édifier pour l'entreprise, il convient d'y songer dès l'origine, faute de quoi vous l'édifierez à deux reprises.
C'est précisément à ce stade que de nombreux fondateurs spécialisés en intelligence artificielle objectent : « Permettez-moi d'élaborer un produit minimum viable pour les PME, puis de l'adapter à l'entreprise. »
Gardez présent à l'esprit qu'un produit agrandi que les PME ont utilisé durant des années demeure considéré comme une démonstration de faisabilité pour les entreprises en raison des éléments manquants. Lorsque nous évoquons « démonstration de faisabilité » au sein des sociétés internationales, cela signifie « rejetez-le et recommencez. »
La réalité veut que l'absence de pistes d'audit, une sécurité inadéquate, et l'absence de cadre de conformité constituent autant d'obstacles fatals à la commercialisation. Il est impossible d'empiler des remises de jardin pour édifier un gratte-ciel. Votre tableau de bord en libre-service peut convenir à une jeune pousse de dix personnes, mais les entreprises nécessitent des fondations capables de gérer la conformité réglementaire, les audits de sécurité, et l'intégration avec des systèmes antérieurs à votre langage de programmation.
Loi 6 : Pratiquer l'écoute comme si le chiffre d'affaires en dépendait (Capital humain)
Car tel est effectivement le cas, et le fondateur qui présente immédiatement son argumentaire commercial après avoir reçu des commentaires n'élabore point un produit. Il organise une séance thérapeutique pour son ego.
Je reçois en entretien de nombreux candidats pour divers postes. S'agissant des fonctions techniques, nos entretiens revêtent un caractère très pratique, comportant des cas concrets impliquant la sécurité, la confidentialité des données, les conflits professionnels, les erreurs opérationnelles, les défaillances de pipeline. Si vous n'avez point exercé dans des environnements professionnels caractérisés par des hiérarchies matricielles complexes, l'équipe le discerne immédiatement.
En dépit des certifications, de nombreux candidats manquent de compréhension approfondie des opérations dans des environnements internationaux au rythme soutenu. Beaucoup se targuent de « maîtriser l'intelligence artificielle » mais se rétractent lorsque nous posons des questions fondamentales. Nombreux sont ceux qui présentent des preuves de développement logiciel mais échouent aux questions d'ingénierie élémentaires.
Ce qui devient de plus en plus manifeste, c'est l'absence d'auditeurs compétents. De moins en moins d'individus dans le secteur technologique possèdent la capacité d'écouter véritablement.
Nous rencontrons tant d'individus certains de leurs désirs, de leurs réponses, de ce qui peut être édifié, de la manière dont l'intelligence artificielle devrait être employée, cela évoque une fumée trompeuse. Posséder de l'assurance constitue un atout, mais la raison d'être principale d'un prestataire de services réside dans l'obligeance et la fourniture d'un service de qualité. Fournir un service exige de vous décentrer de vous-même et de concentrer votre attention sur les propos des utilisateurs, en appréhendant les subtilités de leurs récits.
De nombreuses sollicitations de candidats Y Combinator illustrent parfaitement ce phénomène. Je prodigue des conseils ciblés susceptibles de les aider à réfléchir, et je discerne quasi systématiquement si quelqu'un constitue un auditeur compétent (moins d'un pour cent) ou non.
Les auditeurs compétents assimilent les conseils et y réfléchissent. Les auditeurs défaillants reviennent immédiatement en déclarant : « Excellent conseil ! Soit dit en passant, pourriez-vous confirmer si cette idée est pertinente ? » Puis ils transmettent des paragraphes concernant leurs réalisations !
Voici une épreuve : La prochaine fois que quelqu'un vous communique des commentaires relatifs au produit, patientez vingt-quatre heures avant de répondre. Si votre premier réflexe consiste à expliquer pourquoi ils se trompent, vous n'êtes point prêt à édifier pour de véritables clients. Si votre premier réflexe consiste à poser des questions complémentaires, vous pourriez effectivement réussir.
Lorsque quelqu'un prodigue des conseils, la pire démarche consiste à les parcourir superficiellement, puis à revenir à votre objectif initial : obtenir une confirmation. Vous démontrez ainsi votre immaturité et votre irrespect du temps d'autrui.
Interrogez les clients potentiels, écoutez-les, posez les questions appropriées, prenez des notes, réitérez. Mille fois. La répétition vous révélera la réponse.
Le marché rémunère et décide de ses désirs. À moins que vous n'édifiiez pour vous-même et des clients chimériques, sortez de vos représentations mentales, établissez des communications téléphoniques, interrogez de véritables personnes.
Loi 7 : Vos présomptions s'avèrent onéreuses (Stratégie)
Chaque mois consacré à l'édification de la fonctionnalité erronée coûte davantage qu'une journée consacrée à la validation de la fonctionnalité appropriée, mais les fondateurs choisissent systématiquement des présomptions onéreuses plutôt qu'une validation économique.
Même en appréhendant le contexte, à l'exception de fonctionnalités évidentes telles que les boutons de fermeture, vous ignorez véritablement les désirs et besoins des utilisateurs.
L'assurance de connaître les désirs utilisateur sans s'entretenir avec eux constitue une pathologie. Si vous n'avez jamais exercé au sein d'une entreprise spécifique, jamais traité avec leurs processus, jamais côtoyé des individus du terrain aux instances dirigeantes, vous ne devriez point présumer comprendre leur contexte.
Ceci procède d'erreurs mémorables. Quasi chaque règle présentée ici découle d'erreurs que nous avons dû corriger ou dont nous avons dû assumer le coût.
Ce que j'ai appris, c'est que l'orgueil constitue une stratégie commerciale onéreuse, tandis que la connaissance client demeure gratuite.
Loi 8 : Résoudre le problème à dix mille euros, non celui à mille euros (Stratégie)
L'enjeu réside dans la distinction entre ce qui impressionne les ingénieurs et ce qui émeut les détenteurs de budgets.
Durant la livraison du projet universitaire, nous avons écouté tant de frustrations et de souffrances utilisateur que nous nous sentîmes proches de leur peine et fûmes motivés à déployer l'INTÉGRALITÉ de notre savoir.
Lorsque l'on baigne dans la technologie, édifier quasi tout semble réalisable. Vous avez automatisé des scénarios complexes, observé la livraison de diverses applications sophistiquées. Ajoutez les modèles de langage, l'intelligence artificielle générative, les agents, l'apprentissage profond, l'apprentissage automatique, les pipelines de données orchestrées, les statistiques, les analyses: de nouvelles perspectives s'ouvrent à l'entreprise.
Pour des utilisateurs ayant œuvré dans l'administration toute leur existence, cela évoque la science-fiction. Ils ne vous croient point, et ils ont raison. « Montrez-moi et je croirai. »
Ce que j'ai réalisé, c'est que les démonstrations impressionnantes ne génèrent point de clients rémunérateurs, contrairement à la résolution de souffrances métier critiques.
Cette volonté de faire ses preuves peut occasionner des heures interminables consacrées à des éléments que vous estimez apporter de la valeur mais dont les utilisateurs n'ont cure. Nous l'avons appris à nos dépens avec les applications d'intelligence artificielle.
« Procurez-leur ce dont ils ont besoin, non tout ce que vous possédez. » L'utilisateur qui déclara « montrez-moi et je croirai » ne nécessite point de voir l'intégralité de votre arsenal technique. Il requiert que sa souffrance spécifique soit résolue avec élégance.
J'estime que la Loi 8 s'applique à de nombreux domaines de l'existence. Malheureusement, les membres junior de l'équipe n'en étaient point conscients. Désormais ils savent. Cela fait partie de notre mémoire collective.
Les enjeux revêtent un caractère véridique
Si vous manquez l'un quelconque des points de l'Étoile de Réalité de l'Intelligence Artificielle, vous rejoindrez l'amas croissant de solutions techniques brillantes qui n'ont jamais trouvé de clients rémunérateurs. Mais si vous procédez correctement, vous édifierez quelque chose qui revêt véritablement une importance.
Voici les huit premières des vingt-sept lois que nous avons élucidées à travers cinq catégories. Chacune représente des enseignements onéreux tirés de déploiements réels aux conséquences véritables.
Le cadre complet révèle comment la réalité organisationnelle détermine le succès de l'intelligence artificielle davantage que les capacités techniques. Les publications futures approfondiront chaque catégorie, accompagnées d'outils diagnostiques spécifiques et de manuels tactiques pour naviguer les dynamiques d'entreprise.
Ce que j'ai établi, c'est que nous ne sommes point confrontés à des forces mystérieuses. Il s'agit de dynamiques humaines prévisibles que les fondateurs avisés peuvent apprendre à naviguer. Le défi réside en ce que la plupart ne le feront point, étant par trop absorbés par leurs algorithmes pour accorder l'attention requise à la réalité organisationnelle.
Car la réalité organisationnelle revêt certes un caractère complexe, mais nullement aléatoire.
À suivre...
