Il est temps de changer le système d’exploitation (OS) de l’économie et d’utiliser le monde des affaires comme force positive.
“Que nous confions nos décisions à des machines en métal, ou à des machines en chair et en os que sont … les entreprises, nous ne recevrons jamais les réponses justes … à moins que nous ne posions les bonnes questions.” Norbert Wiener, Cybernétique et société. L’usage humain des êtres humains (1950)
Depuis qu’il y a des ordinateurs, on craint que leurs capacités ne se déchaînent. Dans le monde d’aujourd’hui caractérisé par des capacités technologiques et commerciales mondiales interdépendantes, les mêmes préoccupations s’appliquent aux grandes entreprises qui, à l’instar de nombreux systèmes d’IA (machines apprenantes), sont régies par des règles, des commentaires et une amélioration continue.
Les machines peuvent-elles devenir trop intelligentes?
L’inquiétude vis-à-vis de l’IA n’est pas que les machines soient diaboliques – mais plutôt que ce sont des machines qui font exactement ce que nous demandons, mais ne le font que trop bien. Nick Bostrom a imaginé une machine conçue pour fabriquer des trombones. Grâce à une auto-amélioration continue, la machine commence à transformer en trombones tout ce qui est à sa portée. En raison de la puissance de calcul de la machine, nous avons bien du mal à l’empêcher de convertir tout l’univers en trombones.
L’exemple est ridicule, mais souligne que les machines sont programmées pour effectuer des tâches sans contexte, ou ce que l’on pourrait nommer le «bon sens». Les bonnes intentions qui ont déjà mal tourné sont un problème pour l’IA d’aujourd’hui: les systèmes destinés à éliminer les stéréotypes les reflètent souvent, car les algorithmes ne reconnaissent pas les biais des données qu’ils collectent.
Des machines de chair et de sang
Les ordinateurs ne sont pas le seul type de machine présentant ce problème. Les organisations, y compris les entreprises, sont également des machines de traitement de données. Les données entrent- la disponibilité et le prix de l’offre, la demande des clients, les règles, les perspectives économiques – et les entreprises les utilise afin de déterminer le moyen le plus efficace de créer des biens et des services.
Comme toute bonne IA, les entreprises ont des boucles de rétroaction et des cycles d’auto-amélioration. Alors que les chiffres des ventes, les bilans et les bonus fournissent tous une rétroaction intermédiaire, un cycle de rétroaction domine: la valeur des actions. Une valeur d’action élevée est synonyme de succès. Une valeur d’action faible est un signe d’échec ou (sera commenté) qu’elle ne reflète pas pleinement la valeur. Les PDG ne disent jamais: «Oui, le prix de nos actions a chuté, mais c’est parce que nous avons pris un certain nombre de mesures pour aider les employés, les clients et la communauté ou encore pour réduire notre empreinte carbone ou participer à réduire la pauvreté. Ces mesures ont réduit notre rendement financier, mais nous pensions que c’était le bon équilibre pour apporter une stabilité sur le moyen ou long terme.»
Pourquoi les entreprises ne peuvent-elles pas fièrement concilier valeur d’action pour les Droits Humains ou la durabilité environnementale?
La première loi de la dynamique d’entreprise
Les marchés des capitaux s’attendent à ce que les entreprises créent de la valeur pour leurs actionnaires dans un premier temps, du moins à long terme. Bien entendu, il est fréquent que la valeur d’une action coïncide avec une valeur sociale et environnementale, comme une entreprise qui développe une source innovante d’énergie renouvelable. Ainsi, les entreprises «réussissent souvent en faisant du bien». Mais voici le problème: Si la première Loi du processus d’entreprise est de «créer de la valeur pour les actionnaires», les entreprises ne feront pas le bien si elles ne peuvent pas bien le faire.
De plus, elles le feront «mal» si cela est légal et augmente le rendement pour les actionnaires; cela s’appelle «l’équilibre du marché».
Et les mauvaises entreprises peuvent être très rentables, car les avantages de choix irresponsables reviennent entièrement à l’entreprise concernée, tandis que les coûts sociétaux et environnementaux sont répartis sur l’ensemble de l’économie. Ce désalignement incite à contribuer au risque climatique, aux inégalités et à la corruption – des problèmes qui créent des souffrances et une instabilité partout dans le monde, et finissent par nuire aux investisseurs ordinaires, qui diversifient leurs portefeuilles et dépendent des marchés en hausse pour leur retraite et d’autres objectifs à long terme.
Ainsi, le choix d’une entreprise d’utiliser un carburant bon marché mais polluant l’affectera peu du point de vue de l’environnement, mais toutes les économies de coûts seront réalisées, ce qui lui permettra de nuire à la concurrence et d’accroître les rendements pour ses actionnaires. Cette course descendante se répète tous les jours dans le paradigme de la « primauté actionnariale», selon lequel la concurrence entre entreprises est autorisée à l’emporter sur les préoccupations des «éco» systèmes dans lesquels ces entreprises opèrent.
Un nouveau premier principe pour les entreprises
Nous devons reprogrammer notre système financier, notre économie en établissant un nouveau premier principe : La première Loi de la dynamique des entreprises devrait consister à préserver les systèmes dans lesquels notre économie est ancrée. Les entreprises ne devraient commencer à fournir des rendements aux actionnaires que si cette condition est remplie.
Une licence pour opérer et déployer pleinenement la force entrepreneuriale qui prend en compte ses parties prenantes incluant l’environnement.
Le principe de la valeur pour les actionnaires a évolué parce que les entreprises doivent attirer des capitaux privés pour produire les biens et services sur lesquels nous comptons. Mais soumettre la valeur de cet actionnaire à un impératif de ne causer aucun préjudice ajouterait le « bon sens » au système d’exploitation de l’entreprise. Cela profitera à la plupart des investisseurs, qui sont diversifiés sur les marchés et qui supportent les coûts environnementaux et sociaux externalisés en tant qu’actionnaires d’autres sociétés et en tant qu’êtres humains vivants dans le monde.
Mais si le retour actionnarial reste la première des priorités, les entreprises continueront de chercher un avantage, quel que soit leur coût, sur leurs concurrents et leur capital, et continueront à lutter contre les lois et réglementations qui protègent notre planète et notre avenir, chaque fois qu’il est rentable de le faire. Contrairement à l’invasion des trombones, les menaces de la première machine actionnariale sont réelles, et s’aggravent: Si nous voulons réduire le risque climatique, les inégalités croissantes et l’instabilité systémique, le plus pragmatique serait de changer le système d’exploitation du premier acteur de l’économie: l’entreprise.
