Zone Franche

Le blog de Gilles Martin

recent posts

about

  • L’homme est-il une machine ? La Mettrie, Jonas et Damasio face à l’IA

    Avec l’IA et les neurosciences, on se pose la question encore plus qu’avant : L’homme peut-il être considéré comme une machine avec toutes ses composantes, y compris le cerveau, et fonctionner comme une machine entraînée ? Et alors pourquoi ne pourrait-on pas reproduire complètement son fonctionnement avec une vraie machine, un robot bien entraîné ?

    Au XVIIIème siècle, un médecin français un peu provocateur a déjà répondu « oui, sans hésiter ». Julien Offray de La Mettrie, dans son livre choc « L’Homme machine » (1747), affirme que nous sommes tous des automates sophistiqués. Pour lui, il n’y a qu’une seule substance dans l’univers : la matière. L’âme ? Un mythe. La pensée, les émotions, la volonté ? Rien d’autre que les « ressorts » du cerveau et du corps. La liberté n’est qu’une autonomie relative du mécanisme humain. « Un rien, une petite fibre, quelque chose que la plus subtile anatomie ne peut découvrir, eût fait deux sots d’Erasme et de Fontenelle ». Ces grands esprits ne l’ont été que par un heureux hasard de la circonvolution des fibres de leur cerveau.

    Mangez bien, dormez bien, et votre machine humaine tournera rond. Il développe la thèse que c’est ce que nous mangeons qui crée notre personne : « On dirait en certains moments que l’âme habite dans l’estomac ». Ce serait même le régime alimentaire qui expliquerait le caractère d’un peuple, et qui ferait que les mangeurs de viande rouge et saignante seraient de nature plus féroce.

    La Mettrie va même plus loin : si les animaux sont des machines, l’homme l’est aussi. Son livre a scandalisé à l’époque, et on le comprend : dire que Voltaire et le pape sont des horloges un peu plus compliquées, ça ne passe pas inaperçu. Il devra se réfugier à Berlin, sous la protection du roi de Prusse, Frédéric II, et mourra prématurément à 42 ans, ironie du sort, d’une indigestion de pâté de faisan avarié.

    Mais c’est un autre auteur philosophe, deux siècles plus tard, Hans Jonas, qui se dira pas du tout d’accord. Dans « le phénomène de la vie » (1966), qui vient d’être réédité en français (c’est une suite de 11 essais rédigés entre 1950 et 1966, montrant le cheminement de la pensée de l’auteur), il regarde un organisme vivant et voit quelque chose que La Mettrie a complètement raté.

    Pour Hans Jonas, une machine, même très complexe, reste toujours identique à elle-même tant qu’on la répare ou qu’on la recharge. Un organisme vivant, lui, doit constamment se renouveler. C’est le métabolisme : il mange, digère, remplace ses cellules, et malgré ça, il reste « lui-même ». Cette petite différence change tout. Elle crée une intériorité, un « souci de soi ». L’être vivant a peur de mourir, il veut continuer d’exister. Même la bactérie la plus simple possède une forme primitive de liberté et de finalité. Avec un humour détaché, Hans Jonas fait remarquer que « la question est de savoir si le mathématicien qui est le grand architecte de l’univers est aussi l’architecte, grand ou petit, de l’amibe ».

    On imagine bien Hans Jonas répliquer à La Mettrie : « Désolé, mon vieux, mais ta machine n’a pas de souci. Elle s’en fiche complètement de tomber en panne. Le vivant, lui, s’en préoccupe ».

    Mais, alors, qui a raison ?

    On peut essayer de répondre en allant voir, justement, les neurosciences modernes, et par exemple cet auteur que j’aime bien, Antonio Damasio, qui est l’auteur du célèbre livre « L’erreur de Descartes » (1994). C’est dans ce livre que Damasio montre que la raison toute pure n’existe pas. Nos décisions les plus rationnelles dépendent en réalité de signaux venus du corps : les fameux « marqueurs somatiques » dont il parle abondamment. Quand j’hésite entre deux choix, mon corps m’envoie discrètement des sensations de bien-être ou de malaise. Sans ces petits signaux émotionnels, même les gens très intelligents deviennent incapables de décider.

    En gros, Damasio nous dit : Oui, tout est matériel. Mais non, ce n’est pas juste une machine avec des ressorts. Les sentiments ne sont pas un bug ; Ils sont le système d’exploitation du vivant.

    Il va même plus loin encore : La conscience commence par le sentiment d’être un corps qui se régule. Faim, soif, fatigue, plaisir…Ces sensations sont le premier « Je » que nous ressentons. Sans corps vivant, sans vulnérabilité réelle, pas de vraie intériorité.

    Et c’est là qu’on en revient à l’IA dont je parlais au début de cet article. Oui, nous y voilà, l’IA entre en scène dans le débat.

    Avec l’IA, on peut entraîner des modèles, écrire des poèmes, conduire une voiture ou diagnostiquer des maladies, et cela s’améliore chaque jour. Certes. Mais ces systèmes n’ont, bien sûr, ni corps, ni métabolisme, ni sentiments de bien-être ou de malaise. Ils n’ont pas ce « souci de soi » dont parle Hans Jonas. Ils simulent brillamment le comportement humain, mais ils ne vivent rien.

    La Mettrie aurait sûrement adoré ChatGPT et trouvé cela génial. Jonas aurait haussé les sourcils en disant « C’est très malin…mais ce n’est pas vivant ». Damasio, lui, nous inviterait à rester vigilants. Dans un entretien dans le dernier numéro de Philosophie magazine il rappelle que ce qu’il manque aujourd’hui à l’intelligence artificielle et aux machines pour devenir vraiment conscientes, c’est un corps à protéger. Tant que l’IA n’aura pas un véritable corps vulnérable et des sentiments authentiques, elle restera une simulation extrêmement performante, mais pas une conscience.

    Il précise un peu une voie pour y parvenir dans cet entretien à Philosophie magazine : « Notre proposition est la suivante : en introduisant une forme de vulnérabilité dans les systèmes IA, par exemple en les connectant à un « corps » fragile avec la charge de maintenir ce dernier en état de marche – peu importe ce que nous entendons ici par « corps » – nous avons quelque chance de les éveiller à la conscience. Les robots n’ont aucune représentation interne de leur état. Ils n’ont pas de sensations ni d’émotions. Ce qui fait qu’ils ont un rapport neutre, indifférent, à eux-mêmes et au monde. Il leur manque quelque chose, qui n’est pas une capacité intellectuelle de haut niveau, encore une fois, mais un sens de leur propre existence et de leur place dans le monde beaucoup plus élémentaire ».

    Pourtant, on a aussi constaté que certaines machines semblaient parfois plus « humaines » que les humains. Une étude célèbre, publiée dans une revue scientifique, a comparé des réponses de chatbots IA avec les réponses de réels médecins, et leur appréciation par les patients (qui ignorent s’ils ont une réponse de réel médecin ou d’un chatbot). L’étude a montré que les réponses du chatbot aux questions de patients étaient jugées de meilleure qualité et beaucoup plus empathiques que celles des vrais médecins (préférées dans près de 80% des cas). Les patients (ou les évaluateurs) ont souvent trouvé l’IA plus chaleureuse, plus attentive et plus longue dans ses explications que les réponses courtes et un peu sèches des humains.

    Peut-être que certains humains, comme ces médecins, en perdant le contact avec leurs émotions – à cause du stress, de la fatigue, ou d’un système qui les pousse à être « efficaces » plutôt qu’humains – risquent de ressembler dangereusement à des machines froides et mécaniques.

    La vraie menace n’est peut-être pas que les machines deviennent trop humaines…mais que certains humains deviennent trop machinaux.

    Alors, l’homme est-il une machine, comme l’affirmait Julien Offray de La Mettrie ? Oui ; mais une machine vivante, qui sent, qui craint de mourir, et qui ressent la joie d’exister. Une machine qui se répare elle-même en mangeant une bonne pizza, qui rougit quand elle est gênée, et qui pleure devant un film romantique.

    C’est peut-être cette vulnérabilité organique, ces sentiments bien réels et ce « souci de soi » qui font toute la différence. Pour l’instant.

    Car l’avenir n’est pas encore écrit.

    Antonio Damasio se risque dans l’entretien de Philosophie magazine, à une prédiction : « J’ai peur que nous autres humains soyons progressivement dominés par systèmes d’IA qui n’auraient pas spécialement de considération pour notre bien-être. Les IA se moquent de savoir si vous allez bien ou non. Elles se moquent de savoir si l’Europe est envahie ou non. Tout ce qui a de l’importance à vos yeux n’en a aucune pour une IA, si perfectionnée soit-elle. Par ailleurs, j’observe que les LLM, les grands modèles de langage type ChatGPT, commencent à être traités comme s’ils étaient des humains, alors qu’ils n’en sont pas, ils n’ont aucune boussole morale et se contentent de recycler des stocks de données que leur ont fournis les humains. L’avenir est ouvert. Que va-t-il se passer avec l’IA ? Quand j’y songe, je suis terrifié à l’idée que l’IA fasse des progrès dans la direction de l’intelligence sans développer aucune forme de conscience. C’est pourquoi je propose de créer des robots vulnérables : si nous arrivons à mettre un peu de sensibilité et d’émotivité dans les machines, cela pourrait contribuer à éviter qu’elles ne deviennent nos ennemies ou plus largement qu’elles ne malmènent notre humanité ».

    L’avenir est ouvert…

  • Touriste ou flâneur ?

    Pour bien avancer dans la vie, faut-il savoir où l’on va et suivre le plan ? Ou bien se laisser inspirer par ce qui se présente ?

    Drôle de dilemme que je retrouve dans le livre de Nassim Nicholas Taleb, « Antifragile – Les bienfaits du désordre », que je relis en ce moment pour préparer une prochaine intervention.

    Nassim Taleb fait la différence entre le fragile, qui se casse face à l’imprévu, et l’antifragile, qui se transforme grâce à l’imprévu.

    C’est précisément la différence entre le touriste et le flâneur.

    Le touriste, c’est celui qui voyage en ayant tout planifié, qui s’enferme dans un programme difficile à revoir. Et si ça ne se passe pas comme prévu, c’est la panique. Esclave du plan, l’’imprévu est pour lui une menace. Sa structure un peu rigide le rend vulnérable au moindre désordre. Ce touriste est typiquement l’être fragile.

    Le flâneur, on l’a compris, c’est celui qui se fit à son odorat, qui n’est pas prisonnier d’un plan. Pour lui, l’imprévu est une source d’information. Il est un grand opportuniste, qui peut modifier sans cesse – et rationnellement, ce qui est capital (précision utile de Nassim Taleb) – ses objectifs à mesure qu’il obtient des renseignements. Il se transforme et grandit grâce au désordre. C’est l’être antifragile.

    Si un fragile veut se rendre antifragile, une idée est d’imaginer des options à son programme trop structuré et donc trop fragile. Imaginer des options, c’est bénéficier du côté positif de l’incertitude, sans que son côté négatif ne pose de sérieux préjudices.

    Cette image peut se transposer dans notre management, notre comportement, et notre façon de suivre notre imagination au lieu de plans trop rationnels.

    Une bonne métaphore pour interroger notre part de touriste et notre part de flâneur. Et apprendre à remplacer nos plans trop rationnels par une imagination agile.

    On essaye ?

  • Le bruit et le signal

    Dans un monde comme aujourd’hui, où tant de datas et d’informations sont accessibles et facilement trouvables, on pourrait croire que cela nous permet de savoir encore plus et mieux pour décider, et donc éviter les risques.

    Toujours demander plus de données et d’informations à ses collaborateurs, voilà ce que certains dirigeants considèrent comme le meilleur comportement pour aider à prendre les meilleures décisions.

    Alors, s’ils ouvrent l’ouvrage de Nassim Nicholas Taleb, « Antifragile – Les bienfaits du désordre », ils apprendront que cette croyance que plus on accumule de données, de notes et de rapports avant de décider, plus on se protège du risque, est une illusion.

    Ah bon ?

    Pour l’auteur, accumuler sans fin des données et de l’information ne fait que retarder l’action, alourdir les organisations et transférer toujours les responsabilités vers le haut. L’accumulation d’information est une forme sophistiquée de la procrastination, pour se rassurer sans rien décider.

    Nassim Taleb fait la distinction entre le signal et le bruit.

    Le bruit, c’est le volume qui n’apporte aucune information significative, qui ne fait que nous faire sur-réagir de façon non appropriée, nous transformant en névrosé constamment agité par toute information nouvelle sans intérêt décisif.

    Le signal c’est l’information essentielle, celle dont il faut se préoccuper en priorité.

    Et plongé dans une atmosphère de bruits, on ne distingue plus le signal, ce à quoi il faut vraiment faire attention.

    Ce phénomène des bruits, c’est celui qui fait aussi décider par le chef des actions inappropriées, inutiles, voire néfastes, alors que les collaborateurs n’en ont pas besoin, et qui fait de l’organisation un chaos permanent qui change de direction au gré du vent. C’est comme un médecin qui prescrit un remède inutile, alors que le patient pourrait se guérir tout seul. Ce que Nassim Taleb appelle l’iatrogénèse, par référence aux dommages causés par l’action médicale, quand les interventions du médecin font plus de mal que de bien.

    L’auteur est convaincu que, en matière de prise de décision économique ou managériale, le fait de tabler sur les données entraîne de graves effets secondaires, car le nombre d’informations fallacieuses augmente à proportion qu’on s’y plonge : Plus on observe fréquemment des données, plus on est disproportionnellement exposé au bruit (plutôt qu’à l’élément important : le signal), et plus le rapport bruit sur signal sera dès lors élevé.

    Démonstration :

    « Mettons que vous observiez des informations sur une base annuelle, pour des valeurs boursières, les ventes d’engrais de l’usine de beau-père ou le taux d’inflation à Vladivostok. Supposons ensuite que ce que vous observez à raison d’une fois par an ait un rapport signal sur bruit de l’ordre d’un pour un (moitié bruit, moitié signal), ce qui signifie que les changements sont environ pour moitié de véritables améliorations ou de véritables dégradations, l’autre moitié étant aléatoire. Ce rapport est le résultat de de vos observations annuelles. Mais si vous observez ces mêmes données sur une base quotidienne, la proportion passe à 95% de bruit pour 5% de signal. Et si vous les observez sur une base horaire, comme le font les gens qui se plongent dans les nouvelles et les variations de prix du marché, le ratio devient 99,5% de bruit pour 0,5% de signal. Autrement dit, deux cent fois plus de bruit que de signal, ce qui explique pourquoi tous ceux qui prêtent attention aux nouvelles (à l’exception des évènements significatifs d’une très grande importance) sont des gogos, ou presque ».

    C’est comme ça que les dirigeants qui réclament toujours plus d’informations de leurs collaborateurs peuvent, sans le vouloir, alimenter les névroses de tout le personnel de l’entreprise. C’est aussi ce que font les journaux en nous bombardant de nouvelles et d’informations en temps réel en permanence, si on n’est pas éduqué ou attentif à trier.

    Peut-on dire que voilà un signal que nous fait percevoir Nassim Taleb ? : Un signal pour nous protéger du bruit ?

  • Moins de contrôles : moins de risques ?

    Dans son ouvrage célèbre, « Antifragile » (2012), Nassim Nicholas Taleb distingue trois types de systèmes :

    – Le fragile, celui qui se casse (un coup de marteau sur un verre),

    – Le robuste, qui résiste et revient à son état initial après le choc. C’est celui qui est résilient, qui revient à l’identique, ou n’est pas impacté, après un coup inattendu, qui n’apprend rien.

    – L’antifragile, mot qu’il invente pour décrire celui qui gagne au choc, qui sort plus fort de ce qui ne se passe pas comme prévu, celui qui profite de l’inattendu

    Quand on va parler d’une organisation, on va la dire « antifragile » si elle est capable de s’améliorer en affrontant les coups du hasard (bons ou mauvais). C’est le modèle de l’organisation que l’on pourrait qualifier aussi d’Agile. Le meilleur exemple, auquel Nicholas Taleb fait référence, c’est bien sûr la nature, et la sélection naturelle, l’évolution se faisant en permettant aux plus résistants de survivre, et aux mutations de s’effectuer.

    Comme dans la nature, pour qu’un système soit le plus antifragile possible, il faut que ses composantes soient fragiles : l’évolution a besoin que des organismes meurent quand ils sont supplantés par d’autres organismes, qui réaliseront une amélioration. Et, comme Schumpeter avec « la destruction créatrice », c’est la destruction des éléments fragiles qui va permettre le progrès de l’ensemble. C’est le meilleur système.  Et donc, si on protège trop l’ensemble, en essayant de faire fonctionner un ordre centralisé, en créant des systèmes de protection, on va empêcher cette antifragilité, et finalement transférer la fragilité à tous, empêchant la prise de risques.

    En fait, un système antifragile va avoir l’avantage de bien résister à des petits changements et volatilités de l’environnement, auxquels il va s’adapter, même si c’est aux dépens de quelques individus fragiles ; alors qu’un système trop protégé, protégé des aléas par une stabilité artificielle, va avoir tendance à connaître des grosses perturbations-catastrophes, les fameux « cygnes noirs », qui lui causeront de gros dégâts, car il n’y aura pas du tout été préparé.

    Selon Nicholas Taleb, « nous fragilisons les systèmes sociaux et économiques en les privant des pressions et des aléas, pour les installer dans le lit de Procuste de la modernité paisible et confortable, mais en fin de compte nuisible ». Ce lit de Procuste fait référence à ce personnage de la mythologie grecque, aubergiste, qui raccourcissait ou élargissait les membres des voyageurs à la mesure exacte de son lit, afin que son lit standard corresponde à la perfection à la taille du visiteur.

    Un paradoxe mis en évidence par Nassim Taleb : plus nous avons envie de contrôler le système, plus nous l’exposons à des risques. Bizarre, non ?

    Car la vigilance diminue lorsque l’on cède le contrôle au système.

    Il cite l’exemple de cette ville devenue célèbre des Pays-Bas, Drachten, où l’on a fait une expérience invraisemblable : Tous les panneaux de signalisation ont été retirés. Cette dérèglementation a conduit à une augmentation de la sécurité.

    Donc, il faudrait peut-être arrêter de vouloir tout contrôler.

    De quoi revoir tous nos plans dans nos entreprises ?

    https://www.facebook.com/share/v/1CbywcaSCV

  • Qu’est-ce qu’une ville ?

    Dans cette période d’élections municipales, on parle et on débat sur les meilleures idées pour bien gérer la ville, et satisfaire ceux qui y habitent (et qui y votent).

    Mais, c’est quoi une ville aujourd’hui ?

    C’est tout le sujet du livre de Pierre Veltz, ingénieur, économiste et sociologue, ex directeur de l’école des Ponts, « Après la ville – Défis de l’urbanisation planétaire », publié en 2025.

    Ce que l’on comprend en le lisant, c’est que les villes d’aujourd’hui n’ont plus rien à voir avec les villes d’hier.

    La ville, dans notre imaginaire, c’est, comme l’indique Pierre Veltz, « une organisation spatiale structurée, avec des motifs récurrents comme l’opposition centre-banlieue, une frontière bien définie, une correspondance claire avec des communautés sociologiques et des représentations politiques (autrement dit, un lien étroit, du moins en Occident, entre l’urbs, la ville physique, et la civitas, la ville sociopolitique).

    Tout cela a explosé dans les années 90 ; ou même avant, avec de nouveaux processus d’occupation de l’espace beaucoup plus désordonnés, ce que l’on a appelé « l’urbain » : c’est l’époque de l’explosion des zones commerciales anarchiques dans les entrées de ville, de l’extension de l’habitat suburbain, et la multiplication des « zones » en tout genre (commerciales, industrielles, universitaires, résidentielles, etc). Ce sont tous ces espaces urbains, très étendus, qui font la ville d’aujourd’hui, et qui sont interchangeables : on retrouve les mêmes enseignes dans les rues piétonnes, au niveau national, et même international. Pierre Veltz cite un auteur de l’histoire de l’architecture et de l’urbanisme, Françoise Choay, qui a publié en 1994 un article sur « le règne de l’urbain est la mort de la ville ».

    Ce phénomène de l’urbain va même plus loin, au point de ne plus permettre de faire de différence entre la ville et la campagne, alors que l’on avait tendance à distinguer le territoire urbain par rapport à l’extérieur (les ruraux, la campagne, la forêt). Aujourd’hui la ville est devenue monde, et le monde devient ville, par extension infinie des zones de toutes sortes, constituant un hybride urbain-rural.

    Autre constat de Pierre Veltz, les modes de vie des campagnes et des villes sont de plus en plus proches.

    Il rappelle que, en France, « à la veille de la Seconde Guerre mondiale, à la campagne, une majorité des maisons n’étaient pas raccordées à l’électricité, ni à l’eau courante ». Jusque dans les années 50, la vie à la campagne et dans les villes restaient très différentes. Aujourd’hui les conditions et modes de vie à la campagne et en ville sont quasiment les mêmes. Mêmes équipements, mêmes appareils électroménagers. C’est en revanche au sein même des villes que les plus fortes inégalités entre les populations se sont développées et accrues.

    Ce qui caractérise aussi les villes d’aujourd’hui, c’est l’extension des échanges économiques, dépendant de ressources de plus en plus lointaines. Alors qu’il y a à peine une ou deux générations, les maisons paysannes ne comprenaient que très peu d’objets manufacturés issus de chaînes de production extra-locales, les échanges sont aujourd’hui mondiaux. On consomme des cerises en hiver partout, venant de très loin. Les conséquences écologiques sont connues et alarment certains. Pierre Veltz cite l’exemple du saumon d’élevage norvégien : « Le saumon d’élevage norvégien que nous consommons en grande quantité a créé par ricochet un déséquilibre majeur de surpêche de sardines au Sénégal, à des milliers de kilomètres, pour nourrir lesdits saumons ».

     Pour Pierre Veltz, il devient urgent d’envisager les dynamiques des villes et les politiques urbaines dans un périmètre beaucoup plus élargi. Se concentrer sur les sujets des espaces de haute densité est une erreur. Exemple de la production d’électricité : « Les énergies renouvelables pour la production d’électricité ne pourront pas trouver leur place dans les villes denses, même si c’est là que se localise la demande. Les espaces peu peuplés devront donc accepter un suréquipement pour répondre à la demande de leurs voisins urbains ».

    Une conviction : nos réalités territoriales ne doivent plus être regardées comme des objets spatiaux isolés et juxtaposés, alors que toutes les entités spatiales sont des millefeuilles de processus entremêlés à des échelles multiples, de l’ultra-local au mondial.

    La ville au singulier n’existe plus. Elle est reliée en réseau à d’autres villes, d’autres territoires, avec un échange continu de biens, de services, d’idées, d’images, du monde entier. D’autant plus avec les communications et internet, bien sûr. Le modèle qui voit la ville comme un ensemble Centre + Périphérie est dépassé dans notre monde en réseaux.

    Voilà de quoi donner un peu de hauteur à tous ceux qui fabriquent les programmes pour les élections municipales.

  • Grandes âmes et fripons

    J’avais déjà évoqué ici le personnage de Félix de Vandenesse, décrit par Balzac, dans « Le lys dans la vallée » comme un être sensible et tendre sujet à « des rapides ébranlements de la sensibilité qui ressemblent aux secousses de la peur ».

    La Comédie humaine de Balzac est source de découverte et d’exploration des sentiments humains, qui nous inspirent encore et évoquent des personnages et situations qui n’ont pas disparus.

    Ainsi, comment décrire ces personnes, bonnes clientes des coachs et des consultants, qui cherchent des réponses, ou au moins de l’aide, pour comprendre et avancer ? Ces personnes qui savent aussi s’introspecter pour comprendre le monde et les comportements qui les entourent.

    C’est précisément ce que n’est pas l’abbé Birotteau, héros du roman « Le curé de Tours », qui donne à Balzac l’occasion d’une saillie sur le sujet.

    L’abbé Birotteau est logé par une demoiselle Gamard, qui, apparemment, lui porte une forme de haine qu’elle lui manifeste. Pourtant l’abbé Birotteau ne semble pas comprendre d’où lui vient ce comportement. Et Balzac nous en livre l’explication :

    « Les secrets motifs du sentiment que mademoiselle Gamard lui portait devaient lui être éternellement inconnus, non qu’ils fussent difficiles à deviner, mais parce que le pauvre homme manquait de cette bonne foi avec laquelle les grandes âmes et les fripons savent réagir sur eux-mêmes et se juger ».

     « Un homme de génie ou un intrigant seuls se disent : -J’ai eu tort. L’intérêt et le talent sont les seuls conseillers consciencieux et lucides. Or, l’abbé Birotteau, dont la bonté allait jusqu’à la bêtise, dont l’instruction n’était en quelque sorte que plaquée à force de travail, qui n’avait aucune expérience du monde ni de ses mœurs, et qui vivait entre la messe et le confessionnal, grandement occupé de décider les cas de conscience les plus légers, en sa qualité de confesseur des pensionnats de la ville et de quelques belles âmes qui l’appréciaient, l’abbé Birotteau pouvait être considéré comme un grand enfant, à qui la majeure partie des pratiques sociales était complètement étrangères ».

    Et Balzac de décrire ce paradoxe d’une forme d’égoïsme qu’a développé l’abbé Birotteau, et qui l’empêche, malgré sa fonction de prêtre et confesseur, de comprendre les autres, y compris pour lui-même.

    Voilà de quoi nous inspirer et extrapoler pour comprendre le monde : Faut-il vraiment, comme Balzac, considérer que pour cela il faut soit être « une grande âme » soit agir par intérêt (c’est-à-dire, dans le vocabulaire balzacien, être un « fripon ») ? Et que si l’on n’est ni l’un ni l’autre, on reste dans son égoïsme ?

    Mais c’est aussi une source de réflexion pour les consultants et les coachs, et pourquoi pas aussi les managers : quels sont les « confesseurs de pensionnats de la ville », qui ignorent finalement les subtilités des « pratiques sociales », de tout ce qu’on appellerait aujourd’hui le contexte humain et psychologique des situations humaines ? Comment aussi rester cette « grande âme » au lieu d’un « fripon » ? Ce qui guide le consultant et le coach, est-ce seulement l’intérêt du fripon, ou une part de cette « grande âme » ?

    Lire Balzac, et « Le curé de Tours » et les déboires de l’abbé Birotteau, c’est aussi prendre la hauteur pour mieux comprendre …oui, la comédie humaine.

    Et pour repérer les abbés Birotteau des temps modernes peut-être aussi.

  • Hard skills : C’est fini ?

    Avec le développement des IA génératives, est-il encore nécessaire d’être expert en quoi que ce soit ? A quoi peuvent servir nos « hard skills » dans ce nouveau monde ?

    Voilà le genre de questions que se posent aussi les étudiants fraîchement promus qui commencent leur carrière dans les entreprises. Que doit-on encore apprendre ? On leur parle de « soft skills », d’empathie, de ce qui fait l’humain dans les interactions ; tout le reste va pouvoir être délégué à ChatGPT ?

    Pas du tout !

    C’est un des messages de Marie Dollé dans son livre « « Selfpressionnisme – Et si l’IA nous rendait plus humains ? » ; et qu’elle est venue soutenir lors de la dernière réunion de « 4ème Révolution ».

    Pour Marie, « plus les outils progressent, plus l’expertise devient indispensable ».

    Ce qui se passe, c’est que l’IA générative, accessible à tous, relève le niveau de base pour tout le monde. Et ce sont donc les compétences, les expertises, de ceux qui en savent plus, qui creuseront l’écart avec ce que la machine ne peut pas résoudre seule. Pour pouvoir intégrer, interagir avec la machine, personnaliser, préciser, il sera utile de connaître le sujet que l’on traite. Sinon, on n’obtiendra de la machine que ce que tout ignorant est capable de sortir. On n’est plus alors un exécutant devant la machine, mais ce que Marie appelle « de véritables entrepreneurs capables d’orchestrer des morceaux épars en un ensemble cohérent », qu’elle appelle des « anthropreneurs » (elle aime bien inventer des mots comme ça, il y en a tout un vocabulaire dans son livre). Être « anthropreneur », c’est savoir relier techniques et culture, afin que « la machine agrandisse notre monde plutôt que de nous réduire au sien ».

    Elle en est convaincue : seule une expertise profonde va nous permettre de garder un certain cap dans ce nouveau monde de l’IA.

    C’est comme ça que l’on gardera une capacité à trier : « Là où l’IA énumère, le spécialiste hiérarchise ; là où elle accumule, il relie ; là où elle exécute, il cadre ».

     Et donc : « L’IA générative ne signe pas la fin des hard skills, elle les célèbre ».

    Conseil à cet étudiant qui doute de la valeur des expertises qu’il a apprises à l’école : N’oublies rien ! Continue à apprendre ; plus tu sauras, mieux tu pourras tirer parti de ce monde de l’IA !

    Conseil aussi pour tous les autres, même ceux qui ont quitté l’école il y a longtemps : Continuez à apprendre !

    Voilà de quoi réconcilier toutes les générations.

    Merci Marie Dollé !

  • Et si Voltaire s’était trompé : Histoire d’une expulsion

    C’est un débat que l’on trouve aussi dans nos entreprises et nos familles : Pour préserver, protéger, notre culture, nos valeurs, notre « raison d’être », il ne faut pas tolérer trop de divergences et de mélange, au risque d’y perdre notre âme. Ou bien, et c’est là le débat, il est nécessaire de diversifier, d’ouvrir nos valeurs, d’accueillir des profils variés, pour garder un esprit d’innovation et se développer.

    Un fait historique un peu oublié éclaire ce débat, et est l’objet du roman de Michel del Castillo, « L’expulsion », publié en 2018, que je viens de découvrir : l’expulsion des « morisques » d’Espagne par Philippe III en 1609/1610.

    En effet, ces morisques sont les musulmans présents en Espagne depuis huit siècles, et convertis de force, mais pas complètement. Philippe III veut renvoyer en Afrique du Nord les quelques cinq-cent-mille morisques qui travaillent encore en Espagne, en leur donnant le choix entre une vraie pratique chrétienne et l’exil.  

    Le roman de Michel del Castillo se veut un miroir grossissant pour interroger des questions qui restent brûlantes aujourd’hui : l’identité nationale ou culturelle et la tolérance (ou son absence) face à l’altérité.

    Il met en scène un dialogue entre le cardinal Laguna, partisan, au nom de la préservation et de la protection de l’âme et de la culture espagnole, de l’expulsion, et Don Alvaro, duc de Gandie, partisan d’une intégration et d’une acceptation de la diversité et de la main d’œuvre apportées par les morisques.

    Le cardinal défend l’idée que les morisques constituent une atteinte permanente à l’identité espagnole, considérant que l’islam ne peut appartenir à l’Espagne, même après des siècles de présence. L’expulsion est présentée comme la clôture définitive de la Reconquête, une purification nécessaire pour retrouver une homogénéité culturelle et religieuse.

    Michel del Castillo oppose ainsi ceux qui voient dans la présence morisque une menace existentielle pour l’unité nationale, et ceux, plus rares, plus humanistes, qui défendent une identité composite enrichie par la diversité historique.

    Ce roman est aussi l’occasion de s’interroger sur une question, elle aussi en écho à des débats actuels : Plusieurs civilisations et religions peuvent elles cohabiter harmonieusement ?  C’est le cardinal qui affirme que « nulle part cela n’a réussi », justifiant ainsi cette violence d’Etat. Michel del Castillo, en en montrant la tragédie humaine de cette politique (familles déchirées, enfants séparés -lors de l’expulsion, certains religieux veulent capturer les enfants des bras de leurs parents morisques, pour les emporter et en faire de bons chrétiens, aussi les morts en chemin – et ceux tués et jetés par-dessus bord lors de l’embarcation sur les bateaux en direction de l’Algérie).

    Ce roman est, pour Michel del Castillo, une façon de s’intéresser aux débats actuels sur l’intégration des populations issues de l’immigration musulmane en Europe, avec les discours sur « l’islam incompatible avec nos valeurs », et la revendication de « frontières culturelles ».

    En lisant ce roman, et en redécouvrant cet épisode de l’histoire de l’Espagne, on pense bien sûr aussi à Voltaire, et à son « Traité sur la tolérance » (1763), qui trouve aujourd’hui un regain de notoriété, et qui s’attaquait déjà au fanatisme catholique qui se pare de légitimité divine et judiciaire à propos de ce qu’on a appelé « l’affaire Calas » de l’époque, où un protestant est accusé d’avoir tué son fils qui voulait se convertir au culte catholique.

    Mais pour Voltaire, la tolérance est naturelle et doit être le comportement nécessaire et naturel de l’homme : « Moins de dogmes, moins de disputes; et moins de disputes, moins de malheurs : si cela n’est pas vrai, j’ai tort ».

     Et aussi : « La nature dit à tous les hommes : Je vous ai tous fait naître faibles et ignorants, pour végéter quelques minutes sur la terre, et pour l’engraisser de vos cadavres. Puisque vous êtes faibles, secourez vous; puisque vous êtes ignorants, éclairez vous et supportez vous. Quand vous seriez tous du même avis, ce qui certainement n’arrivera jamais, quand il n’y aurait qu’un seul homme d’un avis contraire, vous devriez lui pardonner : car c’est moi qui le fait penser comme il pense. Je vous ai donné des bras pour cultiver la terre et une petite lueur de raison pour vous conduire ; j’ai mis dans vos cœurs un germe de compassion pour vous aider les uns les autres à supporter la vie. N’étouffer pas ce germe, ne le corrompez pas, apprenez qu’il est divin, et ne substituez pas les misérables fureurs de l’école à la voix de la nature ».

    A cette vision, finalement plutôt optimiste de Voltaire, qui croit à la tolérance des hommes, Michel del Castillo, avec ce roman, apporte au contraire une vision plus sombre et tragique, faisant dire au cardinal que « nulle part plusieurs civilisations et religions n’ont réussi à cohabiter durablement ». Le roman montre bien cet échec tragique de la tentative de coexistence forcée (conversion contrainte + surveillance + expulsion quand cela échoue ». Il laisse planer le doute : la tolérance est-elle un idéal réaliste (à la façon de Voltaire), ou bien plutôt un vœu pieux face à des identités irréductibles ?

    Un peu comme pour nous dire : Et si Voltaire s’était trompé ? Et si la tolérance était un pari perdu d’avance, face aux logiques identitaires ?

    Ce roman et cet épisode de l’histoire espagnole sont donc un bon moyen pour nous questionner sur la possibilité, ou l’impossibilité, de faire coexister des différences que l’on considère comme irréductibles. Et, au-delà des contextes politiques et religieux, aussi sur des situations d’entreprises, telles qu’évoquées ci-dessus.

    Oui, les romans et l’histoire sont aussi des sources de réflexion pour les managers et les politiques d’aujourd’hui.

  • Abolir l’incertitude ?

    Discussion cette semaine avec un professeur spécialiste de management dans l’incertitude.

    On évoque l’intelligence artificielle : ne va-t-elle pas rendre l’incertitude de moins en moins certaine ?

    Pas du tout, rétorque le professeur. Oui, l’IA peut aider à mieux gérer l’incertitude, aider aussi à mieux prendre des décisions (en éclairant par des hypothèses de scénarios), mais ne peut pas supprimer l’incertitude. Il a tous les arguments pour évacuer cette vision scientiste du management.

    Et puis, que serait un monde sans incertitude ?

    J’évoque le souvenir d’un roman de science-fiction des années 70, « L’homme stochastique » de Robert Silverberg, qui imagine justement un monde où l’incertitude est abolie grâce à des « voyants ». Cela ne parle pas du tout d’intelligence artificielle mais on peut en fait comparer ces « voyants » à ce que l’on dit de l’intelligence artificielle aujourd’hui.

    J’ai rouvert ce livre pour vérifier. Merci professeur.

    L’histoire se déroule à la fin du XXème siècle, au passage de l’an 2000, dans un New York particulièrement dystopique. Le protagoniste, Lew Nichols, est un statisticien spécialiste des statistiques de probabilités et des processus stochastiques, c’est-à-dire les méthodes probabilistes pour prédire les tendances futures à partir de données aléatoires (tiens, tiens). Il travaille pour un politicien ambitieux qui rêve de devenir Président des Etats-Unis, en commençant par la mairie de New York, en utilisant ses compétences pour anticiper les évènements sociétaux et électoraux.

    Mais Lew Nichols va rencontrer un autre personnage, Martin Carvajal, qui, lui, est doté d’une véritable clairvoyance. Il « voit » le futur de manière infaillible, sans probabilités, mais comme un chemin fixe et inaltérable. Ce Martin Carvajal enseigne alors à Lew Nichols comment développer cette capacité que, d’ailleurs, tout le monde possède, selon lui ; il suffit de la développer. Et cela va plonger le héros dans une véritable crise existentielle. Il réalise que le futur est déterministe : une fois « vu », il ne peut être changé, car toute tentative de modification fait partie du futur prédit. D’où toutes les questions évoquées par Robert Silverberg sur le libre arbitre (existe-t-il ?), le fatalisme et les conséquences psychologiques d’une connaissance absolue et certaine.

    En fait, les processus stochastiques que décrit ce roman font forcément penser, en le lisant aujourd’hui, aux technologies de l’intelligence artificielle.

    Les algorithmes de l’IA prédisent, comme les « voyants » de Robert Silverberg, des comportements humains, des marchés financiers, des élections, des phénomènes naturels, avec une précision croissante, tout comme Lew Nichols prédit les tendances sociétales pour le politicien ambitieux. Le risque, on le connaît, c’est une surconfiance en ces prédictions qui peut conduire à des erreurs fatales si les modèles sont biaisés ou incomplets. On se souvient des bulles spéculatives amplifiées par des algorithmes de trading, ou à toutes les manipulations de deepfakes pour influencer les élections.

    Autre curiosité de ce roman, c’est cette présentation de la clairvoyance qui révèle un futur fixe, rendant les choix illusoires. Or, aujourd’hui, l’IA prédictive (comme les systèmes de recommandations sur Netflix ou les algorithmes de surveillance de masse) peut aussi créer des « bulles » qui orientent nos décisions, et renforcent un sentiment de déterminisme social.  On voit bien les risques : si une super-IA prédit et influence l’avenir, elle pourrait éroder le libre arbitre humain, et mener à une société où les individus agissent comme des pions dans un algorithme géant. C’est ce qui rend méfiants certains penseurs comme Nick Bostrom en parlant des risques d’une « superintelligence », qui pourrait figer des trajectoires néfastes pour l’humanité.

    Silverberg met aussi en garde, avec ce roman, sur ce qui est encore plus présent avec l’intelligence artificielle : l’obsession pour la prédiction. C’est cette obsession qui provoque cette angoisse existentielle chez Lew Nichols, et une forme de déconnexion humaine. Si on applique ça à l’IA, on évoque ces avertissements sur la « boîte noire » des modèles. Nous risquons de déléguer des décisions critiques (santé, justice, géopolitique) à des systèmes opaques, amplifiant les inégalités ou les manipulations. C’est ainsi que des systèmes prédictifs pour la police ont été critiqués pour perpétuer des biais raciaux, créant des prophéties auto-réalisatrices, exactement comme le déterminisme du roman.

    Ce que nous apprend ce roman, c’est que poursuivre une prédiction « parfaite » pourrait finalement nous piéger dans un futur que l’on croirait « pré-écrit ». Alors que l’on sait combien les hallucinations de l’IA peut nous mener à des conseils erronés ou à des deepfakes. Une technologie probabiliste peut encore dérailler.

    Ce roman de Robert Silverberg nous enseigne que la quête de prédire l’avenir avec des méthodes stochastiques ou des pouvoirs « supérieurs », comporte des risques que l’on peut dire certains : perte d’humanité, manipulation politique, illusion de contrôle. Appliqué à l’IA, il est une bonne invitation à une prudence éthique, et à la préservation du libre arbitre face à des outils de plus en plus puissants.

    Finalement, le professeur a raison : il est urgent de protéger l’incertitude et de la manager à l’inverse de ce monde infernal qu’avait imaginé Robert Silverberg.

  • L’incertitude en panique

    Manager dans l’incertitude, c’est devenu le schéma courant dans les entreprises, et 2026 ne devrait pas être différent.

    Face à un problème connu, ou dont les causes sont identifiables, on peut toujours décomposer les causes, analyser les remèdes et solutions, tracer les actions à entreprendre. Avec un bon jeu de données, les bonnes méthodes, on y arrive.

    Mais quand on n’en sait rien, ça devient compliqué. Alors on va aller chercher les scénarios et les hypothèses dans tous les sens.

    Et cela arrive aussi dans les choix politiques.

    J’en trouve un exemple dans le livre de Tim Weiner, « La mission ». Tim est un journaliste américain, reconnu pour ses reportages sur la sécurité nationale américaine. « La mission », c’est une enquête sur les dessous de la CIA, nourrie par des documents inédits et de nombreux témoignages qu’il a recueillis. Cela décrit ce monde de l’intelligence économique et de l’espionnage, depuis le 11-septembre jusqu’à l’ère Trump actuelle (le livre date de 2025).

    Précisément, c’est à propos du 11-septembre que Robert Gates, ancien directeur du renseignement et futur secrétaire à la Défense, avoue à l’auteur : « La vérité, c’est que le 11-septembre, on ne savait rien sur Al-Qaïda ».

    Alors, on fait quoi ?

    « C’est pour cette raison que tout ça est arrivé, les interrogatoires aussi, car on ne savait rien. Si nous avions eu une bonne base de données et avions su exactement ce qu’était Al-Qaïda, leurs capacités et tous ces trucs -là, certaines mesures n’auraient pas été nécessaires. Mais nous venions d’être attaqués par un groupe dont nous ne savions rien ».

    C’est alors que se met en place la formalisation de scénarios de toute sorte. Et c’est parti.

    « Quand Bush demanda où Al-Qaïda pouvait commettre le prochain attentat, Tenet (le chef de la CIA) exhiba les pires scénarios des analystes auxquels il avait demandé d’imaginer la catastrophe ».

    Et puis, pour avoir encore plus d’hypothèses, on va utiliser le design fiction ; pour imaginer encore plus fort.

    « Quand ces analystes furent à court d’idées, on embaucha des scénaristes d’Hollywood, pour élaborer de nouveaux cauchemars. La liste des cibles que Tenet présenta dans la salle de crise comprenait l’obélisque du Washington Monument, sur le National Mall, la statue de la Liberté, le mont Rushmore, des bases militaires, des aéroports, des ports, des ponts, des stades, la Bourse de Wall Street, Disneyland et même la Maison Blanche ».

    Et il est alors difficile de trier. C’est tout le dilemme de créer un grand nombre de scénarios et de signaux d’alerte à surveiller. Exactement ce qui est arrivé au chef de la CIA et à la Maison Blanche.

    « On recevait chaque jour des rapports sur des attentats imminents à l’arme nucléaire, qui visaient Washington, New York, Los Angeles et Chicago. Et tout ça déferlait sur la Maison Blanche, littéralement ensevelie sous les menaces ».

    « Tous les jours, à 8 heures du matin, Tenet et ses collaborateurs mitraillaient d’informations aussi terrifiantes qu’invérifiables le président et le vice-président. Tenet savait que les alertes n’avaient pour la plupart aucune chance de se concrétiser. Mais il ne savait pas lesquelles étaient fausses. Il commente : « Il y avait de quoi devenir fou si l’on croyait tout ou même la moitié » des informations rapportées par la CIA, mais il était incapable de dire au président quelle moitié il aurait été prudent de croire ».

    Résultat : En l’absence de critères ou de filtres pour s’y retrouver, la Maison Blanche est dans le brouillard.

    « La Maison Blanche était une pétaudière : les fausses alertes ne cessaient de retentir, chaque sonnerie de téléphone portable annonçait la ruine, des décisions cruciales étaient prises dans un état de terreur, chacun cherchait à maintenir la tête au-dessus d’une marée de menaces, personne n’était vraiment capable de voir plus loin que le bout de son bureau et tous, trop souvent, se querellaient ».

    Ce sera le début de tâtonnements, pour finir par structurer la stratégie dans une guerre pour retrouver Ben Laden et poursuivre les terroristes. A commencer par cette décision d’occupation de l’Afghanistan, qui sera abandonnée plusieurs années plus tard.

    C’est en effet la prise de recul, et la mise en action d’une nouvelle vision, qui permettra de sortir de cette période d’incertitude et de surveillance de trop de scénarios et signaux improbables et sans signification probante. Mais on peut aussi faire de mauvais choix, et il faudra alors aussi savoir changer de stratégie. Mais l’action est préférable à l’hésitation dans l’incertitude, et à la planification de scénarios qu’on ne mettra jamais en œuvre.

    Une bonne leçon aussi pour les dirigeants et leurs prospectivistes : Se donner dès que possible une stratégie d’action, pout trier dans les informations et les données, viser, essayer, et savoir changer aussi, si possible pas trop tard.