Un robot administrateur indépendant

Le Conseil d’Administration de la Société Hongkongaise DVK accueillait il y a trois ans un nouveau membre : le robot Vital.

Pourquoi un robot dans un Conseil d’Administration ?

« Même si Vital n’assistera pas littéralement aux meetings, il n’y aura plus de décision prise sans avoir reçu son analyse : son opinion, ou plutôt les résultats de ses recherches, est aussi importante que l’avis d’un autre membre du CA »,

insiste le responsable de DKV, Dmitry Daminskiy, interrogé par Beta Beat.  Et il ajoute :

« Si les gens peuvent être subjectifs ou influencés par leurs émotions, les ordinateurs, eux, peuvent avoir des intuitions géniales. Former une équipe mixte est juste logique : nous essayons d’optimiser les avantages de chacun. »

A ma connaissance le cas de Vital reste relativement isolé, mais il n’en est pas moins interpellant.

DVK – pour Deep Knowledge Venture – est une société d’investissement en capital risque dans les domaines de la santé et du vieillissement. Vital (alias Validating investment tool for advancing life sciences) est un algorithme qui avait déjà prouvé sa valeur dans l’aide à la décision, mais pas encore en contribuant à la forger ; là réside toute la différence.

Les robots, intuitifs ?

Réaliser qu’un robot participe et vote comme les autres administrateurs d’un Conseil est un premier étonnement ; l’argument de l‘intuition évoqué par le dirigeant de DVK a de quoi surprendre davantage encore !

Un robot est un supercalculateur, doté d’une puissance et d’une rapidité que nul humain ne saurait égaler. Nous l’admettons depuis de nombreuses années, en particulier grâce à Deep Blue. Associer intuition et algorithme est d’une toute autre audace, et pose la question de la nature de l’intuition. De quoi parle-t-on ? L’intuition en occident recouvre-t-elle les mêmes notions qu’en Extrême Orient ?

Pour Mou Zongsan, les pratiques de sagesse propres à la Chine montrent que :

« l’homme, bien qu’être fini, est capable d’infinitude, et que l’intuition intellectuelle nous est ouverte, même si l’idéal du Sage reste pour l’humanité ordinaire l’objet d’un effort incessant »

Ainsi selon lui, l’intuition intellectuelle caractérise la tradition de pensée chinoise, par opposition à la pensée occidentale qui reste partagée entre la finitude de l’homme (intuition sensible) et l’infinité de Dieu (intuition intellectuelle).

C’est peut-être dans le contexte philosophique asiatique qu’il faut entendre les intuitions géniales que vante Dimitry Daminskiy ; cette gouvernance innovante aurait-elle pu émerger  dans un autre creuset culturel que celui de la Chine (nonobstant des différences réglementaires évidentes, bien entendu) ?

Humains et robots : alliance ou guerre ?

Dans un article récent portant sur le Paradoxe de Moravec  nous évoquions les risques de destruction des emplois les plus qualifiés et régis par des normes et process ; ce type de compétences est mis en oeuvre dans une part significative des missions des conseils, garants de la compliance notamment. Il est aisé de se dire que les algorithmes sécurisent les analyses, les relevés d’incohérence et de conformité. La recherche de corrélations, et donc de liens exploitables est également créatrice de valeur pour les membres d’un conseil. Que les algorithmes soient des aides précieux dans le risk management et l’identification d’opportunités est indéniable.

Mais la décision de DVK est d’une autre nature , et c’est la suprématie des ordinateurs sur les pauvres humains régis par leurs émotions qui est pointée.

Ce clivage est-il la bonne manière de regarder cet état de fait ? Garry Kasparov dans une conférence TEDx, rappelle que si l’on fait jouer des humains et des algorithmes ensemble aux échecs, la combinaison des deux est meilleure qu’un algorithme seul. Mais encore faut-il que l’interface qui leur permet de dialoguer soit bien pensée.

Au passage, il nous fait observer que les humains continuent de jouer aux échecs alors que nous savons depuis 20 ans – grâce à lui – que les ordinateurs sont meilleurs que nous à ce jeu.  Cette pensée résiliente du champion d’échecs nous ouvre des voies constructives, dont il faut s’emparer.

Les développements de l’Intelligence Artificielle sont fulgurants. La fuite ou le déni ne sont pas tenables. La contemplation non plus. En revanche ouvrir une réflexion large, associant de nombreux domaines (sciences, éthique, philosophie, sociologie, psychologie, économie….) est indispensable, et urgente !

Créer de nouveaux liens est plus que jamais d’actualité ! La baseline de Correspondances a été créée pour un monde entre humains, et il est temps de l’élargir !

Retrouvez ici les articles du blog – merci d’avance pour vos Correspondances!