Vous allez mourir mais nous ne savons pas pourquoi !

C’est une phrase que nous pourrions bientôt entendre lors d’une admission dans un hôpital.

La Harvard Business Review nous explique qu’un algorithme auto-apprenant (machine learning algorithms) a permis , avec une fiabilité significative, de prévoir et diagnostiquer des maladies ( cardiovasculaires, cancers..), la durée de séjour dans un hôpital, les ‘chances’ de réadmission. Et surtout, dans les 24h suivant une hospitalisation, avec un fiabilité de 90%, les ‘chances’ de survie.

Cet algorithme auto-apprenant a été développé par une équipe de chercheurs des universités de Chicago, Stanford, Californie et de Google (qui a mis à disposition ses super-calculateurs). L’algorithme a été alimenté par 46,864,534,945 data provenant de l’hospitalisation d’au moins 24h de 216,221 patients adultes. C’est vous dire le sérieux de cette étude.

Mais le problème – non ce n’est pas que nous/vous allons mourir, ça c’est encore un autre sujet – le problème donc, c’est que les chercheurs sont incapables de comprendre comment l’algorithme arrive à produire ses résultats (ses et non pas ces car…ils appartiennent à l’algorithme). Les chercheurs sont de simples spectateurs face au travail d’une machine qu’ils ont créée.

Et ce sujet du « nous ne savons pas pourquoi », c’est à dire expliquer, se révèle un sujet éthique. Notre Secrétaire d’Etat chargé du Numérique s’oppose catégoriquement à l’utilisation de ces algorithmes : « les algorithmes boîte noire, c’est-à-dire ceux qui apprennent d’eux-mêmes, qui au fur et à mesure de leur utilisation peuvent prendre une décision dans un sens plutôt qu’un autre sans que celui qui l’a créé soit capable de définir pourquoi l’algorithme est allé dans un sens ou un autre, sont interdits et continueront de l’être. »

Divers organismes gouvernementaux US ont lancé eux aussi des études et réflexions sur ce sujet, par exemple la DARPA Defense Advanced Research Projects Agency qui résume dans le graphique ci-après l’enjeu de son travail.

Pourtant ces algorithmes permettent des avancées dont il serait dommage de se priver. Alors que faire, quelle attitude adopter, quelle réglementation mettre en œuvre ? Nous vous laissons plus de 45 secondes pour y réfléchir…

 

0

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *