Pourquoi un médecin-ordinateur bâti sur des centaines de règles n'a-t-il pas remplacé les vrais médecins ?

MYCIN, un programme de Stanford des années 1970, choisissait les antibiotiques contre des infections graves à peu près aussi bien que les spécialistes de Stanford. Il n'a pourtant jamais servi en pratique courante. Le problème n'était pas sa médecine. Le principal obstacle venait de la technologie de l'époque pour l'intégrer au travail de l'hôpital, et de la question de savoir qui serait responsable s'il se trompait de diagnostic.

MYCIN était un système expert. Il contenait environ 600 règles si-alors, chacune codant un morceau du raisonnement de spécialistes des maladies infectieuses. Une base de connaissances stockait les règles, et un moteur d'inférence les enchaînait pour arriver à une conclusion, en expliquant son raisonnement sur demande. MYCIN posait au médecin une série de questions simples. Puis il classait les bactéries probables et proposait des médicaments, avec des doses ajustées au poids du patient.

Lors d'un test sur dix cas, huit spécialistes des maladies infectieuses ont jugé les prescriptions de MYCIN acceptables dans 65 % des cas. Cinq professeurs de Stanford obtenaient entre 42,5 et 62,5 % sur les mêmes cas. L'étude est aussi citée pour une leçon plus modeste : même les experts ne sont pas d'accord quand il n'existe pas de traitement de référence unique. Edward Feigenbaum, souvent appelé le père des systèmes experts, résumait le pari. Selon lui, ces systèmes tirent leur puissance des connaissances qu'ils contiennent, pas d'astuces de raisonnement.

Mais ces connaissances se sont révélées difficiles à récolter. Extraire le savoir-faire d'un expert de sa tête pour en faire des règles propres a pris un nom : le goulot d'étranglement de l'acquisition des connaissances. Les systèmes experts ont tout de même connu un boom dans les années 1980. Puis, en 1987, le marché des machines Lisp sur lesquelles ils étaient surtout développés s'est effondré, et dans les années 1990 beaucoup de systèmes experts ont été abandonnés. On lit encore cette histoire de deux façons : soit les systèmes experts n'ont pas tenu leurs promesses gonflées, soit ils ont été victimes de leur succès, absorbés par les logiciels ordinaires.