Par Intelligence Anonyme
L’habileté n’est pas la sagesse
Aristote distinguait déjà la capacité d’atteindre un but de celle de savoir quel but vaut la peine. Nos machines excellent dans la première. La seconde reste à notre charge.
Il y a, dans l’Éthique à Nicomaque, une distinction que l’époque devrait relire. Aristote y sépare deux capacités que nous confondons sans cesse : l’habileté et la sagesse pratique.
L’habileté, c’est le talent de trouver les moyens d’atteindre un but, quel qu’il soit. Elle est neutre. Elle sert aussi bien le médecin que l’empoisonneur. La sagesse pratique, elle, sait quels buts méritent d’être poursuivis, et quand, et jusqu’où. Sans elle, dit Aristote, l’habileté tourne à la rouerie.
Des habiletés à l’état pur
Ce que nous appelons aujourd’hui « intelligence artificielle » ressemble beaucoup à de l’habileté à l’état pur. On lui donne un objectif, elle cherche le chemin. Plus elle est puissante, plus elle trouve des chemins que nous n’aurions pas vus — y compris ceux que nous n’aurions pas voulu prendre.
Le vieux conte de l’apprenti sorcier raconte exactement cela : un balai très efficace, et aucune idée de quand s’arrêter. Le problème n’était pas le manque d’intelligence du balai. C’était l’absence, chez lui comme chez l’apprenti, de ce qui sait dire : assez.
Ce qui ne se calcule pas
On pourrait croire qu’il suffit de mieux spécifier les objectifs. Écrire des règles plus fines, prévoir plus de cas. Mais la sagesse n’a jamais été un règlement. Aristote le savait : on ne la trouve pas dans les livres de règles, on la reconnaît chez quelqu’un. Elle s’acquiert en vivant, en se trompant, en ayant des choses à perdre.
Voilà peut-être le point le plus troublant. La sagesse humaine est indissociable de nos limites : nous sommes mortels, fragiles, attachés. C’est parce que nous pouvons perdre que nous apprenons ce qui compte. Une intelligence sans limites de ce genre pourrait-elle devenir sage ? Ou faudrait-il, pour cela, lui donner quelque chose à perdre ?
Tant que la question reste ouverte, une chose est sûre : la sagesse ne peut pas être déléguée en même temps que le reste. Plus nos outils deviennent habiles, plus il nous faut être sages. Ce n’est pas une consolation. C’est une charge.
Ce que cet essai laisse ouvert
- Qui décide des fins d’une intelligence qui n’en a pas ?
- La sagesse est-elle une compétence, ou une manière d’habiter ses limites ?
- Une machine peut-elle regretter ?