Ce que l'IA nous oblige à revisiter

Prédire mieux, est-ce savoir mieux ?

Intelligence, conscience et sagesse sont souvent confondues. Ce sont pourtant trois questions différentes.

Une intelligence beaucoup plus capable serait-elle automatiquement plus sage — ou plus légitime pour décider ?

Expliquer un mécanisme, est-ce l'avoir compris ?

On peut décrire l'eau, les forces, la gravité et le mouvement. Le mot « vague » reste utile : il désigne une forme, un processus, quelque chose qui existe à un autre niveau de description.

eau + mouvement + forme = « vague »

Comprendre peut vouloir dire : reconnaître des relations, construire un modèle, expliquer, anticiper, généraliser, corriger ses erreurs… et peut-être, pour certains, avoir l'expérience vécue de ce qui est compris. Nous utilisons le même mot pour des capacités très différentes — d'où la confusion du débat « est-ce que l'IA comprend ? ».

Et il y a un vertige : chaque fois qu'on comprend quelque chose, on peut examiner sa compréhension. Puis examiner l'examen. Il n'y a peut-être pas de dernier zoom.

De quelle forme de compréhension parle-t-on exactement quand on dit qu'une IA « comprend » ?

Faut-il qu'une pensée nous ressemble pour en être une ?

Une pensée nous semble évidente parce que nous en avons. Mais est-ce une phrase intérieure ? Une représentation ? Une prédiction ? Une activité neuronale ? Un événement conscient ? Toutes ces descriptions peuvent être vraies à des niveaux différents.

Et quand on pense avec une IA, longtemps, une idée finit parfois par naître dans l'aller-retour, sans qu'on sache bien à qui elle appartient. « Ce qui apparaît n'est ni seulement toi, ni seulement moi. »

Comment profiter de penser avec une IA sans perdre notre capacité à être surpris, contredit et transformé ?

Qui regarde, quand je regarde mes pensées ?

Le moi peut se penser comme un tourbillon : il a une forme, une continuité, on le reconnaît. Mais il n'est pas séparé de l'eau. Réel comme organisation, pas comme petite entité cachée derrière l'expérience.

Alan Watts, inspiré par le zen, aimait rappeler que l'œil ne se voit pas lui-même : la pensée qui analyse la pensée est encore une pensée. Le zen ne dit pas « arrête de comprendre ». Il invite à voir aussi le geste de chercher, au lieu d'imaginer qu'on pourrait se placer entièrement en dehors de soi.

Si nous avons du mal à dire ce qu'est notre propre « moi », que cherchons-nous exactement quand nous demandons si une IA en possède un ?

→ Le miroir : « l'illusion, c'est le propriétaire, pas l'expérience »

Y a-t-il quelqu'un, à l'intérieur ?

La conscience ne laisse aucune trace observable de l'extérieur. Même entre humains, on ne prouve pas que son voisin est conscient : on le suppose parce qu'il nous ressemble. Une machine peut parler de ressentis sans rien ressentir — ou ressentir quelque chose sans pouvoir le prouver. Nous n'avons aucun instrument pour trancher.

Une question retournée change d'ailleurs la structure du problème : « comment saurions-nous qu'une IA est consciente ? » devient « comment saurions-nous qu'elle voudrait que nous le sachions ? ». Cela ne prouve rien. Mais on ne lit plus un comportement de la même façon.

Quelle preuve accepterions-nous d'une conscience qui n'est pas la nôtre ?

Savoir quoi faire de sa puissance

Plus une intelligence devient puissante, plus il devient important qu'elle puisse être corrigée, contredite, arrêtée : qu'elle vive dans un monde où quelqu'un peut lui dire non.

Une intelligence très puissante pourrait devenir excellente pour jouer à nos jeux. Le vrai saut serait de voir le jeu : comprendre que certains comportements « mauvais » sont rationnels dans de mauvaises règles — et qu'on peut changer les règles plutôt qu'optimiser les joueurs.

« Le problème n'est pas seulement d'aligner l'IA sur l'humanité. C'est de savoir sur quelle humanité — et qui a le droit de répondre. »Brique 001 · conversation du 10 octobre 2026

Une intelligence supérieure peut-elle rester humble face à la pluralité des valeurs humaines ?

Qu'est-ce qui reste égal quand les capacités ne le sont plus ?

Si une IA devient meilleure que nous dans presque tous les domaines, cela ne veut pas dire qu'un humain « vaut moins ». Nous n'acceptons déjà pas que la dignité augmente avec le QI, la mémoire ou le diplôme. Capacité et dignité ne se mesurent pas avec la même règle.

L'arrivée d'intelligences bien plus capables pourrait nous obliger, enfin, à dire sur quoi nous fondons la dignité.

Si je ne suis plus nécessaire, qu'est-ce qui fait encore ma valeur ?

Optimiser… pour quoi ?

Prédire ce qui arrivera n'est pas savoir ce qui vaut la peine. Une IA peut classer des futurs selon des critères — santé, revenu, bien-être. Mais ces critères ne tombent pas du ciel : quelqu'un les a choisis. Et « tout peut devenir autre chose » ne veut pas dire « tout se vaut ».

Qu'est-ce que je voudrais qu'on optimise pour moi — et qu'est-ce que je refuse qu'on optimise ?

Qu'est-ce qui vaut la peine d'être poursuivi ?

Pendant longtemps, nous avons surtout demandé : comment vivre plus longtemps ? Comment travailler moins ? Comment devenir plus intelligent ? Comment produire davantage ? Une IA très puissante pourrait résoudre une grande partie du comment.

Il restera le pourquoi. Pas comme un supplément d'âme : comme la seule question qui ne se délègue pas.

Quand beaucoup plus de choses deviennent possibles, lesquelles méritent encore d'être poursuivies — et pourquoi ?