Jacques Ellul contre l'IA

Ça fait plusieurs mois que je m’intéresse aux écrits de Jacques Ellul comme base théorique pour comprendre les techniques et technologies de nos jours. En fait, j’ai déjà écrit en février au sujet de l’intelligence artificielle générative et combien l’œuvre d’Ellul semble utile pour les critiques de l’IA malgré le fait qu’Ellul a vécu et écrit bien avant l’ère de l’IA comme nous la connaissons aujourd’hui.

Je suis en train de lire son livre posthume Théologie et technique (bien lentement, il faut l’avouer—j’avais commencé le livre en mai avant de devoir recommencer il y a quelques jours), et je trouve qu’il y a plusieurs passages qui me semblent utile lors des débats actuels au sujet de l’IA générative.

la nécessité des tensions et des conflits

Premièrement, aux pages 68-69 du livre, Ellul parle de son éthique de la non-puissance, une éthique qui’il décrit comme « créatrice de tensions et de conflits. » Il donne même l’exemple suivant :

Une société humaine n’existe que par des négociations successives de position contradictoires. Or, par exemple, la décision assistée par ordinateur exclut la Négociation.

Hier, j’ai posté un lien vers cet article de France Info sur la transformation des moteurs de recherche en « moteurs de réponse ». En voici un extrait (que j’ai déjà cité dans mon « linkpost » :

On est passé d’un moteur de recherche à un moteur de réponse. C’est-à-dire que les algorithmes proposent des versions rédigées à partir des données qu’ils auront collectées sur Internet, puis reformulées sans que vous ayez rendu visite aux sites contenant ces éléments de réponse à votre requête.

C’est sûr qu’on a déjà des problèmes à enseigner aux jeunes la nécessité « d’entrer en conflit » avec ces sites et ses éléments de réponse, mais un moteur de recherche présuppose (d’une certaine manière) que la personne qui cherche une réponse aura cette opportunité de mettre ces éléments en tension les uns avec les autres pour ensuite trouver une réponse par la négociation. Par contre, un moteur de réponse insiste sur « une concordance, une unité » (pour encore citer Ellul) en présupposant que c’est la technique déjà qui connaît la réponse, et les personnes n’ont plus rien à faire quant à la négociation entre pages et éléments de réponse.

la distinction entre « fait » et « vérité »

Deuxièmement, j’apprécie beaucoup ce que constat Ellul à la page 81 au sujet de l’adoption de nouvelles techniques et technologies:

le fait étant acquis, il ne saurait être question de le mettre en cause (ceci revient tout le temps ; l’intervention génétique est un fait — donc…) Il ne s’agit jamais de contester le fait à partir de la vérité. Au contraire : les découvertes biologiques étant ce qu’elles sont, quelle nouvelle éthique cela produit-il ? Tout est soumis à la force des choses et à la loi des faits.

Il s’agit ici d’une distinction faite par Ellul entre le réel (le domaine du concret, des faits, de l’évident) et le vrai (le domaine du bien et du mal, du vrai et du faux). (Il en écrit surtout dans La parole humiliée, que j’essaie aussi de lire en ce moment, mais même plus lentement…). Je trouve qu’on pourrait très bien remplacer « l’intervention génétique » par « l’intelligence artificielle » pour voir combien cette distinction pourrait nous être utile maintenant.

En fait, je dirais même que beaucoup des éléments du débat sur l’adoption de l’IA générative peut bien se résumer par cette distinction. Il y a beaucoup de monde qui dit que l’IA, c’est un fait, on a maintenant l’obligation de l’adopter dans les écoles et les universités. On n’a plus de choix, il ne reste que de décider de la manière dont on va adopter ces outils. Par contre, il y a celleux (y compris moi) qui croient que le « fait » de l’IA ne peut pas en lui-même résoudre le débat. Par contre, on a l’obligation de nous poser des questions sur la vérité : est-ce que l’IA fera du bien ou du mal dans nos salles de classe ? Est-ce qu’on devrait enseigner à nos élèves et nos étudiants de résister à l’IA dans la vie ?

J’avoue que ces questions sont compliquées, et qu’on ne peut pas nier le fait de la présence de l’IA. Pourtant, grâce à Ellul, j’ai une base théorique pour résister à l’idée que « Tout est soumis à la force des choses et à la loi des faits ».

conclusion

Il y a beaucoup plus à lire et à écrire sur un sujet comme l’IA générative. J’écris donc ce post surtout pour garder ces citations et formuler des pensées préliminaires sur ce sujet. Malgré le caractère tentatif de ce post, je peux quand-même dire avec confiance que je suis bien content d’avoir trouvé en Ellul quelq’un qui me fournit une base théorique pour mon enseignement et mes recherches.

• Jacques Ellul
• Théologie et technique
• AI
• generative AI
• La parole humiliée