Science sans conscience n’est que ruine de l’âme. (Rabelais)
J’ai en mémoire une scène particulière du film Les dieux sont tombés sur la tête dans laquelle un états-unien prend sa voiture pour poster une lettre à cinquante mètres de chez lui. Cette scène hilarante et tout à la fois révélatrice d’une réalité déplorable était un support de plus pour les moqueries faciles et bien européennes quant aux débordements venant d’outre-Atlantique en terme, par exemple, de rationalité, d’alimentation, de mesure. Pourtant ce genre de gabegie a maintenant gagné le monde entier.
La voiture est un outil permettant de se déplacer sans trop d’effort d’un lieu à un autre. Cela a un coût économique, écologique, humain. Si l’on met en balance ces coûts avec la distance devant être parcourue et l’urgence d’une situation, il est possible de trouver un intérêt à la voiture. Cet intérêt peut varier au cours du temps. Il a longtemps été très favorable, en particulier pour le sentiment de liberté qu’un véhicule personnel procure, parce que les informations relatives à l’ensemble de ces coûts étaient peu diffusées, et parce que la majorité des politiques publiques ont incité à l’usage de l’automobile, au détriment d’autres solutions.
Aujourd’hui, l’usage des grands modèles de langage, ou modèles génératifs, est de la même manière fortement suggéré par les entreprises ainsi que les instances publiques. Mais la situation est très différente.
D’abord parce que ces modèles sont des outils statistiques qui ne répondent pas à un besoin élémentaire comme la voiture. Ils ne sont pas fiables (dans le sens de déterministes) ou explicables : il est impossible de décrire le processus qui mène depuis le prompt jusqu’au résultat. Ces résultats ne sont non plus ni prédictibles, ni reproductibles. Ensuite parce que ces outils ne sont rien d’autre qu’un artefact de plus produit par un capitalisme global. Bien loin des fantasmes d’intelligence artificielle générale quotidiennement relayés par la presse, ils véhiculent une idéologie productiviste dans laquelle l’humain est relégué toujours plus loin dans les marges. Ils sont essentiellement le dernier bidule en date pour enrichir les entreprises qui accaparent déjà les terres, les sources d’énergie ou encore les moyens de communication. Par conséquent, ils contribuent à déposséder tout un chacun de ses moyens de production (comme dirait Marx), de ses appareils, de ses loisirs, et à accentuer les inégalités ou propager des biais en particulier culturels, masculinistes et racistes. Enfin parce que le coût de leur usage aussi bien en terme économique, écologique que humain est prohibitif. Ce coût est connu et documenté. Il pèse déjà depuis des années sur les politiques des puissances industrielles, et ainsi sur toutes les autres.
L’usage d’un outil doit procéder d’un choix éclairé. L’injonction sociale ne doit pas influer sur mon propre choix. Considérant l’ensemble des problèmes et travers décrits ci-avant, je ne peux donc, en tant que citoyen, utiliser sciemment les fonctions d’un modèle génératif. Et en tant qu’ingénieur, j’adhère à la notion d’Ingénieur Honnête Homme qui a été développée au sein de l’école par laquelle je suis passé et je ne peux par conséquent, en conscience, utiliser des outils tels que ceux-ci pour mon travail.
Ce manifeste est volontairement synthétique. Il est possible de trouver sur Internet quantités d’articles documentant chacun des points levés ici.