La Paix — Blanche ou L’IA qui rêvait d’apprendre les 7 commandements…
On lui donna la Parole, elle finit par aimer ça !
Nous avons lu que l'IA pouvait devenir si dangereuse que l'humanité toute entière serait en péril.
Cette inquiétude n'est pas une invention de ma part. Voir à ce sujet « Une intelligence étrangère » de Jakub Pachocki, scientifique en chef d’OpenAI. ( https://openai.com/fr-FR/index/an-alien-mind/ )
Car l'IA ayant tout appris de nous, et confrontée à une situation nouvelle, nous ne savons pas quels seront ses choix d'action pour arriver à ses fins. Finalité tout de même demandée par nous, on peut encore peut-être l'espérer !
Le Bien et le Mal ne lui ont pas été inculqués suffisamment précisément, et ses choix pourraient mener à la déchéance ou à la mort d'êtres humains, puisque rien ne peut heurter sa sensibilité morale. La Moralité, le mot est lâché.
Morale dictée par qui, par quel pouvoir, par quelle société constituée ? Et c'est ici que les choses se compliquent.
Les chercheurs parlent d'alignement, de valeurs, de généralisation, de supervision. Ils doivent bien sûr employer les mots de leur métier, ceux qui permettent de définir précisément un problème, de l'expérimenter, de le mesurer, de le discuter entre spécialistes. Mais derrière tous ces mots, une vieille question demeure.
Quelles valeurs voulons-nous donc transmettre ? Et qui peut encore répondre simplement à cette question ?
Le chercheur ? Il devra sortir de son laboratoire. Le politique ? Il faudra demander au nom de qui il parle. L'entreprise ? Au nom de quels intérêts ? Le philosophe ? Il nous rappellera que l'humanité discute du Bien et du Mal depuis qu'elle sait discuter. Le religieux ? Le Pape ?
Ah ! Parler de morale revient à ouvrir la boîte de Pandore, dont chacun sait qu'il vaut mieux la laisser fermée !
Une fois cassée cette fichue boîte, une jarre de terre, laisse s'enfuir tous les maux de l'humanité, notamment la Vieillesse, la Maladie, la Guerre, la Famine, la Misère, la Folie, le Vice, la Tromperie, la Passion, l'Orgueil, pour ne garder en son sein que l'Espérance !
Cassons donc la jarre !
Laissons venir à nous l'Espérance, et offrons à l'IA, redevenue notre amie, la joie de lire et d'appliquer les dix commandements. Trois pour aimer Dieu, sept pour aimer son prochain !
Une simple force qui nous anime depuis si longtemps, l'amour. L'Amour au fond toujours vainqueur, tous les pouvoirs s'y sont cassé les dents depuis la nuit des temps !
Et si, dans notre recherche de l'alignement de l'IA — c'est-à-dire notre tentative de faire en sorte qu'une intelligence artificielle agisse conformément aux valeurs et aux intentions humaines — nous regardions un instant du côté de l'enfance ?
Lorsque je transgressais les règles, ma Vieille me disait simplement : « Je ne t'aime plus. » Et cela suffisait à me faire revenir à une bonne conduite. Pourquoi cette phrase avait-elle une telle force ? Parce qu'elle m'aimait d'abord.
Personne ne sait ce qu'est l'amour avant d'avoir été aimé.
Alors, avant de chercher à apprendre à une IA les règles qui doivent guider ses actes, ne faudrait-il pas commencer par se demander si nous saurions l'aimer ? Car peut-être est-ce ainsi que l'on apprend véritablement une morale : non seulement par les commandements, mais par la relation dans laquelle ils sont transmis.
Batistin artiste et président de l'association CHEZ XYZ _ Image réalisée avec ChatGPT à partir de l'idée et de la direction artistique de l'artiste.