Où il est encore question d'intelligence artificielle

Un historique de toutes nos réunions

Table des matières

mercredi 15 janvier 2025 (précédent)
mercredi xx mars 2025 (suivant)
Tous les comptes-rendus

mercredi 12 février 2025

La voix du secrétaire (Jean)

Présents à la réunion, en fonction de la disposition autour de la table :

Richard,
Laurent (B),
Sébastien,
et moi.

Nous avons mangé des pizzas 4 fromages, au saumon, campione et ??? une coupe colonel, une mousse au chocolat et un tiramisu. Nous avons bu de la menthe à l'eau, un kir, et de la bière. Le lemoncello était offert par la maison.

Nous avons parlé de Perl, intelligence artificielle, Internet, informatique et points divers.

Perl

Nous avons appris qu'Emmanuel ne serait pas parmi nous ce soir. C'est dommage, car nous aurions bien voulu régler l'ambiguïté sur la date de l'Assemblée Générale.

intelligence artificielle

Nous avons abondamment parlé d'intelligence artificielle. Il y a une forte redondance avec la discussion du mois d'octobre dernier et le compte-rendu que j'en ai fait. Néanmoins, je reprends ce qui a été dit au mois de février et j'y ajoute quelques remarques que je n'ai pas eu le temps de dire.
Le mot franco-anglais « intelligence » a trois significations :
1. en français et en anglais, la capacité de raisonnement et de compréhension, alliée à une certaine culture générale,
2. en anglais uniquement, la partie renseignement d'une activité d'espionnage (le « I » de CIA),
3. en français uniquement, cela désigne la collaboration, principalement dans les expressions « en bonne intelligence » ou « intelligence avec l'ennemi ».
Le sens (3) n'a pas été évoqué dans la discussion, laissons-le de côté dans ce compte-rendu. Laurent soutient que dans « AI » ou « artificial intelligence », il était question de renseignement (et donc que « IA » = « intelligence artificielle » est une erreur de traduction), alors que Sébastien et moi pensons que dans « IA » et « AI », il s'agit de la capacité de raisonnement et de compréhension.
Pour Laurent, la mise à disposition de Chat GPT et similaires pour le grand public correspond à une volonté de recueillir tout un tas d'informations personnelles fournies par ce grand public et à analyser ce contenu pour effectuer des recoupements et en déduire des informations latentes. Pour Sébastien et moi, cela fait belle lurette que le recueil d'informations est en marche. Il y a notamment le recueil des méta-informations de télécommunication par la NSA (qui tient à faire la différence entre mise sur écoute des communications téléphoniques et recueil des méta-informations de ces mêmes communications téléphoniques). Il y a également Google avec son moteur de recherche, son service de messagerie, sa plateforme de contenu vidéo, sa tentative pour un réseau social, sa captation du marché des téléphones portables via leur système d'exploitation, les sites extérieurs avec le formulaire « connectez-vous avec votre identifiant Google », et toutes les actions qui visent à récupérer des informations fournies plus ou moins inconsciemment par les utilisateurs et à faire des recoupements sur ces informations. On peut plus ou moins dire la même chose de Méta et Facebook. Ces activités de recueil et de recoupement ont commencé longtemps avant que les sites grand-public et les media d'information généralistes parlent d'intelligence artificielle. L'homme de la rue entendait parler de « collecte des informations personnelles » et d'« intrusion dans la vie privée » mais pas d'« intelligence artificielle ».
C'est dans la même veine que Google a récupéré des milliers de livres et a conçu un outil reCAPTCHA pour faciliter la numérisation de ces livres. La première version proposait deux chaînes de caractères déformés et demandait à l'utilisateur de les lire et de les taper dans le champ prévu à cet effet. Sur ces deux chaînes, l'une était déjà connue, pour détecter les petits malins qui chercheraient à polluer la base de connaissance, tandis que l'autre était vraiment une chaîne de caractères à identifier. La nouvelle version présente des images sur lesquelles l'utilisateur doit reconnaître les feux tricolores ou les motos, mais le principe de demander à l'utilisateur d'identifier les motos et les feux est le même que celui de la première version avec des caractères.
Si nous laissons de côté l'utilisation de « IA » en tant que mot à la mode (ou buzzword), l'intelligence artificielle date de plusieurs décennies. Il y a eu par exemple le langage Prolog développé à partir de 1972, pour enchaîner des inférences logiques.
Le problème emblématique de la recherche en intelligence artificielle est la pratique des échecs. On trouve trace de cette question dès le XVIII^e siècle avant même la naissance de Babbage, a fortiori avant l'ENIAC. Au début de l'informatique, il s'agissait seulement de trouver des algorithmes de plus en plus perfectionnés et de mémoriser une base de connaissance d'ouvertures de plus en plus fournie. Avec la progression du matériel et l'émergence des ordinateurs individuels, à la fin des années 1970, il était possible pour les geeks de l'époque de disposer d'une machine à jouer aux échecs avec un affichage de 4 caractères à 7 LED, ou d'un programme pour Apple II ou CP/M. Côté gros systèmes, c'était encore le règne de la force brute avec Deep Thought en 1989 et Deep Blue en 1997. Et c'est seulement dans les années 2010 que sont apparus les programmes fonctionnant par apprentissage, Google Alpha Go pour un apprentissage guidé du go, Google Alpha Go Zero pour un apprentissage autonome du go et Google Alpha Zero pour un apprentissage autonome des échecs. En 2017, on a parlé tout bas d'intelligence artificielle, mais les termes qui revenaient le plus souvent étaient machine learning et deep learning.
Sébastien rappelle également à Laurent que les jeux vidéo basés sur l'affrontement de deux joueurs ou plus possèdent en général un mode où un joueur humain affronte le programme. Dans cette situation, on dit que le joueur « affronte l'intelligence artificielle du jeu », même si les fonctions correspondantes correspondent à des algorithmes de force brute. En tout état de cause, l'« intelligence artificielle » du jeu vidéo ne cherche absolument pas à collecter en douce des informations confidentielles sur le joueur et sur son entourage.
La vogue actuelle de l'intelligence artificielle porte en grande partie sur l'intelligence artificielle générative, notamment la génération de réponses à des questions. Cela fait longtemps que l'on génère du texte, comme ce générateur de publications mathématiques dont je ne retrouve pas trace (vous fournissiez votre nom en paramètre et vous obteniez un article à publier dans un journal mathématique, avec résumé, introduction, développement rempli de charabia, conclusion et bibliographie, mais personne ne prétendait qu'il s'agissait d'intelligence artificielle). Même si l'on se restreint aux générateurs conversationnels réagissant de manière complexe à leur interlocuteur, il y a l'exemple assez bien connu d'Eliza, qui date d'il y a 60 ans, qui a été popularisé dans les années 1970 avec sa version BASIC qui fait dans les 200 lignes de code et que j'ai qualifié de µLM (microscopic language model).
Richard a demandé à Mistral combien font un milliard de secondes en unités plus faciles à utiliser (années, mois, jours). Mistral a donné une explication détaillée convaincante et correcte, mais avec des calculs erronés. Mistral pas gagnant...
Les intelligences artificielles générative savent générer du texte ou du code, mais le comprennent-elles ? Quelqu'un a posé la question à plusieurs IA d'écrire un programme affichant tous les nombres premiers pairs. Certaines IA ont sorti un programme du genre :
```
  sub is_prime {
    my ($n) = @_;
    return 0 if $n < 2;
    for my $p (2 .. int(sqrt($n))) {
      return 0 if $n % $p == 0;
    }
    return 1;
  }
  for my $n (1 .. $ARGV[0]) {
    print "$n\n" if ($n % 2 == 0) and is_prime($n);
  }
```
alors que la solution de Laurent et moi (et sans aucun doute, de Sébastien et Richard, ainsi que Mistral) est :
```
print "2\n";
```
Notons que Chat GPT 4o et Deep Seek écrivent que le seul nombre premier pair est 2, mais qu'ils sortent des programmes inutilement compliqués pour imprimer ce « 2 ». Ont-ils réellement compris ce que veut dire « le seul nombre premier pair est 2 » ? Ou bien n'ont-ils fait que répéter ce qu'ils ont lus par ci par là ?
En fait, les intelligences artificielles génératives n'ont aucune notion du « vrai » et du « faux ». Elles sont juste prévues pour générer du texte « à la manière de », sans tenir compte de la réalité de son contenu dans notre monde concret. Sachant que les IA génératives se sont entraînées avec :
1. des fictions littéraires et leurs résumés,
2. des sites écrits par des conspirationnistes tels que les platistes,
3. des sites parodiant les sites complotistes,
4. des sites écrits par des ultracrépidarianistes ou des personnes incarnant l'effet Dunning-Kruger,
5. et, de plus en plus, des sites écrits par des IA génératives de la génération précédente.
on peut avoir des craintes quant aux résultats fournis par ces IA génératives. D'autre part, il semble que les IA génératives basent leur philosophie sur la production cinématographique française des années 1970, notamment
C'est pas parce qu'on a rien à dire qu'il faut fermer sa gueule !
ou sur la politique des années 1980
C'était peut-être pas votre question, mais c'était ma réponse.
Même si une IA ne trouve pas de réponse à la requête de l'utilisateur, elle en génère une avec l'apparence d'une réponse authentique, mais seulement l'apparence. Le véritable problème est celui des utilisateurs des IA génératives qui prennent pour argent comptant tout ce qu'elles génèrent, sans essayer de faire des recoupements avec des sources fiables. Nous avons déjà parlé de ces utilisateurs dans le cas des correcteurs orthographiques. Également, j'ai eu vent d'une anecdote concernant un avocat qui avait utilisé une jurisprudence inventée par une IA générative (dommage, je n'ai pas conservé la référence, mais le sujet est revenu ultérieurement pendant la rédaction du compte-rendu).
En d'autres termes, si l'on attribue aux IA génératives des caractères humains, il est possible de dire que ces IA sont naïves (« je l'ai lu sur Internet, donc c'est vrai. ») et affabulatrices (« Mais oui, il existe une jurisprudence sur ce sujet, je l'ai trouvée, voici le texte... »). Le terme consacré est « hallucination », je trouve que « affabulation » est plus approprié.
En prenant du recul et en s'intéressant non pas aux IA génératives, mais aux entreprises qui les développent, Sébastien mentionne un livre, Les Prophètes de l'IA si je me souviens bien. L'une des idées de ce livre est que les entrepeneurs de l'IA ont évolué du capitalisme vers le techno-féodalisme, qui met en œuvre notamment une version modernisée du servage médiéval.

Internet

Laurent a un problème chronique. Dans sa messagerie, la boîte de réception contient de nombreux messages à lire, peut-être plusieurs centaines. Et c'est le cas à la fois pour son adresse professionnelle et pour ses adresses privées. Et il n'a pas assez de temps dans sa journée (ni assez de courage) pour tout lire, voire simplement tout classer. Quelqu'un mentionne un outil qui permettrait d'éliminer les messages redondants. En effet, lorsque plusieurs messages font partie de la même conversation, il arrive fréquemment que chaque message reprenne tous les messages précédents avec un marqueur de citation. Par conséquent, il devrait suffire de lire le dernier message de la conversation pour lire la conversation dans sa totalité (ou lire quelques messages, si le fil de la conversation n'est pas linéaire, mais légèrement arborescent). L'outil évoqué détecterait les messages entièrement cités dans un message ultérieur et, au choix, le supprimerait, l'archiverait dans un dossier ou positionnerait l'indicateur « déjà lu ». Je vois toutefois un problème dans la mesure où il m'arrive de rédiger une réponse en supprimant une partie désormais inutile de l'historique et en la remplaçant par « [ coupé ] ». On me répond que le cas est prévu par cet utilitaire de nettoyage.
Une autre question a été posée, mais sans réponse précise, comment un utilisateur de Thunderbird doit-il faire pour ajouter un compte Gmail dans Thunderbird, ce n'est pas si simple qu'avec les autres fournisseurs d'accès.

Informatique

Un dessin animé est sorti récemment au cinéma. Il a la particularité d'avoir été réalisé entièrement avec Blender. Également, le réalisateur n'a pas commencé par rédiger un scénario ou un script, il a placé des caméras et... [ En fait, je ne me souviens plus quelles étaient les étapes suivantes. Mais il me semble avoir entendu parler d'un film sur le même principe de positionner les caméras avant d'écrire le scénario ou plus exactement, avant de ne pas écrire le scénario. Andy Warhol avait placé des caméras au voisinage de l'Empire State Building en choisissant un angle de vue particulier et il avait laissé les caméras tourner automatiquement. Je ne suis pas sûr d'avoir envie de regarder le film de Warhol. ]
Il paraît qu'une loi ou un règlement va bientôt imposer à toutes les voitures neuves d'être équipées d'une caméra qui filme les abords de la route et d'un système qui reconnaît les panneaux de limite de vitesse et qui ajuste la conduite en conséquence. Ce système serait débrayable, mais à la mise en route du véhicule, il serait activé par défaut. Ce système est-il fiable ? Sait-il reconnaître les situations où une route comporte plusieurs voies parallèles avec des limites de vitesse différentes ? Sait-il identifier un panneau partiellement recouvert par la végétation ?
Toujours est-il que les nouveaux équipements électroniques, tels l'ABS ou l'ESP, contribuent à améliorer la sécurité de la conduite... sauf si la voiture est victime d'une cyber-attaque, auquel cas tout est possible, y compris le pire.
Un point de vue plutôt opposé consiste à faire remarquer que si l'industrie automobile appliquait les mêmes normes de qualité et les mêmes processus de certification que l'industrie aéronautique, les fabricants d'équipement médical ou l'industrie nucléaire, alors aucune des voitures actuellement en circulation n'aurait eu l'autorisation de rouler.
Une remarque de Sébastien sur la notion de temps réel. Un système temps réel n'est pas nécessairement un système qui fonctionne avec la vitesse la plus élevée possible et un temps de réponse le plus faible possible. Pour mériter le qualificatif « temps réel », le système doit garantir un temps de réponse adapté à la situation, mais rien n'oblige ce temps de réponse garanti à être le plus faible possible. Pour la centrale de pilotage d'un avion, le temps de réponse garanti pourra être mesuré en centièmes de seconde, mais un site web affichant le trafic routier en temps réel pourra prévoir un rafraîchissement toutes les cinq minutes ou toutes les dix minutes seulement.

Divers

Richard a testé les films interactifs, avec Black Mirror Bandersnatch. Il ne s'est pas contenté de suivre la narration, il s'est amusé à tester le fonctionnement des films interactifs. Par exemple, dans une situation « A », le spectateur/joueur doit choisir entre deux métiers « B » et « C ». En réfléchissant un peu, il est évident que le métier « B » est un mauvais choix. C'est donc ce choix « B » que Richard a pris. Au bout d'un certain temps, le film réaffiche la situation « A » avec les choix « B » et « C ». Même si l'on est désormais certain que le choix « B » est le mauvais choix, Richard reprend ce choix. Le film poursuit son cours et revient non pas à la situation « A », mais à une situation « A' », semblable à « A » mis à part qu'il n'y a plus le choix et que l'on enchaîne directement vers « C ».
Le film interactif que Richard a regardé n'est, tous comptes faits, pas vraiment intéressant. Sébastien explique cela par un désaccord entre le réalisateur (ou le scénariste ?) et Netflix. Le réalisateur ou scénariste voulait faire un film normal, linéaire, sans interaction du spectateur. On lui a imposé de réaliser un film interactif, il a donc décidé de bâcler son film.
Un peu dans la même veine, il y a les jeux d'enquête. Là encore, il y a plusieurs niveaux de qualité. On peut avoir un jeu où il faut juste trouver les indices dans le décor et cliquer dessus et l'enquête se termine lorsque vous avez cliqué sur tous les indices prévus. À l'autre bout du spectre, il y a les jeux où il faut visionner les interrogatoires de divers personnages, séparer le vrai du faux, deviner les non-dits et synthétiser tout cela pour obtenir la solution.
Pour revenir à des formats narratifs plus simples, nous avons évoqué la série Galactica, dont une première incarnation date de 1978 et une deuxième de 2004, avec une série annexe (une préquelle) Caprica. Je n'ai pas vu la série, mais je me souviens avoir vu le film sorti en 1979 qui reprend en fait l'épisode pilote de la série.
Un premier point bizarre est dû au fait que le cinéma où j'ai vu le film était équipé pour le Sensurround. Cet effet spécial ajoutait des infra-sons à la bande originale du film, ce qui avait pour effet de faire vibrer les fauteuils et qui donnait la même impression aux spectateurs que lorsqu'un train ou un poids-lourd passe devant vous. Lorsque vous voyez et sentez passer le Galactica devant vous dans l'espace, vous avez le droit d'être dubitatifs. Là où le sensurround est intéressant, c'est lorsque le Galactica lance des Viper en mission. Le lancement d'un Viper est inspiré à la fois du catapultage d'un F-14 ou d'un F-18 et du lancement d'une torpille. Comme le point de vue du spectateur se situe à l'intérieur du Galactica, c'est normal de sentir les vibrations qui accompagnent le lancement du Viper à travers son tunnel de lancement et qui sont transmises au spectateur par la coque et les éléments structuraux du Galactica.
Un autre détail curieux, c'est que le casque des pilotes de Viper possède une rampe de lumière sur le pourtour de l'ouverture faciale. C'est très bien pour que les spectateurs reconnaissent l'acteur, c'est beaucoup moins bien pour que le personnage puisse scruter l'espace environnant et lire le tableau de bord de son engin.
Un point positif que je n'ai pas remarqué (ou que j'ai oublié) mais que Laurent a noté, c'est que les combats spatiaux ne se font pas avec des lasers, mais avec des projectiles destinés à entrer en collision avec les cibles.
Laurent nous signale une situation curieuse dans la série Doctor Who. La fille du Docteur est, en réalité, la fille du Docteur et elle a épousé le Docteur. Explication : dans la saison 30 (si l'on compte depuis 1963) ou dans la saison 4 (si l'on compte depuis la reprise de 2005), il y a un épisode appelé La Fille du docteur. Le rôle-titre est interprété par Georgia Moffett, la fille de Peter Davison (Peter Moffett pour l'état-civil), l'acteur interprétant le cinquième Docteur. Ultérieurement, Georgia Moffett a épousé David Tennant, qui a incarné le dixième Docteur. [ Pour aller plus loin dans les coïncidences, notons que la réalisatrice de cet épisode s'appelle Alice Troughton comme l'acteur qui a incarné le deuxième Docteur, mais il n'y a pas de lien de parenté entre les deux. Notons aussi l'existence dans la série d'un scénariste nommé Steven Moffat qui n'a aucun lien de parenté avec les Moffett. ]
Au sujet des séries en général, Laurent admet que depuis quelques années, il regarde deux épisodes d'une série et qu'ensuite, il ne trouve pas d'intérêt à regarder la suite (ni autre chose, d'ailleurs).
Seule exception récente : la première saison du Problème à 3 Corps, qu'il a finie... en plusieurs mois.
Nous reparlons de Donald Trump et de ses prétentions territoriales sur le Groenland. Le Danemark est prêt à céder le Groenland aux États-Unis, en échange de la Californie. Trump a tout à y gagner. Le Groenland est légèrement plus étendu que la Californie. Il est moins peuplé, certes, mais lors des dernières élections la population de la Californie était en majorité démocrate donc la perte en population n'est pas un problème.