Où il est question d'intelligence artificielle

Un historique de toutes nos réunions

Table des matières

mercredi 9 octobre 2024

La voix du secrétaire (Jean)

Présents à la réunion, en fonction de l'ordre d'arrivée :

Emmanuel,
Sylvain,
moi,
et Sébastien.

Nous avons mangé des pizzas Sainte-Marie et Blanche-Neige, des pâtes carbonara des mousses au chocolat, une glace avec de la Chantilly. Nous avons bu des un Kir, de l'Orangina, une menthe à l'eau et un café. Le lemoncello était offert par la pizzeria.

Nous avons parlé de Perl, Internet informatique et points divers.

Perl

Emmanuel et moi n'avons toujours pas de nouvelles pour notre éventuel stand au village associatif de Open Source Experience 2024. Nous aimerions bien savoir ce que nous ferons les 4 et 5 décembre 2024. Emmanuel a également soumis une proposition de stand pour le Capitole du Libre et là non plus il n'a pas de réponse. Et c'est prévu pour les 16 et 17 novembre 2024.
Une autre manifestation, mais cette fois dans le passé, c'est le hackathon pour Openfoodfacts à l'occasion des Journées 2024 d'OFF. Emmanuel était pris ailleurs, ce qui l'a empêché de participer à cette réunion (moi aussi). Le jour dit, Pau Amma a demandé s'il y avait bien un hackathon ce jour-là. Emmanuel, qui avait néanmoins pu se connecter sur Internet, a constaté que c'était très calme sur le site Slack d'OFF ainsi que sur notre serveur Discord. Emmanuel n'ose pas proposer à OFF l'organisation d'un nouveau hackathon sans avoir pu se renseigner sur celui du 22 septembre.
Un membre de l'équipe Corinna, Paul Evans je crois, consulte la communauté Perl pour savoir quelles nouvelles fonctionnalités faut-il ajouter à Corinna pour la version à venir de Perl, la version 5.42. Dans mon cas, j'ai utilisé Corinna pour mon module permettant de simuler des calculs avec papier et crayon (module promis lors des Journées Perl 2005). Dans la version 0.01 de ce module, j'aurais bien aimé disposer des attributs :writer et surtout :reader pour générer automatiquement les méthodes correspondantes. Depuis, la version 5.40 de Perl est sortie avec ces attributs :reader, mais je n'ai toujours pas publié de nouvelle version pour mon module d'arithmétique. Donc je n'ai pas de requête à formuler pour la version 5.42. En revanche, dans son utilisation de LDAP, Emmanuel aimerait pouvoir composer des classes, notamment par ajout de rôles.
Le problème qui m'occupe actuellement est de savoir comment tirer parti de la cohabitation de deux versions d'un module dans Rakudo. Mon besoin est le suivant. J'ai l'intention de modifier l'API de mes divers modules de calendrier, les faisant passer de la version 0.0.x à la version 0.1.0. Dans le dépôt de développement, pour, par exemple, le calendrier républicain j'aimerais avoir un premier script de test xt/conversion-hebrew-new.rakutest permettant de tester les conversions entre D::C::FR:ver<0.1.0> et D::C::Hebrew:ver<0.1.0> et un deuxième script de test xt/conversion-hebrew-old.rakutest permettant de tester les conversions entre D::C::FR:ver<0.1.0> et D::C::Hebrew:ver<0.0.3>. Pour ce faire, il faut savoir comment charger la version 0.0.3 du module de calendrier hébraïque sans se retrouver avec la version 0.1.0. En effet, lorsque l'on code
```
use Date::Calendar::Hebrew:ver<0.0.3>;
```
Rakudo interprête cela comme « charger la version 0.0.3 ou supérieure ». En Perl, il existe le module only qui permet de sélectionner précisément la version que l'on veut utiliser avec
```
use only Date::Calendar::Hebrew => '0.0.3';
```
mais il n'y a pas d'équivalent pour Rakudo (pour l'instant). Notons que only permet de sélectionner des plages de versions ou d'exclure des versions ou des plages de versions. Faute de disposer d'only, Sébastien me suggère de jouer avec le paramètre -I qui permettrait d'aiguiller entre un répertoire qui contiendrait la version 0.0.3 et un répertoire qui contiendrait la version 0.1.0. [ Cela dit, only.pm n'est peut-être pas la solution à retenir, même pour Perl. Quant à Raku ou plutôt Rakudo, j'ai ultérieurement trouvé la réponse dans Stackoverflow, dans la lignée de ce que Sébastien suggérait. ]
Même si cela ne correspond pas à mes besoins actuels, on pourrait avoir des besoins plus aigus pour le sujet de la cohabitation des versions. Revenons au début des années 2000, lorsque le format GIF était breveté et que le format PNG avait été développé pour pallier l'inaccessibilité du format GIF. En passant de la version 1.43 à la version 2.0, le module GD avait supprimé la génération de fichiers GIF pour ajouter celle des fichiers PNG. Supposons que quelqu'un veuille écrire un programme générant les deux formats de fichiers. Il devrait alors appeler les deux versions 1.43 et 2.00 simulanément dans le même programme. Comment faire ? Là encore, Sébastien envisage une solution, consistant à utiliser des « modules-coquilles » (wrappers). Un premier module, GD_GIF.pm, hériterait de GD version 1.43 et n'aurait rien d'autre que cet héritage, et de la même manière, l'autre module, GD_PNG.pm, hériterait de GD version 2.00. Certes, cet exemple est un peu foireux, car le module GD.pm dépend d'une bibliothèque C libgd.so, avec une version différente entre celle qui supporte le format GIF et celle qui supporte le format PNG.
Des nouvelles de Dave Cross. Il a fait une expérience avec Copilot pour Github. Il a créé un dépôt contenant une application Dancer2 vide de contenu. Puis il a créé un ticket pour demander l'ajout d'un mécanisme d'inscription et de connexion. Copilot lui a proposé une pull request, Dave l'a appliquée à son dépôt et il a obtenu ce qu'il voulait. Puis il a continué avec d'autres tickets et d'autres pull requests pour ajouter des fonctionnalités.
Nous voyons au moins deux défauts à cette méthode. Tout d'abord, Copilot génère ses pull requests sans tenir compte des licences spécifiées dans les dépôts associés. Ensuite, comment être sûr de la qualité du code proposé ? Par exemple, que se passerait-il si Copilot avait accès à Matt's Script Archive ?

Internet

Il est question d'une entreprise qui a décidé de supprimer tout accès Internet via des câbles Ethernet sur l'un de ses sites pour adopter le « tout wifi ». Pourquoi ? Parce que, pour le décideur pressé qui a pris la décision,
Les routeurs coûtent cher.
Le décideur en question a-t-il conscience que les besoins (en wifi ou autres) d'un immeuble de bureaux ne sont pas les mêmes que les besoins d'un logement individuel ? Et qu'il devra faire installer des bornes wifi beaucoup plus nombreuses et plus performantes (donc plus chères) que la borne wifi de son appartement ? Sait-il au moins définir le rôle d'un routeur, le rôle d'une passerelle (gateway), le rôle d'un hub (concentrateur ?) ou des divers matériels d'infrastructure ?
Dans un autre cas, un immeuble de bureaux est déjà équipé en « tout wifi », alors que cet immeuble comporte de nombreuses cloisons métalliques. Et on s'étonne que le wifi fonctionne mal !
Nous parlons des prestataires engagés pour concevoir et réaliser un site web pour telle ou telle entreprise. Assez souvent, les sites webs sont conçus avec Wordpress. Or Wordpress est une véritable passoire de sécurité, ouvrant la porte à de nombreuses possibilités de piratage. Mais ce n'est pas la préoccupation des prestataires installant Wordpress et définissant le site web. Dans certains cas favorables, il s'est produit qu'un salarié de l'entreprise a vérifié l'architecture du site web, a recensé plusieurs vulnérabilités, a remonté le fait dans sa hiérarchie, qui a alors demandé aux prestataires de corriger et ceux-ci ont effectivement corrigé. Mais assez souvent, s'il y a besoin d'une correction, c'est sur l'entreprise et ses salariés que cela retombe.
Une précaution à prendre, si vous êtes l'un de ces salariés qui trouvent des failles de sécurité. Lorsque vous remontez le problème à qui de droit, ne vous contentez pas de le faire oralement, accompagnez votre rapport d'un courrier électronique, de façon que vous puissiez ultérieurement prouver que vous avez fait tout ce qui était en votre pouvoir pour corriger ces failles de sécurité.
[ À rapprocher de cette citation que j'ai lue dans un roman qui se passait dans un milieu militaire :
Mieux vaut le claquement sec d'un parapluie qui s'ouvre que le grondement sourd d'une carrière qui s'écroule !
Même si l'ouverture de parapluie possède une connotation péjorative, je suis d'accord avec le conseil. ]

Informatique

On parle beaucoup du « cloud ». Mais sait-on où se trouve le « cloud » ? Nous l'avons vu en réunion, Le Cloud se trouve dans la Creuse.
Certaines entreprises ont décidé de migrer leur infrastructure vers le cloud. Est-ce une bonne idée ? Financièrement, non. L'intérêt du cloud, c'est lorsque vous avez des tâches peu fréquentes et nécessitant une puissance de traitement importante. Mais pour les tâches régulières, il vaut mieux avoir les serveurs sur place, éventuellement des serveurs sur des machines virtuelles, mais il faut éviter de payer 24 heures par jour et 7 jours par semaine des machines sur le cloud. Même si vos serveurs on premises sont virtualisés et que, par conséquence, vous payez une licence pour VMware, cela vous revient moins cher que des machines équivalentes sur AWS, GCP ou Azure.
Lorsque vous utilisez GCP, vous recevez tous les mois une facture de Google. Cette facture comporte un nombre important de lignes, pour vous donner le détail de tous les services fournis par le cloud de Google. En y regardant de plus près et en comparant les factures d'un mois sur l'autre, vous pourrez constater que très souvent, le tarif augmente sur une ligne ou une autre. Certes, il n'y a qu'une seule ligne qui augmente dans un mois donné et l'augmentation est assez faible, mais si l'on récapitule les augmentations sur une année, cela commence à faire une bonne somme. [ Et personne n'a pensé à évoquer la métaphore de la grenouille dans l'eau chaude. ]
Un argument plus technique pour se dissuader d'utiliser GCP. Dans GCP, il n'est pas possible de faire un instantané (snapshot) d'une machine virtuelle. On peut juste obtenir un instantané pour un disque, mais pas pour une machine virtuelle.
Et il y a la compatibilité avec le RGPD. Êtes-vous sûrs que vos données sont bien stockées uniquement dans l'Union Européenne et pas à l'étranger ?
La question du RGPD se pose également si l'on sous-traite un traitement à l'étranger. Ainsi, on mentionne une base de données et un site web hébergés par un fournisseur étranger. Cette base de données est censée stocker des informations concernant des personnes résidant en France. Pour être en conformité avec le RGPD, la base de données ne comporte aucune information permettant d'identifier ces personnes, comme le nom, le prénom, le numéro INSEE, la date de naissance. À la place, chaque personne est désignée par une clé arbitraire, sans signification. Mais comment le site web fait-il pour afficher le prénom et le nom, s'ils ne sont pas dans la base de données ? Chaque fois que le site web doit afficher une page correspondant à une personne, la machine du fournisseur américain soumet une requête à la machine du client français pour obtenir les informations nécessaires et les insérer dans la page web. Mais bien sûr, le fournisseur américain n'en profite pas pour stocker ces informations dans une base de données à part. Aie confiance !
Au sujet de l'intelligence artificielle, j'ai pu constater que, depuis quelques années, on parle beaucoup plus d'IA qu'auparavant. Maintenant, la moindre télécommande permettant de régler la température des radiateurs contient « une IA ». À tel point que je me demande si « IA » n'est pas simplement un synonyme de « électronique », au moins pour les publicitaires et responsables de com'.
Un exemple vécu. Aux Journées Perl 2018, j'ai présenté un projet personnel basé sur le jeu l'As des As. Le programme fonctionne en simulant des parties, en stockant ces parties en base de données et en faisant des statistiques sur les résultats de ces parties. C'est purement du data munging (triturage de données ?). Donc je n'ai pas parlé d'IA et dans mon auditoire de 2018, personne non plus n'a parlé d'IA. En mars 2021, lors d'une réunion en téléprésence des Mongueurs de Washington, j'ai présenté de nouveau ce projet. Et dans l'auditoire de 2021, certains ont parlé d'IA. C'est significatif de la dérive de la notion d'IA. Voir en annexe quelques remarques complémentaires.
Comme pour les spots et plaquettes publicitaires, de nos jours, il est absolument nécessaire de mentionner l'IA dans les CV. Non seulement l'intelligence artificielle, mais aussi les LLM et ChatGPT. Et tant qu'on y est, ajouter une pincée de crypto et de NFT. [ À mon avis, il vaut mieux laisser de côté les NFT et mentionner à la place la blockchain. ]
D'un autre côté, il existe réellement des programmes d'intelligence artificielle. Sébastien rappelle que l'on parlait déjà d'IA (à juste titre) dans le domaine des jeux vidéo, par exemple pour déterminer le comportement des NPC (non-player characters), par exemple les « méchants » dans un jeu d'infiltration. Paradoxalement, la mise au point des programmes d'IA contrôlant les NPC consiste à s'assurer que les programmes ne sont pas trop intelligents, pour éviter que les joueurs se fassent battre à plate couture par les NPC.
Toujours est-il parmi les projets actuels d'intelligence artificielle il n'y a que quelques bonnes idées parmi de nombreuses idées fumeuses sans réel intérêt. Cela ressemble fort à la bulle Internet des années 2000 et suivantes, avec les nombreuses start-up dont le business plan était calqué sur celui des gnomes voleurs de slip dans South Park, avec une variation seulement sur la première ligne :
1. Récolter tous les slips,
2. ???
3. Profit!!!

Divers

Pour revenir aux entreprises qui passent au « tout-wifi » ou bien au « tout-cloud », il arrive fréquemment que la raison véritable est que la migration sera confiée à une société de services et que dans la hiérarchie de cette société de service, on trouve le copain de l'un des dirigeants de l'entreprise cliente. C'est à mettre en opposition avec l'administration, qui passe systématiquement par une procédure de marché public. Le but de cette procédure n'est pas d'obtenir le prix le plus bas ou le meilleur rapport qualité-prix, le but primaire est d'éviter le copinage entre l'administration et ses fournisseurs.
De même, dans le cadre de son travail, un fonctionnaire n'a pas le droit d'accepter les cadeaux, même pas une boîte de chocolats au mois de décembre.
Dans le privé, les règles sont un peu plus souples. L'un d'entre nous raconte qu'il avait le droit de recevoir (ou d'offrir) des cadeaux, dans une limite raisonnable. Au-dessus de cette limite, il était censé déclarer le cadeau à sa hiérarchie qui examinerait alors si le cadeau est un geste de bonne volonté ou bien une tentative de corruption.
Dans cette entreprise, appelons-la Sirius Cybernetics Corporation, travaille une personne que nous appellerons Basile. Basile est marié avec Geneviève, qui travaille à la World Company. Et la World Company est cliente de Sirius Cybernetics Corporation. Donc chaque fois que Basile offre un cadeau à Geneviève, ou l'inverse, s'agit-il d'un cadeau entre époux ou bien d'une relation client-fournisseur ? Plus généralement, il y a un conflit d'intérêts dans l'activité professionnelle de Geneviève et de Basile. [ Mais quel est l'événement qui a créé ce conflit d'intérêt ? En d'autres termes, quel est l'événement le plus récent entre le mariage de Basile et Geneviève, l'embauche de Basile, celle de Geneviève et la signature du contrat de vente entre la World Company et Sirius Cybernetics Corporation ? ]
Ce mercredi, sort au cinéma un film sur la jeunesse de Donald Trump. En faisant un tour de table, nous ne sommes pas très chauds pour aller le voir.
Nous parlons de la personnalité de Donald Trump. Si l'on analyse ses discours ou ses interventions orales on remarque que la syntaxe est déplorable, qu'il lui arrive fréquemment de commencer une phrase et de l'interrompre pour continuer avec une autre phrase. Cela fait penser au niveau verbal et grammatical d'un enfant de 8 ans.
L'insistance de Donald Trump à soutenir des thèses indéfendables ou des bobards résulte de l'éducation reçue de son père. Fred Trump n'acceptait pas l'échec. Donc quand Donald échouait, il prétendait contre vents et marées qu'il avait réussi.
Cet entêtement forcené pour la réussite se retrouve chez d'autres. L'un des participants à la réunion a assisté à une rencontre sportive incluant des épreuves pour enfants âgés d'une dizaine d'années. À la fin de l'une de ces épreuves, le mongueur a vu le père de l'un des concurrents pourrir la vie de son fils, parce qu'il n'avait pas gagné cette épreuve. N'aurait-il pas plutôt dû soutenir son fils, déjà affecté par sa défaite sur le terrain ?

Annexe : l'intelligence artificielle au fil des années

Lorsque j'ai parlé de l'intelligence artificielle avec Sébastien (et les autres), j'ai été un peu trop bref et un peu trop caricatural. Voici un exposé personnel (donc subjectif) et quasi chronologique de l'évolution de l'intelligence artificielle et de son image devant le grand public, pour mieux refléter mon avis sur ce sujet.
Lors de la préhistoire et de l'antiquité de l'informatique, disons jusqu'à la fin des années 1970, à une époque où l'homme de la rue n'était jamais au contact avec un ordinateur, on utilisait l'expression « cerveau électronique » comme synonyme de « ordinateur ». Avec le parallèle cerveau / intelligence et le parallèle artificiel / électronique, on voit que l'on ne faisait pas de différence entre l'informatique, le domaine des ordinateurs, et l'intelligence artificielle, domaine des cerveaux électroniques.
D'ailleurs, dans la fiction de l'époque, notamment la science-fiction, non seulement les ordinateurs sont intelligents, mais ils ont des problèmes psychologiques semblables aux humains. Cela commence avec 2001 : l'Odyssée de l'Espace où HAL 9000 doit faire face à un conflit entre d'un côté sa conception et sa programmation et de l'autre côté sa mission impliquant des mensonges et de la rétention d'information, ce qui entraîne chez lui un comportement schizophrénique. Il y a eu également Dark Star où, pour parodier 2001, le cerveau électronique du film tombe non pas dans la schizophrénie, mais dans la mégalomanie. J'ai également vu Génération Proteus où le comportement de l'ordinateur tient du narcissisme pathologique. En trichant légèrement sur la chronologie, il y a eu également Wargames et Electric Dreams. D'après mes vagues souvenirs, l'ordinateur de Wargames n'avait pas de problème psychique, tandis que celui de Electric Dreams a juste un chagrin d'amour, rien de pathologique. Je n'ai pas vu Terminator (légèrement en dehors de la plage chronologique) ni A.I. Intelligence artificielle, Her et S1m0ne (complètement en dehors de la plage chronologique).
J'ai suivi des études d'informatique au début des années 1980. Il y avait quelques cours pour présenter aux étudiants (pas leur enseigner) l'intelligence artificielle. À l'époque, le terme à la mode était systèmes experts. La distinction entre IA et SE était qu'un système expert était focalisé sur un domaine pointu, tandis que l'intelligence artificielle « ratissait large ». Le professeur chargé de ces quelques cours clamait que
L'avenir est aux systèmes experts. Le métier d'informaticien va disparaître et laisser place aux cogniticiens. De même, on n'évaluera plus la performance des machines en MIPS (millions d'instructions par seconde) ou en mégaflops (millions d'opérations flottantes par seconde), mais en millions d'inférences logiques par seconde.
Une autre opinion, professée par d'autres chercheurs en IA, moins catégoriques et plus ironiques, était que :
Si cela fonctionne, alors ce n'est pas de l'intelligence artificielle, mais seulement du bête calcul. En revanche, la prochaine étape, alors oui, ce sera de l'intelligence artificielle. Bien sûr, dans cinq ans, lorsque cela fonctionnera, alors la frontière entre les programmes d'intelligence artificielle et les simples programmes se sera déplacée et la présente opinion restera valide.
Après quelques décennies, je découvre que cette opinion a sa propre entrée dans Wikipedia.
Le début des années 1980, c'est également l'essor de l'informatique individuelle. L'homme de la rue ne possédait pas d'ordinateur, mais il connaissait un voisin qui passait ses soirées, ses samedis et ses dimanches à faire du BASIC ou de l'assembleur sur son Apple II ou son ZX81 et à lire l'Ordinateur Individuel ou Micro-Systèmes. Dans ces revues, on trouvait des témoignages de passionnés qui démythifiaient les ordinateurs :
J'ai fini par comprendre qu'un ordinateur, ce n'est pas intelligent, c'est même très bête. Cela fait ce qu'on lui demande de faire et rien d'autre. Une fois que vous avez compris cela, vous avez tout compris, ou presque, à l'informatique.
Exit donc le cerveau électronique et, pour un temps, l'intelligence artificielle.
Notons toutefois que dans la littérature informatique pour passionnés, on trouvait un recueil de jeux qui proposait entre autres Eliza, que l'on décrirait de nos jours comme une intelligence artificielle générative basée sur un µLM (microscopic language model). À l'époque, c'était juste un programme ludique.
Dans le cadre de mon travail, je n'ai pas été confronté à l'intelligence artificielle. Sur le plan personnel, j'ai juste lu quelques livres de Douglas Hofstadter. En dehors de spécialistes comme Hofstadter, personne ne mentionnait l'intelligence artificielle, c'était un sujet inintéressant.
En fait, il y avait quelques rares exceptions, vous en avez peut-être dans votre bibliothèque. Dans la mienne, il y a the Wargame Handbook, de James Dunnigan, publié en 1993. Ce livre traite aussi bien des jeux papier-carton que des jeux électroniques. Et pour les jeux électroniques, il mentionne les routines d'intelligence artificielle qui pilotent les actions des unités ennemies. Mais il faut avouer que de la fin des années 1980 au début des années 2000, l'intelligence artificielle n'était pas à la mode.
À partir du milieu des années 1990, Internet est devenu un phénomène grand-public au lieu d'être réservé à un cercle restreint de fanatiques. L'homme de la rue avait son PC à la maison, même s'il ne l'utilisait pas de la même manière que son voisin le geek. Pendant cette période, j'ai constaté les progrès dans certains domaines informatisés tels que la reconnaissance automatique de caractères, la détermination d'itinéraires routiers et les moteurs de recherche par exemple. Mais personne ne cherchait à appeler cela de l'intelligence artificielle.
Puis nous avons changé de siècle (et de millénaire). On ne parlait toujours pas d'intelligence artificielle, mais on découvrait de nouvelles activités, comme l'extraction de données (data mining). Avec l'arrivée de Google et de son page rank, puis de Facebook et de ses suggestions d'amis et suggestions de contenu, on est venu à parler de « les algorithmes », expression qui désigne en fait des procédés heuristiques plutôt que de véritables algorithmes.
Puis insensiblement, nous avons entendu parler de machine learning, deep learning, voire deepfakes, activités cataloguées comme de l'intelligence artificielle. Également, ChatGPT est apparu sur la scène. Cela correspond à de réelles avancées dans le domaine (avancées sur le plan technique, pas forcément sur le plan éthique, notamment pour les deepfakes). Mais en parallèle, les décideurs pressés, les publicitaires et les responsables de com', toujours à l'affut du prochain buzzword, se sont emparés de l'étiquette « intelligence artificielle ». Maintenant, tout logiciel utilisant une méthode de Monte-Carlo est une intelligence artificielle, tout logiciel comportant un arbre de décision est une intelligence artificielle, tout logiciel implémentant une loi de commande est une intelligence artificielle, tout logiciel mettant en œuvre une heuristique est une intelligence artificielle (même si cette heuristique est appelée « les algorithmes »), tout logiciel offrant à l'utilisateur le choix d'un format de sortie grâce à une étape de configuration est une intelligence artificielle et j'en passe. Vous avez une intelligence artificielle dans votre téléphone, vous avez une intelligence artificielle dans votre aspirateur-robot, vous avez une intelligence artificielle dans votre téléviseur, vous avez une intelligence artificielle dans votre réfrigérateur connecté. J'ai donc légèrement extrapolé la tendance et c'est pour cela que j'ai déclaré que « intelligence artificielle » est maintenant synonyme de « électronique ».
En particulier, un opticien se targue d'utiliser de l'IA pour concevoir ses verres correctifs. De même, un fabricant de microprocesseur se sent obligé de préciser que son nouveau modèle permet de faire de l'intelligence artificielle, alors que, comme nous l'avons vu ci-dessus avec Eliza, il était possible de faire de l'intelligence artificielle sur le Zilog Z80A d'un ZX81 (avec, quand même, une extension mémoire).
Je termine avec quelques citations sur l'IA. Il y a plusieurs années, j'ai mentionné une citation extraite de Vues de l'Esprit par Douglas Hofstadter et Daniel Dennett (publié par InterÉditions, ISBN 978-2-7296-0176-8).
En voici une également de Gödel, Escher, Bach, que l'on n'a plus besoin de présenter. Page 706, Hofstadter présente l'expérience SHRDLU de Winograd et le langage PLANNER basé en grande partie sur la méthode du « retour arrière » (backtracking). Hofstadter conclut la présentation de PLANNER ainsi :
Ces dernières années, pourtant, les chercheurs ayant pour but de faire avancer l'IA en sont venus à conclure que le retour en arrière automatique, comme dans PLANNER, présente des inconvénients certains qui ne lui permettront pas de les mener jusqu'à leur but ; ils ont donc fait marche arrière, préférant explorer d'autres voies.
J'ai également un recueil Murphy's Computer Law, écrit à l'origine en allemand par Joachim Graf en 1990 avec le titre Murphys Computergesetze, puis traduit en anglais par Rosemary Dear en 1994 et publié par Souvenir Press (ISBN 0 285 63228 0). Voici un extrait, traduit de l'anglais par mes soins :

L'observation de l'expert

Vous pouvez reconnaître un système expert lorsque vous lui dites qu'une rose a une odeur meilleure qu'un chou et que ce logiciel en tire la conclusion qu'une soupe à la rose est meilleure qu'une soupe au chou.

La contradiction de l'observation de l'expert, par Heny Massingham

L'intelligence artificielle est meilleure que la stupidité naturelle.

Réfutation par l'épouse de l'auteur de la contradiction de Massingham

Tout programme que son auteur qualifie d'intelligence artificielle a accumulé dans sa base de données tellement de stupidité naturelle qu'il peut émettre une large plage de réponses qui ont l'apparence de l'intelligence, mais qui sont fondamentalement complètement erronées.