Gödel Ester Bach - Douglas Hofstadter

 

Chapitre XI Cerveaux et pensées

• Ça n'est donc pas une si mauvaise idée, cette analogie entre le cerveau et une fourmilière.
• Cette idée de l'existence du général dans le particulier est d'une très grande importance.
• Les créatures fantastiques de notre logiciel cérébral qui naissent des étranges mélanges d'idées qui s'éveillent quand le corps s'endort.
• Il faut trouver une explication des activations de haut niveau des symboles qui ne s'appuie pas sur les phénomènes neuraux de bas niveau. Si c'est possible (et c'est une supposition essentielle des travaux actuels en intelligence artificielle) alors le cerveau ne serait pas l'unique support matériel de l'intelligence.
• Si, par contre, il n'existe aucun moyen d'effectuer des séquences d'activation de symboles sans avoir tout le matériel neutronique (que ces neurones soient réels ou simulés), c'est que l'intelligence est en fait un phénomène propre aux cerveaux et beaucoup plus difficile à comprendre qu'un phénomène devant son existence à une hiérarchie de lois de niveaux différents.
• Aux chapitres XVIII et XIX qui traitent de l'intelligence artificielle.

Chapitre XVIII Intelligence artificielle : passé

• MIU : un alphabet, des axiomes, 4 règles de production. Théorème de Gödel : tu dois sortir du jeu et y réfléchir de l'extérieur pour le comprendre.
• Comment pouvez-vous savoir si ce que vous faites n'est pas parfaitement futile ?
• Cela ne signifie pas pour autant qu'il est impossible d'avoir une intuition de ce qui est ou n'est pas une voie prometteuse.
• On a un objectif global qui, localement, sert de guide. Une des techniques qui ont été mises au point pour convertir des objectifs globaux en stratégies locales de recherche de dérivations est appelée réduction des problèmes.
• Vous remarquerez que tout dépend de la façon de se représenter "l'espace du problème", c'est à dire de ce qui est perçu comme une réduction du problème (mouvement en avant vers l'objectif global), et de ce qui est perçu comme un grossissement du problème (mouvement éloignant de l'objectif).
• Et quand l'espace du problème est légèrement plus abstrait que l'espace physique, les humains ne savent souvent pas plus que faire que les chiens qui s'assoient et se mettent à aboyer.
• D'une certaine façon, tous les problèmes sont des versions abstraites du problème du chien et de l'os.
• Les solutions impliquant la restructuration de l'espace du problème se présentent le plus souvent à l'esprit comme un éclair de compréhension que comme le résultat d'une série de processus mentaux lents et délibérés. Ces éclairs d'intuition proviennent probablement du coeur même de l'intelligence, et leur source est, inutile de le dire, un secret jalousement protégé de notre cerveau.
• Ce qui fait, en tout cas, cruellement défaut à l'IA, ce sont des programmes capables de "prendre du recul" pour regarder ce qui se passe et, munis de ces informations, de se réorienter vers le but recherché.
• Y-a-t-il dans nos vies des situations très répétitives que nous appréhendons caque fois de façon tout aussi stupide parce que nous avons pas une vue assez globale pour percevoir leur similitude ? Voilà qui nous ramène à ce problème récurrent : "Qu'est-ce que la similitude ?" Nous le retrouverons en tant que thème de l'IA lorsque nous parlerons de la reconnaissance des formes.
• Il s'appuie sur un grand nombre d'aptitudes différentes, comme doit le faire l'intelligence en général : un vaste recueil de connaissances, la technique de réduction des problèmes, un grand nombre de méthodes heuristiques, plus quelques astuces spéciales.
• La conscience analogique, qui est un aspect crucial de l'intelligence humaine.
• Quand une personne oublie quelque chose, cela signifie vraisemblablement qu'un pointeur de haut niveau a été perdu, et non pas que des informations ont été effacées ou détruites. Cela montre qu'il est extrêmement important de prendre note de la façon dont vous stockez de nouvelles expériences, car vous ne pouvez pas savoir à l'avance dans quelles circonstances, ou sous quel angle, vous voudrez extraire des informations de votre cerveau.
• Un principe général : quelque chose devient ennuyeux non pas quand vous avez épuisé son répertoire de comportement, mais quand vous avez défini les limites de l'espace contenant son comportement.
• Pourquoi certaines musiques sont-elles beaucoup lus profondes et beaucoup plus belles que d'autres ? C'est parce que leur forme est expressive, en tout cas pour certaines régions étranges de notre inconscient.
• Il est extrêmement intéressant que, dans le langage naturel, la syntaxe et la sémantique soient étroitement enchevêtrés.
• Ce type de décision se présente constamment : combien de niveaux devrait avoir un système ? Quelle quantité et quel type d'"intelligence" devraient être placés à quel niveau ? Ce sont là quelques-uns des problèmes les plus ardus auxquels l'IA doit actuellement faire face.

Chapitre XIX Intelligence artificielle : avenir

• Je pense que les "quasi" situations et les situations hypothétiques inconsciemment forgées constituent l'une des plus riches sources potentielles de compréhension de l'organisation et de la classification des perceptions de l'être humain.
• Songez à quel point nos vies mentales seraient pauvres si nous n'étions pas doués de ce pouvoir créatif de nous glisser hors de la réalité pour plonger dans de douces suppositions ! Du point de vue de l'étude des processus de réflexion humains, ce glissement, ou déplacement, est très intéressant, car il se produit la plupart du temps inconsciemment, ce qui signifie que l'observation des déplacements et des non-déplacements est très révélatrice de ce qu'est l'inconscient.
• Une des principales fonctions du réseau de concepts est de permettre de modifier légèrement des idées fausses pour les transformer en variantes qui peuvent être correctes.
• Essayer les idées récentes qui ont marché.
• Malaphore : recombinaison d'idées.
• Question : Un ordinateur pensant pourra-t-il additionner rapidement ? Réflexion : Peut-être pas. "Je pense, donc je n'ai pas accès au niveau auquel je somme".
• La véritable intelligence dépend intimement d'une capacité d'appréhension globale de son environnement, c'est à dire d'une possibilité programmée de "sortir du système", tout au moins à peu près dans la mesure où nous avons, nous, cette possibilité. Or, une fois qu'un programme aura cette capacité, vous ne pourrez plus le retenir ; il aura dépassé le point critique, et il ne vous restera plus qu'à faire face aux conséquences de ce que vous aurez créé.
• Nous restons exactement les mêmes bien que des milliers de neurones meurent chaque jour.

ChapitreXX Boucles Étranges ou Hiérarchies Enchevêtrées

• Le pionnier de la cybernétique, Norbert Wiener. Science des communications et de la régulation des informations.
• Hiatus : manque de continuité, coupure.
• épistémologie : branche de la philosophie qui s'intéresse à la connaissance scientifique.
• immixtion : action de s'immiscer 

• Vous avez bien un sens des désirs qui découle du substrat physique de votre esprit.
• Une des questions centrales de ce livre serait "les mots et les pensées suivent-ils des règles formelles ? ". Un des grands objectifs de ce livre est de mettre en évidence les multiples niveaux de l'esprit/cerveau, et j'ai essayé de montrer pourquoi l'ultime réponse à cette question est : "oui, à condition de descendre au plus bas niveau, le matériel, pour trouver les règles".
• En fait les règles de fond ne changent pas. Les neurones agissent toujours selon le même processus simple.
• Vous avez accès à vos pensées, mais pas à vos neurones. Les règles logicielles de différents niveaux peuvent changer, mais les règles matérielles ne le peuvent pas et, en fait, c'est justement de leur rigidité que découle la souplesse du logiciel !
• Comment la conscience surgit de la jungle des neurones.
• Les gens ont un sens intuitif de la signification des faits parce que ils ont dans leurs cerveaux un matériel intégré qui incorpore des méthodes rudimentaires d'interprétation des faits.
• Mon idée là-dessus, c'est que le processus selon lequel nous décidons de ce qui est valide ou de ce qui est vrai est un art, et qu'il s'appuie aussi fermement sur un sens de la beauté et de la simplicité que sur des principes profondément enracinés de la logique, du raisonnement, ou de tout autre phénomène qui peut être objectivement formalisé.
• Théorème de Gödel : "La vérité est une chose trop sérieuse pour la confier entièrement aux théories mathématiques".
• La plus grande contradiction de nos vies, la plus difficile à affronter, est peut-être la connaissance que "il y a eu une époque où je n'étais pas vivant, et il y aura une époque où je ne serai pas vivant".
• La croyance plutôt orientale : "Le monde et moi ne sommes qu'un, et la notion de ma disparition est une contradiction intrinsèque". La croyance plutôt occidentale : "Je ne suis qu'une partie du monde, et je mourrai, mais après, le monde continuera sans moi"
• Principe d'incertitude d'Heisenberg : implication : non-déterminisme et rôle de l'observation.
• Magritte, La condition humaine : "C'est ainsi que nous voyons le monde : nous le voyons comme extérieur à nous, même si ce que nous éprouvons intérieurement n'en est qu'une représentation mentale"
• Libre arbitre : "Le système X fait-il des choix ?"
• Ce programme se surveille bien et a des idées sur ses idées, mais il n'est pas capable de surveiller tous les détails de ses processus et a donc une perception intuitive, et non pas une compréhension totale, de ses propres rouages. C'est cet équilibre entre la connaissance de soi et l'ignorance de soi que naît le libre arbitre.
• Peu importe que le système fonctionne de façon déterministe ou non ; nous le qualifions de "choisisseur" si nous pouvons nous identifier à une description de haut niveau du processus qui se déroule pendant l'exécution du programme. A un bas niveau (celui du langage machine), le programme ressemble à n'importe quel autre programme; à un haut niveau (réunitarisé), des qualités comme la "volonté", l'"intuition", la "créativité" et la "conscience" peuvent émerger.
• Escher a donc fait là une parabole graphique du Théorème d'incomplétude de Gödel. Voilà pourquoi les deux brins de Gödel et d'Escher sont si étroitement entremêlés dans mon livre.
• Quand on croit que l'on sait tout, il y a toujours plus.
• L'Offrande musicale est une fugue de fugues, une Hiérarchie Enchevêtrée comme celles d'Escher et de Gödel, une construction intellectuelle qui me rappelle, de façons inexprimables, la belle fugue à multiples voix qu'est l'esprit humain. Voilà pourquoi j'ai choisi, dans mon livre, de faire de Gödel, d'Escher et de Bach les trois brins d'une guirlande éternelle.

Ricercar à six voix

• BABBAGE : polymath, mathématicien, inventeur et cryptanalyste.
• Je me demande si vous accepteriez que j'essaie d'exécuter la tâche beaucoup moins grandiose consistant à multiplier MA PROPRE intelligence par six.