Gödel Ester Bach - Douglas Hofstadter

 

Chapitre X Niveaux de description et ordinateurs

• Le algorithmes, des descriptions exactes de processus dont ils désiraient l'exécution.
• Vers 1950, on a réussi à écrire des programmes appelés compilateurs, dont la fonction était de traduire des langages de compilation en langage machine.
• Un interpréteur est donc au compilateur ce qu'un interprète est à un traducteur.
• Un des secrets de la compréhension et de la création de l'intelligence réside dans le développement et le perfectionnement constants des langages capables de décrire des processus manipulation des symboles.
• Il suffit de prendre la plus exacte des sciences, la physique.
• Dans la plupart des systèmes que nous connaissons, les parties conservent leur identité en dépit des interactions, ce qui fait que nous continuons à voir les parties au sein du système.
• Phénomène de la supraconductivité : un flux d'électrons sans résistance au sein de certains solides, à des températures extrêmement basses.

...et fourmugue

• "Faut-il comprendre de façon holistique ou de façon réductionniste ?"
• Une fugue de fourmis, une "fourmugue".
• Les colonies de fourmis sont semblables aux cerveaux par de nombreux aspects.
• Vous étiez peut-être tellement captivé par ce que vous disiez que vous étiez parfaitement inconscient du reste.

Chapitre XI Cerveaux et pensées

• Ça n'est donc pas une si mauvaise idée, cette analogie entre le cerveau et une fourmilière.
• Cette idée de l'existence du général dans le particulier est d'une très grande importance.
• Les créatures fantastiques de notre logiciel cérébral qui naissent des étranges mélanges d'idées qui s'éveillent quand le corps s'endort.
• Il faut trouver une explication des activations de haut niveau des symboles qui ne s'appuie pas sur les phénomènes neuraux de bas niveau. Si c'est possible (et c'est une supposition essentielle des travaux actuels en intelligence artificielle) alors le cerveau ne serait pas l'unique support matériel de l'intelligence.
• Si, par contre, il n'existe aucun moyen d'effectuer des séquences d'activation de symboles sans avoir tout le matériel neutronique (que ces neurones soient réels ou simulés), c'est que l'intelligence est en fait un phénomène propre aux cerveaux et beaucoup plus difficile à comprendre qu'un phénomène devant son existence à une hiérarchie de lois de niveaux différents.
• Aux chapitres XVIII et XIX qui traitent de l'intelligence artificielle.

Les pensées édifiantes d'un fumeur de tabac

• Je feuilletais un curieux livre plein d'étranges dialogues sur de nombreux sujets, dont la biologie moléculaire, les fugues, le bouddhisme zen, et je ne sais quoi d'autre.
• Les ribosomes sont apparemment des genres d'objets sous-cellulaires qui prennent un message d'une forme donnée et le transforment en un message d'une autre forme.
• 
  
  
  SDS est une ribosomopathie (maladie due à un défaut de fabrication des ribosomes).
  
  
• Le mot "ceci" renvoie au tableau, et non pas à la pipe.

Chapitre XII Esprits et pensées

• Les caractéristiques communes à tous les papillons.
• Votre seule base de recherche, c'est votre tête. Vous n'avez accès à aucune information susceptible de vous aider pendant la durée de votre travail.
• Quelqu'un pourrait, par exemple, ignorer ce qu'est un éléphant, ou que la terre est ronde. Il est probable que dans tels cas, le réseau de symboles de cette personne et le vôtre seront si différents que vous ne pourrez pas établir une communication très importante.
• La culture affecte la pensée, il ne faut pas surévaluer le rôle de la langue dans le façonnage de la pensée.
• La culture russe est étrangère aux francophones.
• Je me suis parfois rendu compte que deux mélodies différentes traversaient mon esprit, rivalisant pour attirer "mon" attention.
• Lucas, "Minds, Machines, and Gödel" : ses opinions sont parfaitement à l'opposé des miennes et pourtant, pour se les former, il a mélangé beaucoup des mêmes ingrédients.

Chapitre XVI Auto-réf et auto-rep

• Le mécanisme qui lit les chaînes et produit les enzymes codées à l'intérieur de celles-ci s'appelle un ribosome.
• Les quatre types de base que l'on trouve dans les nucléotides de l'ADN sont :
• A : Adénine
• G : Guanine
• C : Cytosine
• T : Thymine
• Les enzymes, qui sont les instigatrices de presque tous les processus de vie, sont fabriquées par les ribosomes qui se trouvent dans le cytoplasme.
• L'ARN messager ou ARN-m sert à transporter les informations, c'est à dire le message génétique, des chambres moléculaires de l'ADN, jusqu'aux ribosomes flottant dans le cytoplasme.
• Le processus de copie de l'ADN dans l'ARN-m à l'intérieur du noyau s'appelle la transcription.
• Les enzymes appartiennent à la catégorie générale de molécules biologiques appelées protéines, et les ribosomes ont pour tâche de produire toutes les protéines, et pas seulement les enzymes.
• Une protéine est donc produite aminoacide par aminoacide par le ribosome.
• Pour que ces protéines potentielles soient extraites de l'ADN, il faut qu'il y ait non seulement des ribosomes, mais aussi des ARN polymérises, qui fabriquent l'ARN-m qui est apporté aux ribosomes.
• Ce n'est pas une coïncidence si les expressions "système d'autonomie suffisamment résistant" et "système formel suffisamment puissant" se ressemblent.
• En fait, en informatique, une certaine tendance à mélanger tous ces aspects apparemment distincts d'un système de traitement de l'information se dessine déjà nettement. C'est particulièrement vrai dans la recherche en intelligence artificielle, qui est généralement à l'avant-garde de la conception des langages informatiques.
• Quelle a été l'origine du code génétique et des mécanismes de décodage (ribosomes et molécules d'ARN de transfert) ?

Le Magnificrabe, en réalité

• On ne peut pas toujours comprendre sur quoi se fonde la beauté.

Chapitre XVII Church, Turing, Tarski et autres

• Nous en sommes maintenant au point où nous pouvons développer une des thèses centrales de ce livre, à savoir que tout aspect de la pensée peut être considérée comme une description de haut niveau d'un système qui, à une niveau inférieur, est géré par des règles simples, voire formelles.
• Un sens du jugement quant à ce qui est, ou n'est pas, important et nécessaire. Il va de pair avec un sens de la simplicité, un sens de la beauté. Mais d'où viennent ces intuitions ? Comment peuvent-elles surgir d'un système formel sous-jacent ?
• La thèse de Church-Turing est sans doute un des concepts les plus importants de la philosophie des mathématiques, des cerveaux et de la pensée.
• Srinavasa Ramajuan : sa mémoire, sa patience, et son pouvoir de calcul lui conféraient une capacité de généralisation, une intuition de la forme, et un pouvoir de modification rapide de ses hypothèses.
• Il semble que la "compréhension" exige au préalable l'assimilation et l'intégration d'une grande quantité d'informations.
• Si l'intelligence implique l'apprentissage, la créativité, des réactions émotionnelles, un sens de l'humour, un sens de la beauté, un sens de soi, alors il reste un long chemin à parcourir.
• La perception de la beauté est-elle un processus du cerveau ?
• Une conviction fausse dans le logiciel du cerveau est supportée par le matériel du cerveau qui, lui, fonctionne "parfaitement".
• La réalisation de la vraie intelligence nécessitera une poussée vers des niveaux toujours plus profonds, toujours plus proches des mécanismes cérébraux, si on veut que les machines atteignent les capacités humaines.
• A quoi réagissons-nous lorsque nous regardons un tableau et ressentons sa beauté ? Est-ce à la "forme" de ses lignes et points sur notre rétine ? C'est évidemment ça, puisque c'est sous cette forme-là que son contenu est transmis aux mécanismes d'analyse de nos cerveaux, mais la nature complexe du traitement effectué nous donne l'impression de ne pas être en train de regarder une simple surface à deux dimensions; nous réagissons à une sorte de signification interne du tableau, un aspect multidimensionnel piégé d'une manière ou d'une autre dans ces deux dimensions. C'est le mot "signification" qui compte ici. Nos cerveaux sont équipés d'interprètes qui reçoivent des formes à deux dimensions pour en "extraire" ensuite des concepts à plusieurs dimensions qui sont tellement complexes qu'ils échappent à toute description consciente. Nos réactions à la musique sont d'ailleurs du même type.
• Les qualités syntaxiques de de la forme et les aspects sémantiques de la forme.
• Au fur et à mesure que le temps passe le voile se lève de plus en plus sur la signification.
• Le paradoxe d'Épiménide : nature auto-référentielle.

Chapitre XVIII Intelligence artificielle : passé

• MIU : un alphabet, des axiomes, 4 règles de production. Théorème de Gödel : tu dois sortir du jeu et y réfléchir de l'extérieur pour le comprendre.
• Comment pouvez-vous savoir si ce que vous faites n'est pas parfaitement futile ?
• Cela ne signifie pas pour autant qu'il est impossible d'avoir une intuition de ce qui est ou n'est pas une voie prometteuse.
• On a un objectif global qui, localement, sert de guide. Une des techniques qui ont été mises au point pour convertir des objectifs globaux en stratégies locales de recherche de dérivations est appelée réduction des problèmes.
• Vous remarquerez que tout dépend de la façon de se représenter "l'espace du problème", c'est à dire de ce qui est perçu comme une réduction du problème (mouvement en avant vers l'objectif global), et de ce qui est perçu comme un grossissement du problème (mouvement éloignant de l'objectif).
• Et quand l'espace du problème est légèrement plus abstrait que l'espace physique, les humains ne savent souvent pas plus que faire que les chiens qui s'assoient et se mettent à aboyer.
• D'une certaine façon, tous les problèmes sont des versions abstraites du problème du chien et de l'os.
• Les solutions impliquant la restructuration de l'espace du problème se présentent le plus souvent à l'esprit comme un éclair de compréhension que comme le résultat d'une série de processus mentaux lents et délibérés. Ces éclairs d'intuition proviennent probablement du coeur même de l'intelligence, et leur source est, inutile de le dire, un secret jalousement protégé de notre cerveau.
• Ce qui fait, en tout cas, cruellement défaut à l'IA, ce sont des programmes capables de "prendre du recul" pour regarder ce qui se passe et, munis de ces informations, de se réorienter vers le but recherché.
• Y-a-t-il dans nos vies des situations très répétitives que nous appréhendons caque fois de façon tout aussi stupide parce que nous avons pas une vue assez globale pour percevoir leur similitude ? Voilà qui nous ramène à ce problème récurrent : "Qu'est-ce que la similitude ?" Nous le retrouverons en tant que thème de l'IA lorsque nous parlerons de la reconnaissance des formes.
• Il s'appuie sur un grand nombre d'aptitudes différentes, comme doit le faire l'intelligence en général : un vaste recueil de connaissances, la technique de réduction des problèmes, un grand nombre de méthodes heuristiques, plus quelques astuces spéciales.
• La conscience analogique, qui est un aspect crucial de l'intelligence humaine.
• Quand une personne oublie quelque chose, cela signifie vraisemblablement qu'un pointeur de haut niveau a été perdu, et non pas que des informations ont été effacées ou détruites. Cela montre qu'il est extrêmement important de prendre note de la façon dont vous stockez de nouvelles expériences, car vous ne pouvez pas savoir à l'avance dans quelles circonstances, ou sous quel angle, vous voudrez extraire des informations de votre cerveau.
• Un principe général : quelque chose devient ennuyeux non pas quand vous avez épuisé son répertoire de comportement, mais quand vous avez défini les limites de l'espace contenant son comportement.
• Pourquoi certaines musiques sont-elles beaucoup lus profondes et beaucoup plus belles que d'autres ? C'est parce que leur forme est expressive, en tout cas pour certaines régions étranges de notre inconscient.
• Il est extrêmement intéressant que, dans le langage naturel, la syntaxe et la sémantique soient étroitement enchevêtrés.
• Ce type de décision se présente constamment : combien de niveaux devrait avoir un système ? Quelle quantité et quel type d'"intelligence" devraient être placés à quel niveau ? Ce sont là quelques-uns des problèmes les plus ardus auxquels l'IA doit actuellement faire face.

Chapitre XIX Intelligence artificielle : avenir

• Je pense que les "quasi" situations et les situations hypothétiques inconsciemment forgées constituent l'une des plus riches sources potentielles de compréhension de l'organisation et de la classification des perceptions de l'être humain.
• Songez à quel point nos vies mentales seraient pauvres si nous n'étions pas doués de ce pouvoir créatif de nous glisser hors de la réalité pour plonger dans de douces suppositions ! Du point de vue de l'étude des processus de réflexion humains, ce glissement, ou déplacement, est très intéressant, car il se produit la plupart du temps inconsciemment, ce qui signifie que l'observation des déplacements et des non-déplacements est très révélatrice de ce qu'est l'inconscient.
• Une des principales fonctions du réseau de concepts est de permettre de modifier légèrement des idées fausses pour les transformer en variantes qui peuvent être correctes.
• Essayer les idées récentes qui ont marché.
• Malaphore : recombinaison d'idées.
• Question : Un ordinateur pensant pourra-t-il additionner rapidement ? Réflexion : Peut-être pas. "Je pense, donc je n'ai pas accès au niveau auquel je somme".
• La véritable intelligence dépend intimement d'une capacité d'appréhension globale de son environnement, c'est à dire d'une possibilité programmée de "sortir du système", tout au moins à peu près dans la mesure où nous avons, nous, cette possibilité. Or, une fois qu'un programme aura cette capacité, vous ne pourrez plus le retenir ; il aura dépassé le point critique, et il ne vous restera plus qu'à faire face aux conséquences de ce que vous aurez créé.
• Nous restons exactement les mêmes bien que des milliers de neurones meurent chaque jour.

ChapitreXX Boucles Étranges ou Hiérarchies Enchevêtrées

• Le pionnier de la cybernétique, Norbert Wiener. Science des communications et de la régulation des informations.
• Hiatus : manque de continuité, coupure.
• épistémologie : branche de la philosophie qui s'intéresse à la connaissance scientifique.
• immixtion : action de s'immiscer 

• Vous avez bien un sens des désirs qui découle du substrat physique de votre esprit.
• Une des questions centrales de ce livre serait "les mots et les pensées suivent-ils des règles formelles ? ". Un des grands objectifs de ce livre est de mettre en évidence les multiples niveaux de l'esprit/cerveau, et j'ai essayé de montrer pourquoi l'ultime réponse à cette question est : "oui, à condition de descendre au plus bas niveau, le matériel, pour trouver les règles".
• En fait les règles de fond ne changent pas. Les neurones agissent toujours selon le même processus simple.
• Vous avez accès à vos pensées, mais pas à vos neurones. Les règles logicielles de différents niveaux peuvent changer, mais les règles matérielles ne le peuvent pas et, en fait, c'est justement de leur rigidité que découle la souplesse du logiciel !
• Comment la conscience surgit de la jungle des neurones.
• Les gens ont un sens intuitif de la signification des faits parce que ils ont dans leurs cerveaux un matériel intégré qui incorpore des méthodes rudimentaires d'interprétation des faits.
• Mon idée là-dessus, c'est que le processus selon lequel nous décidons de ce qui est valide ou de ce qui est vrai est un art, et qu'il s'appuie aussi fermement sur un sens de la beauté et de la simplicité que sur des principes profondément enracinés de la logique, du raisonnement, ou de tout autre phénomène qui peut être objectivement formalisé.
• Théorème de Gödel : "La vérité est une chose trop sérieuse pour la confier entièrement aux théories mathématiques".
• La plus grande contradiction de nos vies, la plus difficile à affronter, est peut-être la connaissance que "il y a eu une époque où je n'étais pas vivant, et il y aura une époque où je ne serai pas vivant".
• La croyance plutôt orientale : "Le monde et moi ne sommes qu'un, et la notion de ma disparition est une contradiction intrinsèque". La croyance plutôt occidentale : "Je ne suis qu'une partie du monde, et je mourrai, mais après, le monde continuera sans moi"
• Principe d'incertitude d'Heisenberg : implication : non-déterminisme et rôle de l'observation.
• Magritte, La condition humaine : "C'est ainsi que nous voyons le monde : nous le voyons comme extérieur à nous, même si ce que nous éprouvons intérieurement n'en est qu'une représentation mentale"
• Libre arbitre : "Le système X fait-il des choix ?"
• Ce programme se surveille bien et a des idées sur ses idées, mais il n'est pas capable de surveiller tous les détails de ses processus et a donc une perception intuitive, et non pas une compréhension totale, de ses propres rouages. C'est cet équilibre entre la connaissance de soi et l'ignorance de soi que naît le libre arbitre.
• Peu importe que le système fonctionne de façon déterministe ou non ; nous le qualifions de "choisisseur" si nous pouvons nous identifier à une description de haut niveau du processus qui se déroule pendant l'exécution du programme. A un bas niveau (celui du langage machine), le programme ressemble à n'importe quel autre programme; à un haut niveau (réunitarisé), des qualités comme la "volonté", l'"intuition", la "créativité" et la "conscience" peuvent émerger.
• Escher a donc fait là une parabole graphique du Théorème d'incomplétude de Gödel. Voilà pourquoi les deux brins de Gödel et d'Escher sont si étroitement entremêlés dans mon livre.
• Quand on croit que l'on sait tout, il y a toujours plus.
• L'Offrande musicale est une fugue de fugues, une Hiérarchie Enchevêtrée comme celles d'Escher et de Gödel, une construction intellectuelle qui me rappelle, de façons inexprimables, la belle fugue à multiples voix qu'est l'esprit humain. Voilà pourquoi j'ai choisi, dans mon livre, de faire de Gödel, d'Escher et de Bach les trois brins d'une guirlande éternelle.

Ricercar à six voix

• BABBAGE : polymath, mathématicien, inventeur et cryptanalyste.
• Je me demande si vous accepteriez que j'essaie d'exécuter la tâche beaucoup moins grandiose consistant à multiplier MA PROPRE intelligence par six.