Je vous laisse lire sa bio. Je suis là sur un terrain qui me plait, et c’est pour ça que j’ai envie de le partager. Entre évolution, mathématiques, épistémologie scientifique, souvenirs de prépa, systèmes, et grandes idées – qui confrontent mes propres idées du moment, parfois violemment, notamment sur la métaphore informatique du cerveau humain.  Au cours de la conversation nous allons rencontrer Maxwell, Bolzmann, Gibbs, Einstein, Franck Lloyd Wright, Turing, Gödel, Hilbert, Von Neumann, Shannon, Kepler, AlphaGO … que du beau monde !

(Note : un AI se cache dans cette liste, saura tu le trouver, ami lecteur ? )

Et en prime avoir une définition de la stupidité, rien que ça va vaut le coup !

Je n’ai pas retranscrit clairement les questions et les réponses, j’ai parfois mis les initiales de protagonistes mais vous vous débrouillerez bien pour faire le tri. Vous êtes des lecteurs intelligents 🙂 Quelques en-têtes pour vous aider à vous y retrouver dans ce discours assez foisonnant ! Le podcast original est ici.

Je me suis permis de mettre mes commentaires perso sans vergogne entre parenthèses. C’est l’intérêt de pouvoir traduire 🙂

Quelques points sur la traduction :

J’ai traduit stupidity par stupidité
computational par informatique – même si le sens n’est pas le même : dans computational on trouve compute, que je ne sais pas exactement traduire, intermédiaire entre calcul et logique. Pour les autres mots difficiles à traduire j’ai mis le mot anglais entre parenthèses.

Systèmes

(DK) Je travaille au Santa Fe Institute sur le problème de l’évolution de l’intelligence (et de la stupidité) chez les humains, les problématiques du traitement de l’Information et du calcul (computation) chez les humains, tant dans la nature (biologie) que dans la culture qu’ils ont créée.  Et aussi sur le rôle des « artefacts culturels » qui nous permettent de réduire … notre niveau de stupidité.

Pour dire les choses simplement, le Santa-Fe Institute essaye de faire pour le monde complexe ce que les mathématiques ont fait pour la physique.

Simplicité et complexité : quelle différence ?

Exemple de système simple : un système solaire ou un trou noir. On peut en résumer toutes les propriétés fondamentales par quelques équations mathématiques.

Exemple de système complexe : un cerveau, une société … internet. Ce sont des systèmes adaptatifs en réseau. Les formules qu’on utilise en physique ne marchent pas. Il n’y a pas l’équivalent des équations de Maxwell pour le cerveau humain. Mais des tas de livres qui essayent de le décrire anatomiquement, et quelques tentatives de modèles très spécialisés pour comprendre comment il fonctionne. La question sur laquelle nous travaillons est : « Existe-t-il des modèles qui pourraient décrire ces systèmes en réseau, et quelle est serait manière « naturelle » de le faire mathématiquement et logiquement (computationaly) »

Mathématiques et métaphores

Dans notre travail nous rencontrons souvent un problème que j’appelle le «  bordel du M Puissance 3 » : M puissance 3 c’est : Math, Modèles Mathématiques et Métaphores.

Beaucoup de mots du champ sémantique mathématique ou physique sont passés dans le vocabulaire de tous les jours : Energie, fitness (intraduisible), utilité, capacité, calcul … ces mots ont à la fois un sens commun et un sens précis mathématique. C’est la source de beaucoup de débats et d’incompréhension !

Information et irréversibilité : Boltzmann, Gibbs et Shannon

Boltzmann a inventé la thermodynamique statistique en essayant de comprendre l’origine de l’irréversibilité : on peut casser un œuf, mais une fois qu’il est cassé, on ne peut pas le remettre dans son état d’origine. C’est la théorie du chaos moléculaire (mouvement brownien). Au début il y a de l’ordre et avec le temps, les chocs répétés entre les molécules génèrent du désordre, qui est irréversible : on ne peut pas revenir en arrière. L’irréversibilité est ensuite reprise par Gibbs (mais j’ai oublié les équations).

Ensuite Shannon conceptualise le lien entre la physique et l’irréversibilité, le temps et l’information.

Voilà une définition de l’information : imaginez que vous vouliez vous rendre d’un point A à un point B en voiture. Vous pouvez y aller totalement au hasard, si vous disposez d’un temps très long, vous allez finir par y arriver. Si vous avez une carte, vous allez arriver bien plus vite et sans vous tromper. Avec efficacité. La différence de temps entre aller au hasard et avec une carte est une mesure de l’information. L’information, c’est la réduction de l’incertitude. On commence sans savoir, on prend de l’info, et on arrive au but. C’est l’opposé de ce que Boltzmann et Gibbs décrivent : au lieu d’aller de l’ordre au désordre, on va du désordre à l’ordre et c’est à ça que sert l’information. Shannon a compris que l’information est le négatif de l’entropie.

Le cerveau humain et l’ordinateur : métaphore, modèle ou réalité ?

Entre l’intelligence artificielle et la recherche sur le fonctionnement du cerveau, il y a débat voire polémique sur a nature informatique (computational) de la pensée humaine. Certains disent que les systèmes biologiques ne processent pas réellement d’information et on voit fleurir les articles qui disent que la métaphore informatique du cerveau est aussi stupide que celles des pompes hydrauliques ou des machines avec des engrenages, juste parce que c’est la technologie du jour. (Cf article d’EON magazine que j’ai déjà commenté dans le blog, il est ici  – et au passage : j’en étais resté là avant d’écouter cette interview). L’argument qui consiste à dire que les modèles explicatifs de ce qu’on n’a pas encore compris sont assez systématiquement les dernières trouvailles technologiques est assez puissant et s’avère vrai dans le passé, que ce soit Descartes avec l’animal machine, Freud avec la machine à vapeur (ou Lacan avec la topologie), et je suis sûr qu’il y en a plein d’autres.

(SH) Personne ne pense que le cerveau a une architecture de Von Neumann. Mais dire que le cerveau ne processe pas d’information est totalement idiot non ? Comment les systèmes biologiques encodent et traitent l’information ?

(DK) On est en plein M3 : confusion entre la métaphore et la réalité. Il est intéressant de faire un petit historique du sujet pour mieux comprendre.

La première théorie de l’informatique (note : c’est marrant parce qu’en français on dit informatique – traitement automatique de l’information alors qu’en anglais on dit computing – calcul) est due à Alan Turing, dans les années 30. Là où il est vraiment fort, c’est d’avoir répondu à une question mathématique très profonde, posée par David Hilbert en 1928 : «est-ce que je pourrais soumettre une question mathématique à une machine et elle pourrait me dire, en un temps raisonnable, si la proposition est vraie ou fausse ». Autrement dit : peut-on automatiser les mathématiques ?

En 1936 Turing a inventé un modèle mathématique qu’on appelle aujourd’hui la Machine de Turing, et a déclaré qu’il y avait des conjectures mathématiques qui étaient fondamentalement indécidables. C’était une révolution dans le monde mathématique : il y a des choses qu’on ne peut pas savoir à travers le calcul (computation). Il manque Gödel dans cette histoire, son théorème date de 1929. Je nes suis pas assez calé en épistémologie des sciences pour savoir qui a inspiré qui mais si ça vous intéresse il y a des infos ici.

Des années plus tard, il a réalisé qu’en résolvant un problème mathématique, il avait inventé un modèle mathématique : la Machine de Turing –le modèle général de la résolution de problèmes (computation).

En 58 John Von Neumann écrivit le livre « computer and the brain » suggérant que le modèle de la Machine de Turing pourrait s’appliquer au cerveau … mais dans son esprit c’était une métaphore très puissante, rien de plus.

Il est vrai qu’on a tendance à être « épistémologiquement narcissiques » et prendre les modèles à la mode du moment pour expliquer la réalité de la nature.

La valeur de l’idée de Turing et Van Neumann est de nous donner un cadre de référence pour comprendre comme fonctionne la résolution de problèmes.  Le modèle est très imparfait, et il y a évidemment d’énormes différences entre l’ordinateur et le cerveau : un ordinateur est fragile et peu efficient par rapport à un cerveau, qui consomme 20 watts pour fonctionner 24*7.  La densité de connexion est incomparable entre un cerveau et un circuit électronique. Mais surtout  le cerveau modifie son câblage en permanence, en fonction des données d’entrées.

Information et incertitude

L’information est de la réduction d’incertitude. Quand vous ouvrez les yeux le matin, l’énergie électromagnétique captée par les récepteurs de votre rétine est transformée en information. Ca vous permet de savoir des choses à propos du monde qui vous entoure que vous ne saviez pas avant. De manière formelle, on a réduit l’incertitude dans le monde et augmenté le niveau d’information. Il s’avère qu’on peut le mesurer mathématiquement. La pertinence de cette approche est prouvée par les prothèses neurologiques. La théorie du cerveau comme processeur d’information nous permet de construire des implants de cochlée (une partie de l’oreille interne) ou de contrôler par notre cerveau des bras articulés. Ce n’est pas une métaphore, c’est réel !

Le traitement de l’information dans le cerveau n’est pas pour autant identique à celui dans une machine de Turing. Donc si on parle dans ce sens, c’est une métaphore. Dans le sens de Shannon, c’est une réalité mathématique.

On peut dire que la combinaison des sources d’information (tactile, visuelle) permet d’avoir une représentation cohérente du monde qui génère des pics d’activité (spikes) dans les neurones ; et nous pouvons construire des architectures techniques mimétiques qui sont très utiles pour les handicapés !

C’est le pouvoir des concepts mathématiques : mais une métaphore et un modèle mathématique, ce n’est pas la même chose. On parle de relation de cause à effet – un lien logique entre entrée et sortie. Le changement dans la structure physique produit des changements dans le fonctionnement. Il faut être prudent dans l’anthropomorphisme mais ne pas pour autant se passer de la puissance de ces modèles. Et il ne faut pas mettre toutes les métaphores à la poubelle ; utiliser le concept de pompe pour le cœur a beaucoup de sens !

Complexité

Encore un mot de tous les jours qui a un sens très précis en maths.

Imaginez un objet très régulier,  un cube : on peut le décrire de manière très simple, la longueur d’une arête et la structure géométrique.  A l’autre extrême, du gaz dans un récipient, il y a un grand nombre d’objets dedans, mais on peut aussi le décrire par la vélocité moyenne des molécules. Ce sont des objets non complexes, on peut les décrire très simplement de manière fiable.

Mais si je veux décrire une souris c’est beaucoup plus compliqué. Il me faudra beaucoup plus de temps pour la décrire, et ce sera bien moins fiable que la description du cube ou du gaz. La complexité est, de manière métaphorique, une fonction proportionnelle du temps de description.

Un phénomène réellement aléatoire, on ne peut pas le compresser, on ne peut pas le décrire autrement qu’intégralement. On peut décrire le processus de génération d’aléatoire, mais on ne peut pas avoir une description qui soit plus courte que le phénomène proprement dit. C’est une distinction très importante.

Ce qui est intéressant c’est que dans l’histoire de la physique la complexité des descriptions s’est réduite avec la découverte de modèles de plus en plus puissants. Avant Kepler, c’est long d’expliquer le mouvement des planètes. On a mis du temps à trouver une formulation élégante et compacte pour expliquer le mécanisme. Alors on va peut-être y arriver pour les phénomènes qu’on trouve complexes aujourd’hui. Mais je ne pense pas.

L’Intelligence et son rapport à la complexité

Un des sujets sur lesquels nous avons été les plus stupides, c’est l’intelligence. Toutes nos définitions sont basées sur des mesures faites sur des humains, en général blancs et parlant anglais, c’est très limitatif.

Le test de QI n’a aucun intérêt pour mesurer l’intelligence d’un poulpe. Il serait intéressant de pouvoir évaluer l’intelligence d’un poulpe ! Si on accepte la théorie de l’évolution, il est clair que l’intelligence existe à différents niveaux dans la nature, y compris chez les animaux.

Pour mieux comprendre ce que sont l’intelligence et la stupidité, il faut revenir à la complexité et au hasard. Je vais prendre un exemple. Je vous donne un Rubik’s Cube :  vous avez plusieurs manières de traiter le problème (qui est de résoudre le cube) . Vous pouvez essayer de le faire de manière aléatoire. Si vous êtes immortel, vous allez finir par y arriver. Mais ça va prendre très très longtemps. Vous pouvez essayer de le résoudre de manière stupide : en ne tournant qu’une face. La différence entre stupide et l’aléatoire, c’est que vous êtes certains de ne pas y arriver. C’est un processus infini : bien pire que l’aléatoire.

Mais une personne qui trouve des règles permettant de résoudre le cube en moins de 20 minutes : ça c’est un comportement intelligent. L’intelligence est la capacité à résoudre un problème de manière significativement plus rapide qu’en allant au hasard.

Si je m’assois à côté d’un mathématicien très bon avec un problème que je n’arrive pas à résoudre,  il va me dire « mais si c’est facile, voilà comment il faut faire » et effectivement je vais dire « ah oui c’est vrai c’est facile ». C’est ça que font les gens intelligents, ils rendent les choses simples.

A contrario si je m’assois avec un abruti qui prend le problème de manière totalement inefficace et persiste à appliquer une méthode qui ne fonctionne pas, je vais trouver le problème complexe.

L’intelligence c’est la capacité à résoudre un problème efficacement et rapidement, beaucoup plus qu’une démarche aléatoire. La stupidité c’est faire en sorte que le problème soit résolu en plus de temps que l’aléatoire, voire jamais. Tout en restant enthousiaste et en croyant qu’on va y arriver.

Frontière entre la biologie et la culture

La culture est une machine à augmenter notre intelligence. La plupart d’entre nous pensent que nous sommes nés avec une certaine « quantité » d’intelligence, et que les choses que nous apprenons (culture) ne nous rendent pas plus intelligents. On entend tout le temps «cette personne est très smart, mais elle aurait pu travailler plus» ou «cette personne n’est pas très maline mais elle a super bossé et ça donne l’impression qu’elle est intelligente». C’est du pipeau. L’éducation et l’apprentissage rendent plus intelligents.

Le concept de QI est totalement inutile. Exemple : l’enfant super doué qui joue comme Mozart à 8 ans. C’est un génie. Mais en fait son père est un tyran et l’a fait bosser comme un fou dès son plus jeune âge et il a acquis des capacités exceptionnelles pour son âge. De plus en plus d’études montrent que si on fait un entraînement très intensif très jeune, on va pouvoir acquérir des capacités qui paraitront totalement surnaturelles (plasticité du cerveau). En fait le QI est une mesure de la mémoire de travail.

Une preuve classique est l’étude du nombre de chiffres qu’on peut mémoriser. Les gens normaux peuvent faire 10 ou 11 et on le considérait comme une limite haute indépassable. Mais en fait des gens ont trouvé des techniques d’encodage qui peut leur permettent de mémoriser 200 chiffres. On voit bien l’importance de la plasticité. Toutes les preuves vont dans ce sens, pas le sens de l’intelligence innée.

Bien sûr, il y a des variations innées. Mais au niveau du cerveau, comme le schéma n’est pas fixé une fois pour toute, la flexibilité est immense.

(SH) Quelle est la partie innée qui est universelle ?

(DK) On ne sait pas vraiment. Mais ce qui est sûr c’est que tout ce qu’on fait autour de l’intelligence la favorise. Les inputs comptent !

Artefacts cognitifs

Notre capacité à faire des mathématiques ou à raisonner mathématiquement n’est pas innée. On ne nait pas en sachant faire du calcul, de la géométrie ou de la topologie. Et ça, ça permet de résoudre des problèmes que les gens qui ne sont pas équipés avec ces outils ne peuvent pas résoudre.

Les nombres sont l’accès le plus facile à l’éducation mathématique. Il y a eu de nombreux systèmes numériques inventés par les humains depuis 5000 ans, en Egypte, Sumer, en Amérique du sud … et nous avons là un excellent exemple de stupidité culturelle. L’Europe, pendant 1500 ans, a utilisé les chiffres romains, inventée 200 ans avant JC. Les chiffres romains sont efficaces pour mesurer des ordres de grandeur et faire des comparaisons, mais épouvantables pour faire du calcul. Combien font X + V ? combien fait XII x IV ? Ca ne marche pas, mais pourtant pendant 1500 ans le cerveau humain des occidentaux a choisi d’utiliser ce système, alors que d’autres systèmes plus efficaces étaient disponibles ! La conséquence est que pendant tout ce temps, les européens n’avaient pas d’outils pour additionner ou multiplier !

C’est incroyablement stupide. En Inde et en Arabie, ils avaient des systèmes qui permettaient ces opérations … disponibles à partir du 2^ème siècle (on parle des chiffres arabes, mais en fait l’invention vient des indiens). C’est un bon exemple de l’interface entre la culture et le raisonnement.

La beauté de l’artefact cognitif, c’est qu’une fois qu’on le maitrise, on peut l’utiliser indépendamment de la réalité. Il n’y a plus besoin de papier pour faire les calculs, on peut les faire de tête !

J’appelle ce type d’objet des artefacts cognitifs complémentaires. Non seulement ils augmentent nos capacités cognitives, mais en plus si on les enlève physiquement, il reste une trace dans le cerveau qu’on peut continuer à utiliser. C’est sans doute cela qui est nouveau dans le fait de penser la culture et l’intelligence : depuis longtemps, les archéologues et les psychologues ont compris qu’il y avait dans le monde des objets qui nous permettaient de faire des choses qu’on ne pourrait pas faire sinon. Une fourchette, une roue nous permettent de faire des choses. Mais ces objets ont une autre capacité, qui est de carrément modifier notre câblage cérébral. On peut construire dans notre cerveau une fourchette virtuelle ou une roue virtuelle, utiliser sa représentation pour d’autres usages. Et ça c’est sans doute la caractéristique unique des humains d’un point de vue de l’évolution (par rapport aux autres animaux).

Le langage rentre évidemment dans cette catégorie. Mais il faut différencier langage et mathématiques. Pendant longtemps on a cru que le raisonnement mathématique était un sous-produit du langage mais des expériences récentes montrent que les aires cérébrales mobilisées ne sont pas les mêmes, que ce soit pour les humains et les primates (qui ont aussi des aires cérébrales spécialisées pour le calcul). Le raisonnement mathématique utilise la zone de représentation des nombres.

Les nombres sont donc des artefacts cognitifs, les abaques aussi. Un abaque permet de faire de l’arithmétique dans le réel avec les mains et les yeux mais on peut s’approprier la modélisation quand on est expert. C’est intéressant parce qu’un utilisateur novice n’y arrive pas, ça se passe dans le cortex préfrontal et avec l’habitude ça part dans les zones visuelles. Un super exemple de re-cablage du cerveau par la pratique (note : c’est complètement ce qu’explique le livre « the power of habit »)

Les cartes sont un magnifique exemple aussi. Des tas de gens ont dessiné des cartes pendant des générations. Et vous, vous regardez la carte et vous la mémorisez, et vous récupérez tout ce savoir, et n’avez même plus besoin de la carte physique. Vous avez changé le câblage de votre cerveau pour encoder des relations géographiques entre des objets que vous n’auriez jamais pu trouver tout seul.

Certains instruments de mesure aussi : un astrolabe, un sextant … plus on sait s’en servir et moins on en a besoin, on intègre les fonctionnalités directement dans le cerveau en construisant une simulation mentale de l’objet ;

Mais il y a aussi un autre type d’artefact, qui lui ne permet pas de re-câbler le cerveau, au contraire.

Par exemple une calculatrice ou un téléphone. Ces artefacts augmentent nos capacités quand nous les avons sous la main, mais s’ils ne sont plus disponibles, nous fonctionnons moins bien qu’avant ! On ne sait plus faire une division à la main maintenant. Je ne discute pas cela d’un point de vue moral, qu’il ne faudrait pas utiliser ces outils. Je veux montrer la différence entre des outils qui augmentent nos capacités indépendamment de leur présence physique – ou pas.  Je les appelle des artefacts cognitifs compétitifs : ils n’amplifient pas les capacités humaines, mais les remplacent, tout simplement.

Un exemple plus récent sont les systèmes de classification et le Deep Learning. d’AlphaGO, un « réseau de neurones profond » qu’on entraine à jouer au go et qui finit par battre un champion du monde alors qu’on ne sait pas exactement les règles qu’il applique ! Elle remplace notre propre capacité à raisonner à propos du jeu, elle ne l’augmente pas. (Note : je ne suis pas tout à fait d’accord. C’est vrai qu’on ne sait pas comment ça marche. Par contre, on a constaté que cette machine qui raisonne d’une manière qu’on ne comprend pas permettait aux humains de devenir meilleurs, notamment en jouant contre elle, ou en analysant ses stratégies. Le même phénomène s’est produit avec les échecs, où le niveau des champions d’échec a progressé très rapidement après que DeepBlue ait battu Kasparov. Et maintenant, les meilleurs joueurs d’échecs sont des « cyborgs », des équipes d’humains et de programmes. Info trouvée dans le dernier bouquin de Kevin Kelly « The Inevitable » et dans une interview du CEO de DeepMind, Demis Hassabis).

On peut donc diviser les objets culturels en deux catégories et la question que nous devons nous poser c’est : « pouvons-nous nous rendre dépendants de ces objets ? » Il faut faire attention aux objets compétitifs parce que quand on ne les a plus … on est dans une situation pire que si on ne les avait jamais eus.

Prenons la voiture : ça nous permet de nous déplacer rapidement sur une surface plane, mais si on nous l’enlève, on est plus mal qu’avant … et en plus c’est un objet dangereux, qui tue des gens. La voiture détruit plusieurs capacités cognitives en même temps (les jambes, la représentation de l’espace). On l’accepte parce que sa valeur utilitaire est tellement importante. C’est un cas intéressant parce qu’elle va subir une nouvelle itération technologique avec les voitures sans conducteur. On peut facilement imaginer le jour où ce sera la norme parce qu’elles seront plus sure que des voitures conduites par des humains, et alors les compétences de conduite des humains vont s’atrophier et disparaître.

La polémique sur l’IA qui va nous tuer (dont j’ai beaucoup parlé ici, et à laquelle je souscris en partie …) est à mon sens très irritante, parce que le vrai débat n’est pas là. On pourra peut-être se poser dans 100 ans (note: Kurzweil et Diamantis seraient là ils brandiraient la loi de Moore … passons).

La vraie discussion qu’on devrait avoir, c’est « que voulons-nous faire avec les artefacts cognitifs compétitifs » ? Il y en aura de plus en plus, et il y a un effet domino. Tous nos systèmes de représentation mentale sont connectés entre eux. Quand on devient expert dans l’utilisation d’un abaque, il y a des répercussions positives sur d’autres systèmes cognitifs : le langage, la géométrie. C’est vrai de tous les artefacts cognitifs complémentaires. Si je vous donne une fourchette, ou un couteau, vous êtes mieux équipés pour manger, mais vous améliorez aussi votre dextérité, qui pourra vous servir pour autre chose que de manger !

Ma crainte est plus sur l’impact indirect et diffus du remplacement des artefacts cognitifs complémentaires par des artefacts cognitifs compétitifs (de la carte au GPS) – c’est cela qui devrait faire débat. La compétence géométrique et topographique est utile de manière générale dans la vie, pas juste pour lire une carte.

Il y a beaucoup d’autres exemples – par exemple l’écriture cursive est importante, même si nous vivons de plus en plus avec des claviers et des systèmes de reconnaissance vocale. L’écriture manuelle est directement liée à la capacité d’acquisition du langage et de la lecture.

Einstein et Franck Lloyd Wright adoraient faire des constructions avec des cubes – un peu comme Minecraft aujourd’hui. Les deux ont dit que les intuitions qu’ils avaient acquises en jouant avec les cubes avaient été instrumentales dans leurs découvertes et productions futures.

C’est pareil pour les cartes. Le chemin d’un point à un autre peut devenir une métaphore utile pour le chemin d’une idée à une autre, par exemple !

Nous voulons tous maximiser nos capacités pour faire au mieux dans la vie, si on se rend compte que des technologies ont un impact négatif d’un point de vue individuel et collectif, comment gérer cette situation ? Quelles règles pouvons-nous définir ?

Dans certains domaines, il y a d’évidence des manières de faire qui sont meilleures que d’autres ; par exemple quand on écrit du code. Si on devait encore programmer les ordinateurs avec des cartes perforées, on n’aurait pas pu inventer le traitement de texte. L’idée de connecter une machine à écrire à un ordinateur est une idée extraordinaire. Imaginons qu’on ne puisse interagir avec un ordinateur qu’avec de l’assembleur ou du code binaire, les logiciels que nous utilisons aujourd’hui n’existeraient pas. L’évolution des langages informatiques nous a permis d’écrire du code de manière plus efficace … Jusqu’à AlphaGO.

Il y a donc des meilleures ou mauvaises manières de faire.  Là où ça devient difficile de définir une règle, c’est quand on a affaire à des artéfacts culturels « raffinés ». – différentes manières de raisonner induites par la culture, comme par exemple : la religion.

Ce n’est pas pareil du tout de raisonner scientifiquement à propos du monde ou religieusement, ou poétiquement. C’est comme le langage machine ou python, ce sont deux manière différentes de coder, et elles n’ont pas la même efficacité en fonction du problème qu’on veut résoudre.

Les implications culturelles sont immenses. Un de nos projets est « Lore OS » « la fondation des systèmes légaux dans les sociétés ». Une constitution est un bel exemple d’un système de mémorisation qui encode des contingences historiques, évènements passés, et une réponse qui on l’espère a un résultat positif.

Nous avons 590 constitutions de par le monde et on peut analyser – quelles sont celles qui marchent et celles qui ne marchent pas, quelles sont les implications culturelles et légales. Quelles sont celles qui vont amener plus facilement au despotisme ? Il faut essayer de comprendre cela.

Complexité, éthique et honnêteté intellectuelle

La différence entre la curiosité scientifique et le dogmatisme religieux c’est la fermeture sur la vision du monde, et la tolérance qui en découle sur l’incertitude, l’ambiguïté et la complexité, avec un impact réel sur les capacités cognitives d’une personne.

Pour un dogmatiste, la réponse définitive a déjà été donnée : la réalité ne peut pas être plus complexe que ce qui est indiqué dans son livre sacré favori. Pour une personne curieuse ou un scientifique le questionnement sur la réalité n’a pas de fin. Et qui sait que ce que nous allons apprendre dans le futur et dans quelle mesure cela va remplacer ou infirmer notre savoir actuel ?

(SH) Quand je pense aux différences entre cultures, je remarque souvent que les différences les plus flagrantes induisent tout le reste. Mon exemple favori d’une culture qui a quasiment tout faux, ce sont les talibans, comme toute société organisée sous une stricte sharia. Je me souviens de la réaction de Hitchens à propos de la fatwa qui avait été lancée contre son ami Salman Rushdie en 1989. La simple idée d’une autorité réclamant le meurtre de quelqu’un parce qu’il a écrit un roman, ça encapsule tellement de choses à propos de cette culture. En tant que père de deux filles je pense souvent au monde dans lequel j’ai envie qu’elles vivent. Quand je vois comment les filles et les femmes sont traitées par les hommes dans des cultures comme celle des talibans, cette différence est révélatrice de tant d’autres différences.

Le pire cas : le meurtre d’honneur. Vous avez une fille qui se fait violer ou qui refuse d’épouser le cousin octogénaire qu’on a choisi pour elle, ou qui veut être éduquée et aller à l’école. Elle peut se faire tuer par un membre de sa propre famille parce qu’il considère cela comme un déshonneur. Je ne parle pas du comportement d’un psychopathe, mais d’une personne qui par ailleurs sera parfaitement intégrée et normale dans cette culture – donc c’une culture qui fait se comporter comme un psychopathe une personne normale !

Il y a une seule différence : le traitement des filles et des femmes et elle nous indique tout ce qu’on a besoin de savoir sur cette culture. On peut bien les priorités d’une culture pour laquelle il est important d’avoir la moitié de sa population illettrée et recouvertes de la tête aux pieds.

Le système décrit fait partie des instances intrigantes de la persistance de règles dont nous pourrions décrire les résultats sans hésitation comme stupides. Pour moi c’est un vrai problème scientifique. Beaucoup de gens dans ces sociétés sont malheureux et ces règles leurs sont imposées. Comme cela se fait que ces systèmes soient persistants ? Dans les sociétés occidentales le droit de vote des femmes n’est arrivé que pendant le XXème siècle.

Donc si on encode une forme de culture qui est haineuse ou intolérante, de la même manière que l’abaque laisse une empreinte mentale, cela va influencer votre vision du monde et votre comportement.

Une autre entre le scientifique et le dogmatique orthodoxe. Le scientifique croit en l’ignorance des experts. Cette notion est un prérequis absolu pour l’exercice de la science. C’est un concept très intéressant ! la règle qui permet l’émergence de la démarche scientifique est le scepticisme.

Cela a un lien direct avec l’information, l’incertitude. J’ai souvent pensé que les cultures traitent les symptômes, pas les causes. Nous avons décrit des sociétés hostiles et doctrinaires. Mon sentiment est que la première chose qu’il faudrait faire c’est apprendre aux gens à vivre avec de l’incertitude. Qu’ils soient heureux de l’incertitude !!!Notre système éducatif échoue sur ce point. Oui nous vivons dans le vide. Le soleil est une boule de feu. Ca vous rassure ou ça vous fait peur ? C’est votre réponse à cette question qui va faire pencher la balance vers la science ou l’orthodoxie.

Et le futur ?

Entre l’idée de notre propre destruction ou réparation de tous nous défauts ?

La plupart des gens ont l’air de dire que le siècle actuel est plus critique que les précédents. Oui et non. Il y a clairement des caractéristiques très spécifiques : la croissance de la population, l’informatique, la médecine qui marche avec des principes scientifiques, l’hygiène, la compréhension des implications de notre évolution logique, et le traitement éthique des autres humains voire des animaux : c’est incroyable.

Mais par ailleurs – notre première représentation du monde sur les tablettes sumériennes était peut-être une plus grande invention que l’internet ! Mais ce qu’on n’a pas là c’est une technologie qui donne à un individu ou à un état la possibilité de détruire d’autres humains massivement.

La poudre à canon a été très importante, la cavalerie, il y a eu plein d’inventions mortelles.

Le plus important c’est la possibilité de la disparition de l’état nation. Avec les réseaux sociaux on assiste un une reconfiguration – les gens qui vivent sur Facebook ou dans les jeux vidéo, il y a déjà cette transformation.

Pessimiste ou optimiste ? Je crois à l’intelligence, la raison et le discours civilisé … je suis effrayé par l’optimisme inconditionnel et le pessimisme inconditionnel. Le milieu paraît tiède aux gens et donc non intéressant mais c’est là que je me situe.

Ces artefacts, (devices), si nous avons conscience de leur impact sur nous, nous devrions être capables de les penser collectivement. Et prendre des décisions.

Une de mes grandes craintes est l’érosion systématique du libre arbitre humain. – au sens de ses implications. L’exemple que je donne souvent est que le libre arbitre n’a de valeur que dans la possibilité de le mettre en œuvre dans la réalité. Ca n’a pas d’importance d’avoir un libre arbitre théorique si on ne peut pas l’exercer dans la pratique.

Par exemple, si ISIS prenait le pouvoir, ça n’a pas d’importance que vous ayez un libre arbitre parce qu’ils vont le supprimer concrètement. Nous choisissons souvent volontairement de ne pas exercer notre libre arbitre. Quelques exemples : quel film devrai-je regarder ? Netflix me fait des recommandations. La prochaine fois, encore plus de contrainte, et un jour … plus qu’un seul film conseillé. Amazon. Quel livre devrais-je lire ? Ce que ça fait est que ça contracte le volume de mes choix possibles. Je peux toujours dire non mais c’est de plus en plus difficile. Imaginons que je développe une app, que j’appelle l’app qui vote. Je rentre toutes les informations me concernant, mon histoire économique, les candidats politiques pour lesquels j’ai voté et elle me dira pour qui il faut que je vote à la prochaine élection. Ou une app médicale : qui mesure tout ce qu’on peut mesurer dans mon corps. « non il ne faut pas manger d’aubergine ce soir » . Je pense que tout cela va arriver dans la décennie à venir ; de plus en plus de décisions seront outsourcées à des systèmes externes. Et ce qui va nous rester entre les mains est une toute petite partie de liberté, de plus en plus réduite.

SH : je ne vois pas tout à fait comme ça. Pas tant une diminution mais un effet silo, on crée de la machine qui prépare (curates) ce qui nous est présenté, plutôt que le hasard.

Autre exemple : nous sommes des hommes occidentaux, et nous avons assez peu de choix pour nous décorer et nous habiller, alors qu’historiquement les humains ont été très créatifs sur ces sujets ! Maintenant nous avons un choix très limité et notre latitude de décision est très très limitée à quelques textures et couleurs. Choisies par les fabricants pour des raisons économiques, pas pour notre bien être !

Ce n’est pas inévitable … mais si nous ne faisons pas l’effort de rechercher nos différences et notre individualité, nous allons inévitablement devenir une espèce de clones. A la fois de la manière dont nous nous habillons, mais aussi la manière dont nous pensons ! Et c’est ma vision négative (dystopienne). On peut aussi dire assez c’est assez et partir dans une assertion radicale de la différence et de l’individualité. Pour l’instant nous n’avons jamais tellement bien réussi à concilier l’individualité et le fonctionnement du groupe. Etre aussi différents que possible mais vivre ensemble harmonieusement.  Il y a du travail !!!

(SH)  OK pour les vêtements. Moi d’ailleurs j’ai un uniforme, je mets toujours la même chose. Mais pour Amazon ou Netflix, il y a 20 ans, vous vous seriez baladé dans les allées d’une librairie et trouvé des titres ou des couvertures qui vous aurez attirées, juste par hasard, sans tellement d’information pour promouvoir avec fiabilité des livres qui pouvaient vous intéresser.

Là les algorithmes s’appuient sur une masse de données. Et on a tendance à être des moutons de panurge à propos des idées, à je suivre que les gens qui pensent comme nous.

Mais les outils que nous avons maintenant sont tellement incroyables qu’ils devraient nous amener de la liberté supplémentaire, pas nous enfermer. Et ce qui est surprenant dans l’histoire humaine c’est que chaque technologie qui augmente nos possibilités vient avec la possibilité de sa propre négation.

Pour revenir à la librairie, ce n’était pas terrible par rapport à Amazon. Mais ce qui vient avec Amazon c’est l’imposition de choix à cause de contraintes économiques, et c’est notre travail de maintenir la liberté qu’amène la technologie. Combattons la tendance que nous avons à nous enfermer avec nos propres technologies.

(SH) Votre avis sur une intelligence avancée ailleurs dans l’univers ?

Ca me fascine. Le calcul de probabilités de la vie ailleurs que sur terre est compliqué, parce qu’on ne peut pas faire de statistiques avec un seul exemple (nous). Mais on peut raisonner en terme de lois physiques et du fonctionnement de l’évolution et dans ce contexte, comme la biologie émerge de principes physiques et  chimiques et que la terre n’a rien d’exceptionnel, il n’y a pas de raison que la vie n’existe pas ailleurs.

Pourquoi faisons-nous ce que nous faisons ? Si j’ai une espèce de croyance mystique, ou d’obligation éthique, c’est sur l’expansion de l’espace de la raison. Et de l’intérêt pour autrui (sympathy).