Traduction partielle : SOTT

Terminator
© Warner Bros. Pictures
Le britannique Stephen Hawking, professeur, physicien théoricien et cosmologiste, est universellement connu, et aussi bien dans le champ de la science pure que dans celui de la communication, à cause de ses travaux et des conditions extraordinaires de son état de santé où il effectue ses travaux.

L'article du Wikipédia qui lui est consacré indique sur ce dernier point que « Hawking souffre d'une dystrophie neuromusculaire qui est attribuée à une sclérose latérale amyotrophique (SLA) ; sa maladie a progressé au fil des ans et l'a laissé presque complètement paralysé».

Nous parlons par conséquent d'un très grand savant qui présente des caractéristiques extraordinaires dans sa vie personnelle, suffisamment pour en faire également un personnage hors du commun pour l'« image » que véhicule la communication, qui lui donne une notoriété supplémentaire considérable hors du champ de la science pure. La conséquence est que ce trait fondamental de sa vie personnelle en fait, en plus de ce qu'il est dans sa fonction réelle, un personnage intensément médiatique à l'image des « people » dont la communication est si friande, dans notre société où le système de la communication véhiculant le sensationnalisme s'empare de tous les sujets pour les faire intervenir puissamment dans la perception que nous avons de la gloire factice ou de la destinée catastrophique du Système.

Il se trouve que, d'une façon générale, Hawking a toujours été perçu comme un optimiste, un croyant plein d'allant dans la puissance et l'avenir superbe de la science, et par conséquent de la modernité (et, par conséquent, jugerions-nous, du Système). Cette perception a toujours été formidablement amplifiée par son état personnel catastrophique, et par la ténacité et le courage avec lesquels il le maîtrisait pour poursuivre son travail. Mais voilà que cette perception de l'optimisme du grand savant est brusquement altérée, peut-être décisivement, par le jugement crépusculaire que Hawking porte sur l'avenir de la cohabitation de l'espèce humaine avec le développement de l'IA (Intelligence Artificielle, - AI en anglais, - disons également « les robots »). Cette cohabitation, estime Hawking, pourrait très rapidement tourner en une confrontation entre l'AI et l'espèce humaine, aboutissant à l'extinction de la seconde. D'une façon plus imagée, nous parlerions de « la révolte des robots » comme on parlerait après tout de la « révolte des esclaves ». (Le terme « robot » est dérivé du tchèque robota signifiant « servage », il a été introduit en 1920 par l'écrivain tchèque Karel Capek dans la pièce de théâtre Rossum's Universal Robots, montée en 1921.)
Le professeur Hawking parle sur BBC.News le 2 décembre 2014 : « Le développement de l'intelligence artificielle complète pourrait signifier la fin de la race humaine. [...] » Le professeur Hawking dit que les formes primitives de l'intelligence artificielle développées jusqu'à présent se sont révélées être très utiles, mais il redoute les conséquences de la création de quelque chose qui pourrait égaler ou dépasser les humains. « Elle pourrait prendre sa propre indépendance, se re-conceptualiser elle-même à un rythme de plus en plus élevé, a t-il dit. Les êtres humains, qui sont limités par une évolution biologique lente, ne pourraient rivaliser avec elle, et seraient supplantés. »
Comme c'est sa fonction puisque faisant partie de la presse-Système dont le rôle essentiel est de protéger le Système, BBC.News introduit une note qu'il qualifie de « plus optimiste », - quoique cet optimisme, venu de Rollo Carpenter, reste extrêmement vague et dépendant d'une vision subjective (optimiste, justement, dans ce que l'optimisme a désormais de suspect dans ce domaine) ; bref, il s'agit purement et simplement d'une affirmation du type « je parie que cela se passera bien » à propos du développement de l'IA, évidemment présentée comme une perspective irrésistible...
« Je crois que nous ne maîtriserons pas cette technologie avant un bon moment, et son potentiel pour résoudre bon nombre des problèmes mondiaux sera alors réalisé », a déclaré Rollo Carpenter, créateur de Cleverbot. Le logiciel de Cleverbot apprend de ses conversations passées et il a gagné des scores élevés dans le test de Turing, trompant bon nombre de personnes en leur faisant croire qu'ils parlaient à un être humain. M. Carpenter dit que nous sommes encore loin d'avoir la puissance de calcul nécessaire ainsi que le développement des algorithmes correspondant pour créer une intelligence artificielle complète, mais il estime que cela viendra dans les prochaines décennies. « Nous ne pouvons pas réellement savoir ce qui se passera si une machine dépasse notre propre intelligence, nous ne pouvons pas savoir si elle nous aidera, nous ignorera, nous mettra à l'écart ou même nous détruira », dit-il. Mais il fait le pari que l'intelligence artificielle sera quelque chose de positif.
Par ailleurs, BBC.News convient que Hawking n'est pas le seul à être pessimiste, simplement parce que c'est le sentiment le plus répandu (l'optimisme à-la-Rollo étant effectivement la chose la plus difficile à relever, et encore selon la démonstration assez peu scientifique qu'elle relève d'une croyance réduite au procédé du "pari"). L'entrepreneur et financier des matières de technologies liées à l'IA Elon Musk est cité... « Le professeur Hawking n' est pas le seul à craindre pour l'avenir. À court terme, il y a le problème des machines intelligentes capables de faire le travail de l'homme, ce qui pourrait rapidement détruire des millions d'emploi ». À plus long terme, Elon Musk nous avertit que l'IA serait « notre plus grande menace existentielle ».
Restons alors avec Elon Musk. De quoi s'agit-il lorsqu'il cite « un plus long terme » pour dire que l'IA est effectivement « la plus grande menace existentielle » contre notre espèce ? Il en parlait le 24 octobre 2014 (Washington Post) à un symposium du Massachussetts Institute of Technology (MIT) en insistant sur la gravité de la menace (« Avec l'IA, nous sommes en train de réveiller le démon ») tout en restant assez vague et imprécis sur le délai. Mais une indiscrétion accidentelle, connue plus tard, a révélé le fond de la pensée de Musk sur le délai, qui est précisé et se révèle pas très loin d'être court pour une menace de cette ampleur catastrophique, - dans le terme des cinq ans à venir, dix ans au plus...
C'est UPI (voir Space Daily Report le 16 novembre 2014) qui a publié la nouvelle "accidentelle"... « Après avoir dit que l'intelligence artificielle des robots est « notre plus grande menace existentielle » et que nous risquions de « réveiller le démon », lors d'une interview avec le MIT, Musk a accidentellement exprimé ses idées à propos du moment où la menace pourrait arriver. « Le risque que quelque chose de vraiment grave se produise pourrait arriver dans les cinq ans. Dix ans tout au plus », écrit Musk dans un e-mail à l'éditeur John Brockman. « Remarquez qu'en temps normal, je suis toujours plus que favorable à la technique et au progrès et que je n'avais jamais soulevé le problème jusqu'à ces derniers mois. Je ne suis pas en train de crier au loup à propos d'un sujet que je ne comprends pas. ».

Le message était censé être confidentiel, mais il a été accidentellement posté sur le site Web de Brockman quand il a invité l'expert en réalité virtuelle, Jason Lanier, sur son site. Il a été retiré par Brockman, mais un visiteur a eu le temps de prendre une capture d'écran de la déclaration, et l'a affiché sur Reddit avant qu'il ne disparaisse.
L'idée de cette « révolte des robots/révolte des esclaves » est partout dans l'air dans les milieux spécialisés. Elle avait été abordée en détails par Patrick Tucker, ancien rédacteur en chef adjoint de The Futurist, auteur de What Happens in a World That Anticipates Your Every Move? et actuellement spécialiste des technologies pour le site DefenseOne.com (le 17 avril 2014). Tucker citait notamment Steven Omohundro, dans un rapport pour Journal of Experimental & Theoretical Artificial Intelligence. (A noter qu'Omohundro ne voit de solution pour éviter la catastrophe que de recourir aux méthodes anciennes de développer de nouveaux systèmes à l'intérieur d'un cadre de maîtrise permettant d'en garder constamment le contrôle, - le contraire des méthodes actuelles de rejet de tout contrôle, de dérégulation, du libre-cours comme du libre-marché laissés au développement de toutes choses dans ces domaines avancés. Il semble qu'il soit un peu tard pour changer, à condition même d'en être convaincu contre tout l'évangile impératif du Système...).
Dans le film Transcendance, qui sort au cinéma vendredi, un programme informatique conscient entame une quête incessante de pouvoir, en étant par le fait, sur le point de détruire l'humanité. C'est de la science-fiction, mais l'informaticien et chef d'entreprise Steven Omohundro dit que l'intelligence artificielle « anti-sociale » n'est pas seulement à l'avenir possible, mais probable, à moins que nous ne commencions aujourd'hui à concevoir des systèmes d'IA très différents. La plus récente des études d'Omohundro [...] dénonce ce cas. Nous pensons que des programmes d'intelligence artificielle ont quelque chose d'humain. En fait, les systèmes informatiques perçoivent le monde à travers une lentille étroite, ce pourquoi ils ont été conçus. [...]

Plus logique est le robot, plus probable est la chance qu'il vous battra jusqu'à ce que mort s'ensuive. Le problème d'une intelligence artificielle poursuivant sans relâche ses propres objectifs à l'exclusion manifeste de toute considération humaine, est parfois appelé « l'emballement de l'IA ». La meilleure solution, dit Omohundro, est de ralentir dans l'élaboration et la conception de systèmes d'IA, pour adopter une approche par couches, semblable à la façon dont les anciens bâtisseurs utilisaient des échafaudages en bois pour soutenir les ogives en construction pour seulement retirer ensuite l'échafaudage lorsque l'ogive est achevée. ».

Cette approche n'est pas celle que nous prenons aujourd'hui, en mettant de plus en plus de ressources et de responsabilités sous le contrôle de systèmes de plus en plus autonomes. C'est particulièrement vrai en ce qui concerne l'armée étasunienne qui cherche à déployer un plus grand nombre de systèmes autonomes létales, ou des LARs [pour Lethal autonomous robots, Robots létales autonomes - NdT] dans des conditions plus que contestables. Sans de meilleures garanties pour se protéger de ces systèmes, un jour, en agissant rationnellement, nous aurons de plus en plus de mal à les désactiver.
Ce qui est remarquable dans toutes ces appréciations, à commencer par celle de l'icône du service de la science qu'est Hawking, c'est la progression d'un pessimisme, d'une part à la fois catastrophique et eschatologique, d'autre part appuyé sur des faits concrets et entrant dans des perspectives de plus en plus précisément datées, et de plus en plus proches sans aucun doute. Sur le fond de cette question des «
robot vs sapiens », beaucoup a été dit (voir par exemple le 13 mai 2013 et le 7 juin 2014), toujours dans le même sens d'une sorte d'inéluctabilité de la montée de la machine (du « robot ») dans notre univers ; mais il est manifeste que la tendance exaltante de cette perspective (type-Google), qui y voit une sorte de triomphe du sapiens trouvant dans l'IA son adjoint idéal comme un Jésus fermement installé à la droite de Dieu, le cède de plus en plus aux tendances crépusculaires dont on a eu ci-dessus un aperçu.
Terminator on trial: the ethics of lethal robotics
© army-technology.com
Les essais d'un robot létale autonome
Ce pessimisme-catastrophique, s'il est un signe dans le cas qui nous occupe de la progression de plus en plus incertaine d'une science qui menace de plus en plus de se retourner contre son créateur, est également un signe d'une tendance plus large rassemblant tout un faisceau de possibilités catastrophiques en voie de devenir des probabilités, dans nombre d'autres domaines.

Que l'on se tourne vers l'environnement qui accélère vertigineusement son travail de destruction du monde, vers une politique qui s'est transformée en désordre accouchant d'un hyper-désordre et semant les crises sans le moindre sens sinon celui de la catastrophe, vers la catastrophe psychologique et sociale qui affecte des populations entières et les plonge dans la paupérisation, vers les dérives sociétales qui déstructurent les sociétés et pulvérisent les identités à une rapidité vertigineuse, vers le système du technologisme qui se heurte à des impasses qu'il a lui-même mises en place, vers la bureaucratisation et la militarisation des structures d'ordre se retournant contre le citoyen qu'elles sont censées protéger et servir, - tout paraît s'agglomérer en une conjonction de perspectives effectivement catastrophiques qui ne peuvent se définir que par l'horizon eschatologique de la phase ultime de l'effondrement du Système.

Cette affaire de l'hypothèse de « la révolte des robots » n'a rien qui doive nous surprendre. Pourtant, qu'un Hawking, personnage peu commun, présenté avec bien des raisons comme héroïque par sa lutte permanente contre la maladie pour continuer son œuvre de scientifique dans le sens d'une conviction optimiste de l'avenir de la science par rapport à l'espèce humaine, en arrive au constat exactement inverse que la science est peut-être, sinon sans doute sur le point d'accoucher le monstre qui nous dévorera tous, - et bien plus vite encore qu'on pourrait croire, - voilà qui a de quoi nous secouer et nous faire admettre qu'il s'agit d'un événement important qui a tout son poids symbolique. On comprend que ce qui nous importe ici est moins la vérité d'une situation à venir que ce basculement de la perception par la psychologie, conduisant à un jugement complètement inverse des perspectives, à une vision brusquement passé au pessimisme catastrophique et eschatologique.

Le constat que nous en tirons est celui de la diffusion grandissante d'une nouvelle psychologie, qui s'est développée à une très grande vitesse depuis l'automne 2008 (la grande crise financière), qui s'impose en cette année 2014 du centenaire de la Grande Guerre pour devenir une véritable nouvelle pensée, en même temps que l'année 2014 s'impose de plus en plus comme la borne une nouvelle époque. Nous sommes entrés dans les temps de la Fin des Temps pour notre civilisation devenue contre-civilisation, et ainsi devenue autodestructrice d'elle-même. Plus que jamais, il est temps de se tourner vers la métahistoire, bien plus que vers les robots et leur révolte, pour espérer se rapprocher du moment où l'on pourra percer l'énigme qu'est devenu notre temps.