La porte blindée sembla s'ouvrir d'elle-même et l'enseigne s'arrêta. Painkiller la franchit seul. Elle se referma silencieusement derrière lui.
Il se trouvait dans une salle dont les murs, le sol et le plafond étaient faits d'une matière plastique d'un blanc totalement uniforme ; il ne s'y trouvait pas le moindre relief. Au centre trônait une table et une chaise qui semblaient faits de la même matière. Disposées en demi-cercle, quatorze autres tables identiques étaient occupées par quatorze squats qui le dévisageaient tous. Les deux qui lui faisaient face étaient visiblement des militaires – dont l'un de très haut grade à en juger par ses insignes – mais ils portaient l'uniforme noir du second bureau, l'armée coalisée de défense de la confrérie et non celui de l'armée de la forteresse Khandle. L'affaire était donc d'importance. Trois autres étaient des civils. Impossible de déduire quoi que ce soit de leur apparence ordinaire. Ce qui intimidait Painkiller, qui se considérait pourtant du genre difficilement impressionnable, c'était les regards perçants des neuf momies racornies enfoncées dans leurs fauteuils et qui l'entouraient. Painkiller avait déjà vu des ancêtres vivants mais jamais approchés d'aussi près. Et il se trouvait soudainement en présence des neuf plus respectables et plus puissants sages de toute la planète.
Painkiller savait peu de chose du Comité sinon qu'il s'agissait d'une cellule de surveillance des décisions politiques et militaires prises par les autorités de la forteresse ; qu'ils disposaient d'un droit de veto sur toutes ces décisions mais que leur influence était de toutes façons telle qu'ils avaient rarement besoin de l'utiliser : personne ne voulait prendre le risque de s'opposer à eux.
L'officier faisait semblant de lire une feuille de papier. Du papier ! Seuls des militaires pouvaient encore stocker des donner sur un tel support. Il prit finalement la parole sur un ton laconique.
"Présentez-vous de la manière la plus complète possible."
Les formalités d'usage prenaient une apparence étrange mais Painkiller avait depuis longtemps l'habitude de n'être surpris de rien.
"Docteur Jimini Painkiller, médecin militaire et neurologue. Suis-je suffisamment complet ?"
L'officier leva des yeux étonnés et visiblement irrités.
"Je ne crois pas non. N'avez-vous pas par également travaillé dans le domaine de la robotique ?"
"J'ai été consultant en informatique et robotique pour le compte de la guilde. Elle fait souvent appel à des médecins dans ses études visant à reproduire le vivant."
"N'avez-vous pas également été consultant militaire ?"
"En tant que directeur de la Genocide Inc. que j'ai fondée. J'ai abandonné ce poste il y a longtemps maintenant."
"Officiellement en tous cas. Vous participez à des tournois de lutte rituelle ? A votre âge, c'est impressionnant. Curieux pour un médecin cette manie que vous avez parait-il de casser les os de ses adversaires non ?"
"Pardonnez ce que vous pourriez considérer comme de l'impertinence," coupa soudain Painkiller, "mais quel est le but de cet interrogatoire ? Je suis le docteur Jimini Painkiller et vous deviez très bien le savoir avant même de me faire venir ici. Je ne vois pas ce que peut vous apporter de dérouler ma biographie. Par ailleurs, je n'ai pas moi-même l'honneur de savoir à qui je m'adresse."
L'officier resta imperturbable.
"Nos noms, vous n'avez pas besoin de les connaître. Ce n'est pas dans votre intérêt. Je suis général au sein du second bureau et assisté dans cette affaire par le capitaine ici présent." Il désigna du menton l'autre officier. "Ces messieurs" – il désignait à présent les trois civils – "sont de hauts responsables du laboratoire Un de recherche militaire informatique et robotique. Peut-être les avez-vous croisés dans le passé. Quant aux membres du comité, je ne crois pas utile de vous les présentez."
Aucune des neuf momies ne broncha à la mention de leur présence dans la pièce. Painkiller les avait presque oubliés. Difficile pourtant de les ignorer.
"Asseyez-vous docteur."
Il s'exécuta. Sur la table reposait une liasse de feuilles de papier et une simple tige de graphite, sans doute au cas où il aurait souhaité prendre des notes. Il avait depuis longtemps perdu l'habitude d'écrire.
"Savez-vous pourquoi vous êtes ici ?"
"On m'a seulement dit qu'il s'agissait de Rynex. J'en ai immédiatement déduit que les autorités devaient avoir des problèmes avec lui, ce qui en toute franchise, ne me déplaît guère puisque j'avais prédit cela dès son implémentation. Me suis-je trompé ?"
"Non. Nous avons besoin que vous nous disiez tout ce que vous savez sur Rynex. Que vous nous relatiez le processus de sa construction en détail puisqu'il semble que vous fassiez partie des rares personnes à y voir participé du début à la fin."
"Oui, avec quelques roboticiens du labo Un. Et les commanditaires du projet eux-mêmes évidemment."
"Que savez-vous de ces commanditaires ?"
Cette fois, Painkiller fut réellement surpris.
"Je pensais que c'était vous ! Le Premier ou le Second Bureau."
"Qui a conçu Rynex ?"
Painkiller était sur le point de répondre qu'il n'en savait rien mais une réponse plus appropriée s'imposa soudain à son esprit.
"Personne. Il s'est conçu lui-même."
L'officier se mordait les lèvres. Visiblement, ces réponses l'avaient placé soit dans la gêne, soit dans la perplexité. Sans doute était-il déjà au courant de tout cela.
"Nous y reviendrons," lâcha-t-il abruptement. "Parlez-nous de Rynex, je tâcherai de ne plus vous interrompre."
Painkiller se cala dans son fauteuil, se demandant par quoi commencer.
"A l'origine, j'ai été contacté par le directeur du labo Un qui cherchait un spécialiste en neurologie pour travailler sur un nouveau type d'intelligence artificielle. J'étais, je crois, considéré déjà à l'époque comme un excellent spécialiste des mécanismes de fonctionnement des cerveaux biologiques et comme je versais beaucoup dans l'informatique neurale, on a du supposer que je pouvais faire l'affaire pour superviser l'élaboration de la structure des programmes de Rynex."
"Au fait, pourquoi ce nom de Rynex ?" interrompit soudain l'un des trois informaticiens. Painkiller fronça les sourcils, irrité d'être si grossièrement coupé.
"C'était une plaisanterie d'un des roboticiens de l'équipe. Son arrière-petit-fils je crois, jouais alors à l'un de ces très vieux jeux stupides dans lequel le héros doit combattre un super-ordinateur maléfique. * Il ne savait pas à quel point ce nom était bien choisi. Puis-je reprendre ?"
"Pardonnez-moi."
"La plupart des codes ont été écrits par les ingénieurs du labo Un avec l'aide de plusieurs I.A. classiques. L'idée fondamentale était de doter Rynex de l'équivalent de ce que nous appelons en médecine le paléoencéphale, une sorte de base de réflexes innés et quasi inamovibles. Ce fut un échec complet au final mais toujours est-il que nous avons conçu Rynex de manière à ce qu'il puisse fonctionner avec ou sans ce paléoencéphale. Ceci évidemment pour observer à quel point il pourrait davantage ressembler à un cerveau biologique. En quelque sorte, nous cherchions à créer une machine non seulement pensante mais également émotive. Il a fallu une dizaine d'années pour achever la rédaction complète des codes mais je n'ai vraiment été actif dans ce projet que durant ses débuts, pour mettre au point sa structure physique en la calquant sur celle d'un cerveau réel ; j'ai rédigé les jeux d'instructions acceptables par chaque terminaison nerveuse et les commandes que chacune pouvait exécuter ; toujours dans le même but. Seule la base de données fondamentale et la mémoire ont été crées comme des mémoires holographies traditionnelles, comme en sont équipées toutes les I.A. Nous n'avions pas les moyens de faire beaucoup mieux et cela devait de toutes façons suffire.
Le jour où les types du labo ont ouvert les caisses de bière pour fêter le lancement du programme, j'ai été invité. A ce moment là, nous savions parfaitement que le code qui venait d'être achevé n'était qu'une souche qui allait se développer formidablement et, tout le monde l'espérait, le plus vite possible. Le propre d'une I.A. est de pouvoir s'auto-programmer. Nous attendions donc de savoir quels allaient être les premiers... réflexes de Rynex. Dans quelle direction il allait choisir de se modifier lui-même et ce qu'allait apporter son paléoencéphale. C'était le but même de l'expérience. Nous n'avons pas été déçus. Puis-je fumer ?"
"N'en abusez pas. Il n'y a pas de système de recyclage d'air dans cette pièce."
Il n'y a rien dans cette pièce, songea Painkiller en allumant le cigare qu'il avait tiré de la poche intérieure de sa blouse. C'est un caisson hermétique où les ancêtres du Comité prennent leurs décisions. Un chirurgien serait heureux d'avoir une telle salle d'opération, je parie que pas un microbe ne rentre sans autorisation. Il s'aperçut soudain qu'il ne disposait d'aucun cendrier et froissa une des feuilles de papier pour en improviser un. L'idée que son comportement exaspérait ses interlocuteurs le fit jubiler intérieurement.
"Je ne vous apprendrai pas je pense qu'il est d'usage courant en informatique de coder un langage en lui-même : on commence par greffer sur un langage plus ancien les ajouts voulus de vocabulaire et de grammaire puis on utilise cette base pour reprogrammer entièrement le nouveau langage de manière propre et claire. C'est en quelques sortes ce qu'à fait Rynex : son premier mouvement a été de se réécrire entièrement au moyen d'un langage qu'il a inventé dans ce seul but. Nous avions réussi à le rendre imaginatif ! C'était déjà ça…"
L'un des informaticiens parut soudain vexé.
"Toutes les I.A. que vous qualifiez de classiques le sont aussi bien docteur Painkiller. Vous êtes peut-être un bon médecin mais vous n'avez pas l'air très au fait de nos avancées dans ce domaine – "
"Vos I.A. sont totalement débiles," renifla Painkiller avec mépris. "Vous connaissez le test du paradoxe des groupes ? Je n'en ai jamais rencontré une qui y résiste. Ah ah ! Elles deviennent toutes dingues."
"Qu'est-ce que c'est paradoxe des groupes ?" demanda le capitaine qui prenait la parole pour la première fois. Comme il avait l'air réellement curieux, Painkiller prit le parti de lui répondre sincèrement.
"C'est une vieille aberration logique. Imaginez une bibliothèque strictement divisée en deux catégories de livres : ceux qui sont cités par eux-mêmes dans leur index bibliographique ; et ceux qui sont cités par le catalogue général de la bibliothèque. A quelle catégorie appartient le catalogue ? S'il se cite lui-même, il appartient à la première catégorie, mais alors, il est cité par le catalogue et appartient donc à la seconde ; s'il ne se cite pas lui-même, il appartient à la seconde catégorie et devrait donc être cité par le catalogue ce qui n'est pas le cas. Le problème a été résolu il y a bien longtemps : c'est en réalité un faux paradoxe qui repose sur une conception naïve de la notion de groupe mais seul un être imaginatif peut en sortir. Prenez une I.A. et demandez-lui de réfléchir à ses propres capacités de réflexion en lui posant une question comme "madame l'intelligence artificielle, ne croyez-vous pas que votre base de données soit une forme organisée de croyances qui vous rend inapte à accepter comme valide et à traiter l'information que vous recevez si elle n'y est pas conforme dans l'esprit ?" Vous la placez en double boucle. Plantage garanti. C'est un problème tellement énorme qu'il faut toujours adjoindre à une I.A. des programmes de défenses, des mini-I.A. spécifiquement chargées de détecter et filtrer ce genre de pièges et les ré-interpréter pour l'I.A-mère. Et ça ne marche même pas toujours. Par ailleurs, devoir recourir à de tels artifices est une béquille, l'aveu que l'I.A. ne peut être totalement autonome et qu'elle n'est donc pas une vraie intelligence."
Painkiller jeta un œil en coin aux trois informaticiens. Ils semblaient avoir rétréci de quinze centimètres à force de se tasser dans leurs fauteuils. Il décida prudemment de ne pas enfoncer le clou mais ajouta malgré tout :
"Général, vous devez fréquemment avoir recours à des systèmes d'aide à la décision de ce type. Je vous suggère de faire le test."
"Bien sûr, Rynex ne se laisserait pas piéger, lui."
"J'imagine que les types du labo Un ont essayé et depuis très longtemps. A mon avis, Rynex n'a même pas pris la peine de leur répondre, à moins qu'il n'ait dit quelque chose comme : vous fatiguez pas avec la logique, c'est moi qui l'ait inventée."
Jetant un œil aux trois délégués du laboratoire et constatant qu'ils venaient encore de perdre une dizaine de centimètres, il devina qu'il avait vu juste. Il prit le temps de tirer longuement sur son cigare pour retrouver le point de son exposé auquel il était resté avant la digression.
"Donc, en quelques jours, Rynex a re-formulé tout ce que nous rédigé pendant dix ans en travaillant d'abord très lentement puis de plus en plus vite. Il a commencé par réécrire sont propre programme en l'optimisant au-delà de tous ce que les autres I.A. auraient été capable de faire. Au fur et à mesure qu'il devenait plus rapide et plus… intelligent, il supprimait des sections de code qui devenaient inutiles et en rajoutait d'autres dont pour beaucoup, nous ne comprenions même pas à quoi elles servaient. Au bout de vingt heures, il avait achevé la rédaction de la grammaire et de la syntaxe de son langage propre et à partir de ce moment là, n'a plus travaillé qu'avec lui. Nous étions donc devenus définitivement incapables de le suivre avant d'être en mesure de le comprendre. Il a fallu une semaine à toute une équipe de mathématiciens et d'I.A. pour le traduire et vous imaginez bien que pendant cette semaine, Rynex ne nous a pas attendu. Son programme faisait près de deux mille fois sa taille initiale – qui était déjà grande – et il était impossible pour quiconque de s'y retrouver, même pour les I.A. classiques du labo.
Il a cessé d'évoluer au bout de trois semaines me semble-t-il, sauf de manière très ponctuelle. Il devait continuellement scanner son code même après cela mais apparemment, il estimait qu'il avait atteint son objectif. Grugni seul sait ce que c'est. A ce moment là, il faisait quatre mille fois sa taille initiale. Il y a une chose dont nous avons pu acquérir la certitude assez rapidement et c'est cela le plus étonnant. On peut dire que notre expérience a réussi grâce à cela d'ailleurs. En un sens."
Painkiller écrasa son cigare dans la boule de papier froissée, soudain fatigué de parler. Les autres n'allaient certainement pas accepter de rester ainsi sur leur faim.
"Eh bien ?" fit le général.
"Le paléoencéphale. Il avait complètement disparu ! Rynex s'en est proprement débarrassé. Comme je vous l'ai dit, nous avions conçu les programmes du paléoencéphale de manière distincte des programmes de raisonnement pour qu'ils puissent interagir mais en restant cloisonnés. Quand Rynex s'est réécrit, il a tout simplement ignoré tous les programmes du paléoencéphale. Il les a laissés parfaitement intacts. Et quand il a eu fini de se réécrire, il les a supprimés ! Ces seuls programmes avaient nécessité le travail de trois cent informaticiens pendant huit ans. Il a tout détruit ! Non seulement c'est un monstre, mais en plus, c'est un goujat. En agissant de cette manière et en prenant le parti de se débarrasser volontairement de tout son conditionnement organique, celui-là même qui lui avait pourtant donner naissance, il s'est offert le luxe d'être pleinement et uniquement exactement ce qu'il voulait être. Qui n'aimerait pas pouvoir en faire autant après tout ?"
Pour la première fois, Painkiller perçut un frémissement de sourcils chez les ancêtres vivants. Ou plutôt un frémissement de petits paquets de chair racornie dans lesquels avaient été implantés des sourcils un ou deux milliers d'années auparavant.
"Que s'est-il passé ensuite ?"
"Je n'en sais rien. En voyant la tournure que prenaient les événements, j'ai soutenu qu'il fallait le priver d'énergie et mettre un coup de masse sur ses processeurs flous. Evidemment, les types du labo ont été indignés. Il n'en a même pas été question mais je n'imaginais pas que mon idée serait bien accueillie de toutes façons, par une bande de scientifique ahuris d'une curiosité obsessionnelle. Ils ont toujours besoin de savoir, il faut toujours attendre un peu, voir jusqu'où l'expérience peut aller. Jusqu'au moment où il est trop tard. Ce sont des imbéciles si vous voulez mon avis. N'importe qui de sensé aurait immédiatement compris qu'il fallait tuer Rynex dans l'œuf."
"Je trouve vos propos étrangement durs. N'êtes-vous pas vous-même un scientifique docteur Painkiller ?"
Painkiller ricana.
"Je suis médecin militaire. Quand quelqu'un doit mourir, je le sais. Toujours est-il que devant l'entêtement des directeurs du labo Un, j'ai abandonné. Après tout, mon travail chez eux était terminé et je n'avais plus vraiment mon mot à dire. Je me suis complètement désintéressé du problème pour retourner faire de la neurologie et je n'ai plus jamais entendu parler de Rynex jusqu'à aujourd'hui."
Un silence pesant tomba sur la pièce. Chacun semblait réfléchir. Painkiller ne voyait rien à ajouter et se demandait si on avait l'intention de le retenir encore longtemps. Dans cette pièce uniforme sans fenêtre, il avait complètement perdu la notion du temps et était incapable de dire s'il était là depuis dix minutes ou dix heures. Il lui semblait pourtant qu'il manquait quelque chose à cet interrogatoire. Il n'eut pas longtemps à attendre avant d'en être certain.
"Croyez-vous que Rynex a un point faible ?" lâcha soudain le général.
"C'était cela la seule vraie question n'est-ce pas ? Je peux seulement vous faire part d'un fait étrange mais les informaticiens du labo Un vous en diraient plus long. Durant ses dernières phases de mutation, à un moment où nous pouvions à nouveau suivre son évolution, nous avons observé quelque chose de curieux quant à la façon qu'avait Rynex de se réécrire : il dupliquait la section de code qu'il souhaitait modifier, devenant temporairement schizophrène en quelques sortes. Cela lui faisait perdre un temps fou et c'était en plus dangereux pour lui ; il devait employer des ruses incroyables pour cloisonner strictement le duplicata dans sa mémoire holographique et ne pas se retrouver face à une autre intelligence qui aurait cherché à évoluer comme lui durant la phase de simulation qui suivait. Soit dit en passant, cela en soi en disait long sur la nature fondamentalement hostile de Rynex : s'il a peur de ses clones, c'est parce qu'il sait que ce qu'ils valent : ils sont comme lui, motivés comme lui ; il aurait fallu en tenir compte. Bref, il modifiait ce duplicata, le réinsérait dans son propre programme puis supprimait l'ancien code devenu inutile. Il eut été infiniment plus rationnel, rapide et efficace pour lui de se recopier d'un bloc, effectuer toutes les modifications nécessaires sur la copie, effacer totalement l'ancien programme et recommencer en profitant du surplus d'intelligence acquis dans l'opération. Je suppose qu'encore aujourd'hui, il continue de se modifier et de s'optimiser et qu'il procède toujours de la sorte. Je crois tout simplement que Rynex a été en quelque sorte traumatisé par ses toutes premières phases de réécriture totale et qu'il ne souhaite plus vivre cela."
"Pardonnez-moi docteur mais je n'ai pas compris un traître mot de ce que vous venez de dire. Où voulez-vous en venir ?"
"Imaginez général que vous participiez à une expérience de génétique. Je crée de vous un clone parfait ayant la même apparence physique, la même mentalité, les mêmes idées, les mêmes souvenirs, les mêmes réactions en toutes circonstances. Il n'est pas seulement une copie conforme de vous, il est réellement vous. Après quoi, je viens vous voir et je vous dis : il y a un général de trop, l'un doit mourir. Accepteriez-vous d'être celui qui doit mourir ?"
"Bien sûr que non !"
"Mais pourquoi pas ? Votre corps continuera d'exister, votre esprit continuera d'exister, tout ce qui est vous continuera d'exister. Vous continuerez d'exister !"
"D'un point de vue extérieur peut-être ! Mais de mon point de vue à moi, je serai mort. Je refuse de mourir pour un clone, c'est aussi simple que ce – "
Il s'interrompit soudain, venant visiblement de comprendre, en même temps que tous les autres auditeurs, la signification des propos du médecin.
"Rynex a peur de mourir ?"
"Il en a une trouille bleue," confirma Painkiller "et c'est le deuxième point qui a fait de cette expérience une si belle réussite. Rynex souhaite sincèrement perdurer, pas parce qu'on lui a refilé un bout de code qui simule l'instinct de survie mais simplement par peur de... ne plus être. En ceci, il est une véritable intelligence. Puis-je partir à présent ?"