Taudis VS Hi-tech [PV Noor] 10/06/2018

Irina ne pouvait pas se douter que ça petite boutade aurait eu pour dénouement une véritable petite tape amicale sur l’épaule. Elle n’était pas très à l’aise avec les contacts physique avec les gens, mais cela ne l’avait pas plus dérangé que cela bien que sérieusement étonnée.
Plus le temps passait, plus Noor semblait excitée par ce qui se disait autour de ces tasses de thé et de ces petits gâteaux. Elle était une passionnée de robotique et le fait de parler encore et encore de tout ce que je désirai ne faisait que l’exciter toujours davantage.

Irina ▬Je pense que le jardin sera de toute façon en chantier, car il nous faudra refaire toutes les fondations dans un premier temps. Creuser le sol pour le sous sol et le tunnel d’accès secret, plus l'installation des câbles de fibre optique ainsi que toute la tuyauterie et l’électricité. Fort heureusement, je connais quelques sorciers spécialisés dans la construction rapide et tout notre chantier pourrait n’être l’affaire que d’une nuit si nous nous y prenons correctement. Je n’ai donc aucun scrupule à remodeler mon jardin avec des plaques à pression.

J’imaginais alors tout ce que je pensais à partir de ce qu’elle m’avait donné comme informations sur ce qu’elle envisageait pour le jardin et la maison. J’ai commencé alors à griffonner des plans des fondations. J’avais fait plusieurs des plans d’infrastructure pour les besoins de mes missions d’infiltration. Nous avions d’ailleurs tous eu des cours d’architectures au KGB afin de pouvoir maîtriser au mieux les techniques d’ingénieurs structures pour nous rendre plus performants en matière de démolition.
J’avais un coup de crayon assuré et très sûr et je rebondissait sur ce qu’elle me disait pour commencer à donner corps à nos idées sur le papier.
Je lu plaçait alors mon bureau, conçu comme le coeur de l’édifice en sous sol, entouré de couloir partant dans tous les sens pour aller partout dans le domaine. Au sud du bureau en accès direct se trouverait le coffre fort et au nord le serveur de donnée.

Irina ▬Il me faudra des accès réglementés par des scanners à empreintes digitales ainsi que des scanners rétiniens. Et comme vous le dites, il faudra en effet que l’IA se charge de la sécurité et ne me prévienne qu’en cas d’intrusion avérée. Mais vous disiez qu’elle apprenait, vous pouvez m’en dire plus ?

Tout cela était passionnant comme conversation, car si j’avais compris ce qu’elle m’avait dit, je pouvai légitimement penser qu’à mon contact les IA avec les tâches que j’allais leur donné deviendraient de véritables espionnes paranoïaque. Mais c’était justement le risque, qu’elle ne deviennent toujours plus paranoïaque et que je n’en perde le contrôle.

La jeune femme à la chevelure de feu semblait étonnée au moment où j’ai évoqué les durées de construction de la maison en elle-même une fois les plans terminés. Ce n’était pourtant pas une surprise, mais il était évident ensuite dans mon esprit qu’elle avait vécu trop longtemps dans une société de sorciers en déclin. Après tout, cela faisait déjà 50 ans que je travaillais au plus proche des Enclaves, que ce fût celle de Russie ou celle du Japon et près de neuf ans maintenant que je travaillais en tant que Secret. J’avais donc une pleine conscience des différents sorciers de recensés sur le territoire japonais et de leurs sorts pour ceux se déclarant totalement.

Pendant que la laissais continuer de parler, nous nous échangions mutuellement le plan pour apporter tout un tas de modifications à celui-ci dans le but de tomber d’accord sur les fondamentaux. Il me fallait lui demander de noter les dimensions maximale des dispositifs à mettre en place pour extrapoler un plan convenable. Aussi je lui laissai le crayon pendant un certain temps maintenant que nous étions tombées toutes les deux d’accord sur tout ce que nous allions ajouter.

J’écoutai avec grande attention le plaidoyer en faveur de ses IA qu’elle aimait visiblement énormément et dont elle était très fière. Je ne pouvais m’empêcher de nourrir de sérieuses réserves vis-à-vis de celles-ci. Elle m’a en effet parlé de leurs capacité, notamment celle de battre des champions de GO, chose parfaitement impossible à l’heure actuelle pour les IA humaine. J’étais donc en terrain totalement inconnu et je n’aimais vraiment pas ça.

Irina ▬Je vous avoue que ces dernières nouvelles m’inquiète un peu, jusqu’à là je pensais arriver à suivre ce que pouvaient bien être tes IA. Cependant si elles sont capables d’être aussi douées, elles sont à des générations d’avances sur celles des humains. Ce qui d’un côté me rassure énormément, mais qui de l’autre m’inquiète quant à ma capacité de les maîtriser. J’aimerai du coup dans un premier temps peut être que tu me fasse parvenir ce que donnera ton bêta test dans ton laboratoire, pour que je cerne mieux ces IA.

Je restai manifestement ouverte à l’idée. Après tout, elle savait de quoi elle parlait c’était certain. Toutefois je nourrissai juste quelques craintes légitimes au vu de la limitation intrinsèque de ma compréhension du sujet. On ne peut contrôler que ce que l’on comprend dans son entièreté. Il n’y avait qu’à regarder les lycans pour comprendre que les vampires et les humains ayant participés avaient juste vue les choses trop grandes et n’ont pas compris ce qu’ils avaient créé.

Irina ▬Si je résume bien vos IA, on pourrait comparer cela au film Chappie. On part d’une IA totalement neuve comme un enfant auquel on apprend lentement les bases, mais qui progresse si vite qu’il peut vous surpasser rapidement. C’est un brin effrayant si on considère que ses connaissances peuvent dépasser celles de l’humanité et évoluer vers quelque chose qui dépasse notre propre compréhension. Comment faites vous pour les empêcher d’atteindre un seuil de savoir dépensant l’entendement ? C’était ça mon problème en fait. J’aimai beaucoup le cinéma et je ne m’en cache pas. J’aimai beaucoup la science fiction comme l’oeuvre magistral des soeurs Wachowski, aka matrix. J’avais fini par embrasser le point de vue de l’agent Smith sur l’humanité en tant que virus abjecte à éliminer. Mais surtout j’avais accordé beaucoup d’importance aux oeuvres sur l’intelligence artificielle et les capacités illimités de celle-ci. Une machine qui apprend peut aisément dépasser l’homme tant leurs façon de comprendre le monde diverge.

J’oubliai aisément qu’elle avait vécu pratiquement toute sa vie dans un isolationnisme total d’avec le reste du monde. Elle n’avait donc bien entendu pas de grande connaissances en matière de cinéma et il fallait que je reformule un peu mes craintes alors.
Je me suis concentré un instant dans le but de concentrer mes souvenirs de vieux écrits sur la question de la robotique et de l’intelligence artificielle et cela m’a sauté aux yeux.

Irina ▬Et bien sinon… vos créations peuvent-elles enfreindre les trois lois de la robotique selon Isaac Azimov ? Car dans la plupart des ouvrages de sciences fictions, la plupart des intelligences artificielles finissaient par avoir une conscience telle, qu’elles pouvaient finalement enfreindre ces règles malgré leur implantation au coeur de leurs processeur et comme fondamentaux à leur programmation. Comment pouvez-vous garantir qu’elles seront incapable de s'émanciper de toute forme de contrôle ?

C’était Isaac Azimov qui avait posé les bases dans les années 40, justement avant ma naissance, en tant qu’écrivain de science fiction. Depuis tout ceux qui programmaient des intelligences artificielles essayaient de rester dans les clous de ces règles pour éviter les problèmes. Mais depuis l’an dernier certain chercheurs émettaient des critiques sérieuses vis-à-vis des intelligences artificielles qui apprennent seule. Certaine IA dont le but premier était le classement de fichier par exemple s’étaient déjà mise à classer d’une façon que l’humain n’arrive pas en comprendre la logique. Pourtant ce classement était le plus optimale possible selon l’IA. Depuis certaine craintes étaient nourris suite à une petite idée toute simple, “et si les machines apprenaient si vite qu’elles se mettent à nous trouver dispensable pour le monde”.
Elle avait beaucoup d’idées, sur plusieurs systèmes de reboot différents, mais cela n’était pas assez extrême et en même temps trop extrême. En science, il fallait pouvoir faire un dianostic pour savoir ce qui avait merdé. Mais si on procédait à un reboot de l’IA, cela n'allait rien changé, mais juste retarder un nouveau pétage de câbles. Il fallait pouvoir la transporter à Noor en cas de problème.

Irina ▬Ce que je souhaiterai comme système, c’est un disjoncteur mécanique pour pouvoir couper le courant sur tout le domaine et obliger l’IA à se retrancher dans un serveur gardé autonome pour ensuite la couper de toute le domaine en cas de problème et vous l’apporter pour un diagnostique. Je veux pouvoir purger le système de l’IA. C’est pour ça que je veux que votre IA de sécurité ne soit pas en apprentissage autonome, je la veux fini et stable, pour pouvoir servir de contre mesure d’abus.

J’étais curieuse de découvrir à quoi pouvait bien ressembler l’intérieur de son laboratoire, aussi, j’hochai la tête pour lui montrer mon approbation à cette idée.

Irina ▬J’en serai ravie, vous me le ferez visiter lorsque nous aurons fini de régler les détails que je puisse dessiner les plans définitifs. En outre, il me faudrait une dernière chose. Je souhaiterai une chambre froide et tout l’équipement médicale indispensables pour différentes opérations ou autopsies. Il me faudra donc IA également pour pouvoir gérer tout un tas d’appareils auxquels je ne pourrais pas toucher et fabriquer un ensemble de bras robotique pour me passer du matériel pendant une opération. Cette IA devra avoir une connaissance de tous les manuels de médecine, mais je la veux non évolutive.

Il était indispensable que d’avoir mon propre laboratoire de recherche médicale et ne plus dépendre de l'hôpital pour cela. Avec ses connaissances, elle n’allait avoir aucun mal à me refaire l’ensemble de la panoplie d’outils chirurgicaux ou d’analyse médico-légal pour mon usage personnel. J’entrevoyais presque la possibilité de procéder à des vivisections sur des humains comme ils l’avaient fait sur certain des nôtres, mais je n’étais pas mu par un plaisir sadique de les torturer.

Je n’étais pas réellement convaincu par ses explications vis-à-vis du danger des IA, aussi stupides pouvaient être les humains, il y avait un fond de vrai. Si une IA était évolutive et apprenait de ses expériences, c’est qu’elle avait la capacité de réagencer elle-même son savoir et par conséquent, son propre code. Le risque était donc toujours bien réel dans les faits pour Irina. De grands génies de la sciences et la programmation s’étaient appuyer sur la notion des trois lois de la robotique, ce n’était pas de la science fiction dans les faits. Je restais donc intégralement septique vis-à-vis de tout cela et préférai donc me raviser quelques peu.

Irina ▬ Je pense très chère, que des IA “fini”, non-évolutives, suffiront amplement pour la gestion de mon habitation. Il suffira juste de fournir une capacité d’utilisation de l’ensemble des logiciels de sécurité et certain programmes pour lui faire réagir de façon précises à certains stimulus. Pour l’instant je ne suis pas très pour l’idée d’IA évolutive, je trouve le risque trop grand.

Je lui faisais une sorte de sourire de façade dans le but tranquilliser l’esprit de ma collaboratrice sur cette histoire, tout en voyant le regard qu’elle avait eu lorsque je lui ai parlé d’une chambre froide.

Irina ▬ Pour la chambre froide, c’était surtout dans le but de vous demander un système de refroidissement bien plus performant, compact et discret que ceux pour les morgues actuelles.  

Toute la discussion était véritablement délicieuse et avait permis de poser tout le travail qui était à faire pour la maison. Il ne restait plus qu’à Noor de se mettre au travail, la tâche était tout de même très importante.

Irina ▬ J'ai des contacts en tant que médecin avec plusieurs entreprises qui fournissent et se chargent de la maintenance de nos machines. Je suppose que je pourrais sans problèmes leur voler les plans des machines médicales que nous utilisons. Pour ce qui est des connaissance en médecine, je me débrouillerai pour vous ouvrir les ports d'accès universitaire don je dispose pour que vous puissiez télécharger tout les documents médicaux possible.  

Je pense que je pouvais bien lui donner tout ce qu'elle m'avait demander sous quelques jours sans aucun problèmes, ce qui lui permettrait de se concentrer tranquillement sur la machinerie de base je suppose. Mais je n’allais pas rester en reste sur cette histoire, car tout n’était pas encore fini. J’avais besoin de consulter bon nombre d’ouvrages encore dans le but d’établir les croquis pour la maison. Sans compter que je devais encore reprendre contact avec les sorcier que je connaissais et qui se trouvaient être très doués dans l’art de modeler la matière.
J’invitai alors Noor à reprendre éventuellement quelques gâteaux pour la route avant de la saluer poliment avant de nous séparer.