Avoir peur de l’Intelligence Artificielle est un risque mortel

30 mars 2023

Lors d’un exercice d’entraînement militaire que j’avais échoué au début des années 90, j’avais pu expérimenter physiquement et émotivement à quel point la peur est potentiellement mortelle.

Je devais sauter dans une fosse en béton inondée et obscure, nager au fond et repérer l’entrée d’un pipeline ( tout petit ) , y pénétrer , le parcourir en apnée et ressortir à l’air libre à l’autre bout dans une autre fosse.

Le problème était que l’obscurité ne me permettait pas de deviner si j’avais assez d’air stocké dans mes poumons pour ressortir. Au milieu du segment de pipeline dans lequel je progressais à tâtons, je me suis laissé envahir par la peur de ne pas arriver au bout, et par la conviction que ma mort était inévitable et imminente.

Les instructeurs spécialisés en exercices nautiques observaient ma progression et son interruption. Ils m’ont évidemment rattrapé, sorti et propulsé vers l’air libre. Nombreux étaient ceux qui échouaient.

J’avais échoué l’exercice, car au lieu de me propulser avec détermination bras tendus dans le boyau de métal et de ressortir confiant en quelques secondes, j’avais laissé mon cerveau anticipé l’échec et le statu quo m’avait figé et mis en danger.

En réalité je n’avais pas totalement échoué, car l’exercice n’était pas destiné à faire de moi un commando marine, mais à me faire prendre conscience que la prise de risque est gagnante alors que la peur non maîtrisée est mortellement dangereuse.

Dans un environnement hostile , avancer est plus sécuritaire que stagner, quoi qu’il arrive.

Est-ce que l’intelligence artificielle fait peur ? OUI , évidemment puisque c’est une innovation et l’humain pense rapidement au pire, puis se fige, s’étouffe dans sa crainte et sa terreur et ne réfléchit plus.

Depuis hier, beaucoup de médias se focalisent sur la pétition de Future of Life Institute et en extraient trop vite des phrases hors contexte.

Par exemple :

« Devrions nous laisser les machines inonder nos canaux d’information, de propagandes et de mensonges ? »

Mais la propagande et les mensonges n’ont pas attendu l’IA ! Ils existent depuis que le monde est monde.

La Deuxième Guerre mondiale a vu le régime nazi et l’antisémitisme propulser la propagande et le mensonge à un niveau de performance inégalé. Ainsi le texte de propagande anti-juive le protocole des sages de …. Etc…était entre la fin du XIX siècle et aujourd’hui encore un sinistre exemple, évidement sans aide d'IA.

Vous pensez peut-être qu’aujourd’hui avec l’IA ce serait pire ?

Hé bien non, absolument pas ! Ce serait la même chose, ni plus ni moins. Le public est moins crédule, donc la propagande est plus sophistiquée, mais le problème est le même.

Ceux qui voyaient dans un peuple ou un autre la cause de tous les complots et de tous les malheurs voulaient bien y croire. La caractère grossier ou très techniquement habile d’une propagande ne change rien au fait que les gens croient ce qu’ils veulent bien croire .

Autre extrait :

« Devrions nous risquer de perdre le contrôle de notre civilisation ? »

Là c’est vraiment être dans le pipe-line, en panique, et c’est la fin de la réflexion et la mort assurée.

Quelle est cette civilisation admirable qu’il faudrait continuer de conserver dans son statu quo ? Moi je ne la vois pas. En revanche je sais que l’IA est une innovation qu’il conviendrait de mettre au service de notre réflexion pour régler nos problèmes civilisationnels. Bien sûr les malfaisants utilisent l'IA, mais sommes nous assez faible pour leur en laisser le monopole et mettre un moratoire à la recherche pendant que les délinquants continuent à développer leurs outils ?

Car si nous dévalorisons l’#IA, si nous mettions de côté les recherches, l’enthousiasme , les budgets , les levées de fonds de start-up travaillant en #AI, alors on resterait figé pendant que les criminels, régimes autoritaires, etc… n’ont aucun scrupule à continuer de l’utiliser.

En 1994, les universitaires américains réclamaient dans une pétition la fin d’internet et son retrait d’accès pour le grand public. Ils le faisaient en raison de la crainte que le réseau soit monopolisé par les groupes néonazis. Effectivement il y avait à l’époque une surreprésentation des sites web néonazis. Puis le web s’est développé globalement avec ses avantages bénéfiques et aussi son mauvais usage criminel. Il faut avancer en acceptant les risques et y faire face et ne pas figer et reculer, le danger est dans la stagnation et le recul.

L’IA fait peur ? Non c’est l’usage qui fait peur, et qui contrôle l’usage ? Nous même par notre propre sens du discernement. Ce n’est pas une réglementation qui permet d’être intelligent, c’est le sens du discernement.

L’humain croit ce qu’il veut bien croire (excellent film artisanal afghan à ce sujet en 2004 : Osama ) . L’humain croit ce qui l’arrange, ce qui le conforte. Que ce soit produit par une IA ultra performante ou un pamphlet haineux.

Dans mon pipeline, je n’étais évidemment pas mis en danger de mort par les instructeurs du camp militaire. Il y avait un plongeur dans chaque fosse, avec chacun deux détendeurs de respiration et la capacité d’extraire tout soldat pris de panique. Le pipeline avait la longueur standard d’un exercice normal en apnée (quelques mètres).

Mais dans l’obscurité et sans information ni réflexion, la panique m’avait privée de jugement et de discernement.

Avoir peur est une excellente chose pour rester alerte , mais si la peur prive d'action , la peur devient mortelle.

Notre agence d’#enquêtes et #investigations travaille pour les entreprises et les entrepreneurs afin de documenter des risques de #fraude , de trahison, de déloyauté, etc…et l'IA nous sert.

Notre travail repose sur la connaissance des humains et des modes opératoires des délinquants. Nous utilisons une intelligence artificielle spécifique pour optimiser des recherches documentaires dont les résultats sont lourds de conséquences pour les personnes impliquées.

Au lieu de passer 80 % du temps d’une enquête à fouiller, et seulement 20 % à analyser, notre outil IA spécifique aux enquêtes nous permet maintenant de consacrer 20 % du temps à la recherche et 80 % du temps à nos analyses , très humaines et responsables.

L’IA ne nous remplace pas, elle remplace ce qui était pénible et imparfait et nous offre le luxe et l'avantage de faire un travail davantage humain, artisanal et soigné.

Est-ce que des dictatures , des délinquants, des criminels, pourraient bénéficier des mêmes progrès à une échelle surdimensionnée ? Oui certainement et ils le font déjà ( les faux profils LinkedIn qui vous envahissent en sont l’avant-garde) .

Mais face à l’adversité, rester figé dans le statu quo et le repli c’est laisser la panique nous tuer.

Il ne faut donc pas se tromper de peur, c’est le manque discernement qui est terrifiant, pas les innovations.

Une pause prudente et irraisonnée c’est potentiellement mortel quand le temps presse et qu’il ne reste pas beaucoup d’oxygène. Il vaut mieux nager vite et fort, quoi qu’il y ait au bout.