Jean-Gabriel Ganascia : « On ne peut pas être uniquement satisfait par la réalisation technique »
Jean-Gabriel Ganascia : « On ne peut pas être uniquement satisfait par la réalisation technique »
Organisée du 5 au 9 septembre à destination des étudiants de 2e année, la 15e édition de la Semaine Recherche & Innovation de l’EPITA permet aux futurs ingénieurs de se lancer à la découverte de domaines passionnants grâce à plusieurs conférences, présentations et ateliers en présence de nombreux chercheurs et professionnels reconnus, à commencer par Jean-Gabriel Ganascia.
Grand invité de cette nouvelle édition, chercheur reconnu évoluant au LIP6 (Sorbonne Université) et récent lauréat du Prix Recherche Universitaire du Livre lors du FIC 2022 pour son ouvrage « Servitudes virtuelles » (Seuil), Jean-Gabriel Ganascia a ainsi inauguré cette semaine en dédiant son intervention à la dimension éthique de son domaine de prédilection : l’intelligence artificielle (IA). Une manière de souligner que la célèbre citation de Rabelais, « Science sans conscience n’est que ruine de l’âme », reste plus que jamais d’actualité presque 500 ans après avoir été écrite !
Pourquoi avoir accepté d’inaugurer cette Semaine Recherche & Innovation de l’EPITA ?
Jean-Gabriel Ganascia : Je trouvais ça bien de pouvoir transmettre un certain nombre d’éléments d’information à des jeunes gens qui vont se lancer dans une carrière d’ingénieur et cela pour deux raisons. La première est liée à la définition de l’intelligence artificielle qui reste souvent très obscure, les cours techniques ne l’abordant généralement pas. D’où cette opportunité de l’expliquer dans toutes ses dimensions, ce que j’espère avoir pu faire de manière claire. La deuxième raison est que je souhaitais donner aux étudiants une sensibilité aux questions éthiques en leur partageant quelques exemples de ce qui pouvait être fait. Bien sûr, en une seule conférence, on n’a pas le temps de tout aborder, mais je crois que c’était tout de même important d’initier cet échange.
Le rôle d’un chercheur, c’est aussi de partager, de transmettre ?
Jean-Gabriel Ganascia : Le rôle d’un chercheur est d’abord de créer de nouvelles connaissances, mais aujourd’hui, dans cette vocation, rentre également l’innovation, c’est-à-dire le fait de transmettre ces connaissances dans le secteur socio-économique pour faire en sorte que les nouveaux savoirs soient utiles à l’ensemble de la société. À cela s’ajoute selon moi la nécessité d’éduquer l’ensemble de la population pour expliquer ce qui se fait. En effet, les dernières années que nous avons vécues (suite à la pandémie, notamment) ont montré qu’il pouvait parfois y avoir un malentendu, voire une hostilité d’une partie de la population vis-à-vis des scientifiques. Je crois donc qu’il est extrêmement important que ces derniers acceptent ce rôle de « passeurs » pour transmettre à des jeunes et à l’ensemble de la société. C’est aussi une question politique. En tant que chercheur, j’ai moi-même beaucoup souffert de voir de fausses informations circuler. Il faut parvenir à expliquer ce qu’est la démarche scientifique, rappeler qu’elle suit un certain nombre de procédures explicitables et transparentes, qu’il n’y a rien de caché. Bien entendu, il peut aussi y avoir des erreurs, mais c’est justement le rôle de la communauté scientifique que de les déceler et d’ensuite les éliminer. Et même s’il peut exister des chercheurs malhonnêtes, il faut bien avoir conscience que la majorité des chercheurs fait son travail de façon très honnête et que la communité scientifique fonctionne, non pas comme un groupe de pression ou un lobby, mais vraiment comme une communauté en quête de savoirs et de vérité.
Durant votre conférence, vous avez eu recours à de nombreux exemples tirés de la littérature et de la philosophie. Quand on veut être ingénieur ou chercheur en IA, est-il nécessaire d’avoir ce bagage littéraire ?
Jean-Gabriel Ganascia : On peut évidemment se lancer dans une carrière d’ingénieur avec un bagage différent – on ne va pas demander à tous les ingénieurs d’avoir également une formation de philosophe –, mais je crois qu’il est tout de même important de bien comprendre les références employées dans la communauté des chercheurs. Par exemple, aux États-Unis, la science-fiction joue un rôle extrêmement important dans l’imaginaire des hommes d’affaires : on ne peut pas comprendre complétement les grands projets qu’ils mènent sans avoir en tête ce que sont ces arrière-fonds imaginaires et culturels. Je pense que les ingénieurs ont donc tout intérêt à les connaître, d’autant plus que ces univers peuvent également les passionner à leur tour puisqu’ils vont très souvent dans le sens de ce qui les motive au départ. Ce n’est donc pas une obligation, mais c’est tout de même souhaitable. Au fond, on ne peut pas être uniquement satisfait par la réalisation technique, par le fait que ça marche : il y a aussi une finalité, un objectif autre, pour répondre à des demandes, des désirs et aider pour le futur, pour transformer la société. Ces transformations peuvent se faire pour le meilleur comme pour le pire et il faut justement, quand on se lance dans une carrière d’ingénieur, avoir une idée de ce que l’on veut accomplir. C’est le cas pour les élèves de l’EPITA : ils se doivent d’avoir un regard sur leurs activités en se rappelant que celles-ci ne peuvent pas être uniquement « alimentaires ». C’est d’autant plus important de nos jours, alors que nous visons dans un monde de plus en plus difficile et complexe, avec des défis considérables auxquels sont confrontées les nouvelles générations. Il ne faut pas se voiler la face : c’est par la connaissance, le savoir et la technique que l’on sera capable de les relever et non pas en fermant les yeux et en se mettant la tête dans le sable.
Si certains voient dans l’IA une menace potentielle, vous vous montrez davantage optimiste à son égard. Toutefois, est-ce que le fait d’avoir recours à cette nouvelle forme d’intelligence peut également présenter le risque de nous délester d’une part de notre intelligence ?
Jean-Gabriel Ganascia : Il en va de l’intelligence et des techniques de la communication et de l’information comme il en est de la langue des hommes. Pour l’occasion, je me permets de rappeler l’histoire d’Ésope, cet esclave de l’Antiquité qui était très spirituel. Un jour, son maître s’apprête à recevoir des amis extrêmement chers à ses yeux et lui demande de concevoir le meilleur repas imaginable, avec les meilleures choses, sans limite d’argent. Ésope s’exécute. En entrée, il propose de la langue. Les convives trouvent cela très bon. Toutefois, il propose également de la langue pour le plat, puis encore de la langue pour le dessert. Les invités trouvent toujours cela très bon, mais estiment que c’est aussi très répétitif. Ésope explique alors que la langue est la meilleure des choses puisque c’est grâce à elle que les hommes arrivent à se réunir et à créer de grandes choses. Tout le monde en rit, si bien que le maître lui demande de préparer un prochain repas en utilisant cette fois les plus mauvaises choses. Quand ses amis reviennent à sa table quinze jours après, Ésope leur sert à nouveau de la langue à chaque étape du repas ! On lui demande alors s’il se moque de l’assemblée et lui rétorque que la langue a beau être la meilleure chose, c’est également la pire car elle est à l’origine de la médisance, de la discorde, des guerres, etc. C’est pareil pour le numérique et l’intelligence artificielle. Cela permet d’accomplir des choses prodigieuses dans le domaine de la santé, de l’automatisation du travail, avec des calculs extraordinaires et une forme de pénibilité qui disparaît, voire avec la traduction automatique permettant de réduire les barrières entre les hommes… Mais en même temps, cela peut également provoquer des effets délétères sur la société, en particulier la destruction du tissu social et les multiples transformations politiques induites par le numérique… D’un point de vue cognitif, c’est aussi le cas. Regardons Internet : il permet d’aller plus loin en rendant enfin possible ce rêve extraordinaire de vivre nuit et jour, toute la vie, dans une bibliothèque, ce qui n’a jamais existé auparavant dans l’histoire de l’humanité. Mais derrière ce progrès, il y a également des tâches que l’on ne fait plus ou que l’on se déshabitue à faire. On pratique moins le calcul mental, on devient moins patient, on lit de moins en moins d’un bout à l’autre – la lecture horizontale remplaçant la lecture linéaire –, etc. Cela peut avoir des conséquences négatives, d’où notre rôle en tant qu’éducateurs de former les jeunes générations à tirer le meilleur de ces technologies et à éviter tous les pièges : Internet permet de tout savoir, c’est vrai, mais il peut aussi faire de vous une victime des rumeurs, des fausses informations, des phénomènes de bulle… Il faut garder un œil critique vis-à-vis de tout ça. À la fin de mon livre « Servitudes virtuelles », je reprends justement un exemple que je trouve très touchant. C’est l’histoire d’un jeune journaliste qui, en 1939, alors que la guerre vient d’être déclarée, essaye de lancer une feuille de chou – une page recto-verso – alors qu’il n’a même pas de papier à disposition. Dans ces conditions difficiles, il se demande ce que doit être l’éthique du journaliste. Pour lui, il s’agit d’abord d’être toujours extrêmement vigilant et lucide, ce qui est encore vrai aujourd’hui : il faut être lucide sur les éléments d’information. Ensuite, il y a le refus : refuser de diffuser n’importe quoi, de se compromettre. Vient après l’ironie, essentielle pour déjouer tous les pièges de la censure. Enfin, il y a l’obstination. Et bien, même si la situation était complétement différente de celle d’aujourd’hui, entre pénurie de papier et censure d’alors et la prolifération de publications actuelles, je crois que ces quatre mots d’ordre restent extrêmement importants et qu’ils définissent très bien ce qu’est l’éthique de l’information. Ce jeune homme, qui avait 26 ans à l’époque, deviendra ensuite assez connu, obtenant même le prix Nobel de littérature : c’était Albert Camus !
Enfin, outre votre ouvrage, auriez-vous un autre livre à conseiller à la jeune génération ?
Jean-Gabriel Ganascia : Question difficile… Si l’on revient à la thématique de la science-fiction, je conseillerais de prendre le temps de lire – ou de relire – « Rossum’s Universal Robots », la pièce de théâtre écrite en 1920 par Karel Čapek qui a donné naissance au mot « robot » (rob signifiant « esclave » en slave). Même si cette pièce n’est pas extraordinaire et que l’on peut retrouver des traces beaucoup plus anciennes d’automates dans la littérature, comme chez Homère, il est très intéressant de voir que les thématiques qui y sont développées font écho à celles d’aujourd’hui alors que, pourtant, la société a connu d’impressionnants changements technologiques depuis le début du 20e siècle. C’est important de comprendre que des inquiétudes sont fichées au cœur de l’Homme depuis des siècles et que les transformations, bien que fascinantes, peuvent aussi s’avérer inquiétantes : c’est souvent lors de périodes de grandes transformations que des cataclysmes se produisent, avec des tentatives de repli, la résurgence d’un imaginaire ancien, le retour de l’obscurantisme… Et c’est ce qu’il faut éviter à tout prix.
