Jean-Gabriel Ganascia : “Avec le numérique, nous risquons de perdre un espace commun

Photo DR

Jean-Gabriel Ganascia est philosophe et informaticien, chercheur en intelligence artificielle au Lip6 (Laboratoire informatique de Paris 6) et président du comité d’éthique du CNRS. Pour lui, l’essor des outils numériques connectés qui aspirentnos données pose question en matière de libertés et contribue à l’éclatement de nos sociétés. À nous de nous en emparer pour reconstruire, avec eux, du commun.

Depuis quand parle-t-on d’intelligence artificielle ?

Jean-Gabriel Ganascia : En 1955, des mathématiciens américains créent une discipline consistant à étudier l’intelligence avec un nouveau type de machines : des ordinateurs. Pour eux, l’intelligence n’est pas une substance. Certains nous laissent entendre qu’on peut comparer des intelligences. L’intelligence correspond à l’ensemble de nos facultés cognitives. Elle comprend la mémorisation, la perception, l’apprentissage, la capacité de communication, d’action. Ces jeunes scientifiques pensent alors que l’on va pouvoir décomposer l’intelligence en fonctions élémentaires avec les machines. Nous pourrions ensuite assimiler ces fonctions et les utiliser dans des applications pratiques. Cela a donné naissance à beaucoup de dispositifs. Par exemple, le Webest construit sur un modèle de mémoire. En utilisant l’hypertexte, nous sommes un peu comme monsieur Jourdain : on fait de l’intelligence sans le savoir.

Ce sujet est actuellement sur toutes les lèvres. Pour quelles raisons ? Qu’est-ce que cela dit de nos sociétés ?

J.-G. G. : Nous parlons effectivement beaucoup de ce sujet et ce pour deux raisons principales. La première tient à la numérisation de la cité. Nous avons parlé de l’informatique dans les années 80’ et 90’. Depuis quinze ans, nous parlons du numérique. Les communications interhumaines se font par des flux d’informations numérisées. La vie passe par le truchement de flux d’informations. L’intelligence artificielle est capable d’intégrer ces flux pour différentes finalités et de les exploiter. Le Webest central, Internet existe depuis longtemps. Lorsque j’étais étudiant, dans les années 80’, j’utilisais déjà l’e-mail. Puis, au milieu des années 90’, Internet a pris un essor considérable grâce au Web. L’intelligence artificielle est la condition du développement du numérique, et d’ailleurs l’économie du numérique se développe avec l’intelligence artificielle.

Et puis il y a une seconde chose : l’imaginaire. Il existe une perception de l’intelligence artificielle qui est de l’ordre du mythe. Icare est à l’origine de l’aviation. L’intelligence artificielle c’est le mythe du Golem. C’est quelque chose de pratique, mais en même temps on a l’impression d’une transgression liée à l’utilisation de ces machines qui pourraient être doubles et se retourner contre nous. Mon rôle de scientifique est de préciser de quoi il s’agit : il ne s’agit pas de mythes mais de réalités complexes présentant des aspects positifs tout en sous-entendant des responsabilités nouvelles.

Il y a derrière ce sujet l’idée que les technologies pourraient résoudre pour nous de nombreux problèmes. Assiste-t-on aujourd’hui à un certain retour du scientisme ?

J.-G. G. : Bien évidemment. Il existe une confiance excessive dans la science. Et les grands acteurs de l’Internet disent que la science va résoudre tous les problèmes que se pose l’humanité depuis toujours : le désir de jeunesse éternelle, l’immortalité, … Mais il y a néanmoins une différence entre le scientisme et cela. Condorcet estime que le progrès se développe dans le temps, indéfiniment. Cela suppose que nous allons vivre plus longtemps, mais pas que nous allons devenir immortels. Aujourd’hui, il y a aussi cette idée qu’il va y avoir un moment de basculement : soit les machines s’emballeront pour prendre le pouvoir soit elles nous permettront d’accéder à un stade différent de notre humanité. Les discours actuels sont une poursuite du scientisme tout en étant fondamentalement différents de ce qu’il était au XIXesiècle, c’est-à-dire une poursuite de l’idéal de modernité. Au XIXesiècle, les progrès de la science étaient destinés à servir l’humanité. Aujourd’hui, nous sommes à la fin de l’humanisme. Nous sommes en train de passer à un stade différent. Avant, nous étions soumis aux aléas de la nature et faisions appel à l’idée de Dieu pour les expliquer. Ensuite, nous avons fait des progrès, avons maîtrisé un peu ce qui se produisait. L’être suprême n’est plus Dieu mais l’Homme : c’est l’humanisme. Mais aujourd’hui il existe des machines dont le fonctionnement nous dépasse. Pour pouvoir accéder à cette connaissance, ces machines passent par l’exploitation de beaucoup de données, des datas. C’est le “dataïsme”, dans lequel on retrouve encore l’idée de fin de l’humanisme.

La collecte de données personnelles par Facebook fait couler beaucoup d’encre. Plus précisément, en quoi cela est-il lié à l’intelligence artificielle ?

J.-G. G. : Il y a deux choses différentes : le fait de collecter des données d’un côté et celui que l’intelligence artificielle repose sur un système varié de techniques qui simulent l’ensemble des fonctions cognitives (mémorisation, communication, …) de l’autre. Àla clé de tout cela se trouve l’apprentissage. On s’est rendu compte que l’on pouvait exploiter beaucoup de données et que plus on en possède meilleurs sont les résultats. Il faut avoir beaucoup d’informations. C’est là-dessus que se sont construites les grandes entreprises de l’Internet. Facebook fait la même chose. On vous propose ce que vous aimez. On a trop de choix, on n’a besoin de rien. Il faut stimuler notre désir.

Nous avons réalisé que si l’on oriente bien des informations, elles intéressent des gens du monde économique ou de la sphère politique. Si une personne est plutôt de droite on lui donnera des informations plutôt de droite. Lorsque j’étais petit il y avait le journal de 20 h. Aujourd’hui, on a une profusion d’informations et on vous donne ce qui vous fait plaisir. Le risque c’est d’avoir une société éclatée dans laquelle les gens n’ont pas de point d’accord car nous n’avons plus le même type d’informations.

Les outils de l’intelligence artificielle orientent, décident de la diffusion de telle ou telle information. Dans le champ du militantisme politique, par exemple, Obama utilisait les réseaux sociaux. Son équipe a repéré les utilisateurs susceptibles d’être intéressés par son discours. Puis elle a repéré ceux qui se trouvaient à la frontière entre les votes démocrates et les votes républicains. Il a fallu alors trouver comment s’adresser à eux, essayer de cibler ce qui, pour chaque personne, est le plus proche de ses positions, ce qui peut la convaincre.

Aujourd’hui les réseaux sociaux font partie de nos vies. Est-ce qu’il faut s’en passer ou les utiliser avec plus de prudence ?

J.-G. G. : Nous entrons dans une phase différente où les relations humaines sont différentes. Il nous faut trouver de nouvelles règles de civilité. Comment vivre ensemble avec ces outils et en comprendre la puissance et les limites ? Nous risquons de perdre un espace commun : autrefois, le journal de 20 h avait quelque chose d’insupportable mais au moins tout le monde le regardait. Àtel point que Marshall McLuhanl’a désigné comme étant le “tam-tam du village global”. Or, il n’existe plus. Les sociétés sont de plus en plus éclatées : il faut reconstituer, avec le numérique, des moments d’information commune. Pour le dire autrement, la notion de communauté a beaucoup évolué dans le temps. Avant, elle évoquait la religion, des gens présents dans un même lieu et condamnés à vivre ensemble, aussi bien jeunes que vieux, pauvres ou riches. Il existait là des différences sociales mais, en même temps, les personnes se réunissaient et il existait une certaine solidarité entre elles. Aujourd’hui, il y a une communauté Internet. Si vous aimez les timbres vous allez trouver dans le monde entier des gens qui possèdent la même passion que vous. C’est ce qu’on appelle des communautés d’intérêt. Les réseaux sociaux permettent leur développement. Le risque c’est que ces communautés peuvent faire oublier la fraternité et la solidarité, même si elles ont une dimension très positive.

Ce sujet et d’autres comme celui de la reconnaissance faciale— provoque des craintes. Le risque que les individus soient de plus en plus contrôlés viales technologies est-il réel ?

J.-G. G. : Il existe déjà mais cela dépend des pouvoirs publics. Si l’on vit dans un pays comme la Chine où l’État est puissant, on peut imaginer que les policiers puissent utiliser la reconnaissance faciale pour maintenir l’ordre public. Cela commence à arriver chez nous. Là où l’on craignait des abus pouvant provenir d’un État central autoritaire, on se rend compte qu’il va y avoir des acteurs de natures différentes qui vont prendre des importances considérables ; on peut évoquer l’émergence d’un néo-féodalisme. Des puissances pourront dominer des régions “virtuelles” du monde. Ce qu’on appelle les attributs de la souveraineté (la puissance d’État, la Sécurité intérieure, la Défense, …), ils vont être de plus en plus délégués à des sociétés qui feront elles-mêmes autorité. On peut imaginer que l’État civil soit géré par Facebook. Cette entreprise en sait plus sur nous que les États. Les grandes sociétés d’Internet ont plus de photos de nous que l’État et seront donc capables de réaliser une meilleure reconnaissance faciale. Prenons un exemple : une société française leaderdans le secteur de la biométrie a été vendue à un groupe américain. L’idée était de poursuivre ses activités en ayant des ressources que jusqu’alors elle n’avait pas (photos, …).

La potentialité que ces technologies complexes nous échappent est aussi souvent évoquée par ses détracteurs. Est-ce de la science-fiction ?

J.-G. G. : Ce qu’il faut craindre c’est l’évolution de la société liée au développement de ces technologies. Que ces technologies prennent le pouvoir est de la science-fiction. Mais il existe de vrais dangers qui leur sont liés car elles peuvent jouer un rôle important dans notre société.

Le Président Emmanuel Macron a récemment annoncé la création d’un plan de 1,5 milliard d’euros sur l’intelligence artificielle. Est-ce que, d’un point de vue économique, la France a une carte à jouer dans ce secteur ?

J.-G. G. : Je pense que la France et l’Europe ont des cartes à jouer car ce sont des puissances économiques importantes. L’Europe représente aussi une part non négligeable de la population mondiale. Mais pour l’heure, les Européens ne sont pas suffisamment coordonnés sur ce sujet et encore assez soumis aux diktats des grands acteurs américains du secteur. C’est dommage. Il est possible que se constitue une puissance européenne dans ce domaine. Emmanuel Macron a raison : il faut que se développe un environnement industriel, que des chercheurs travaillent sur ce sujet, que des jeunes pousses puissent trouver un terreau favorable. Cela doit se faire aussi bien au niveau national qu’international. C’est un grand défi. Et puis il existe un désir au sein de la population. En Chine, les jeunes disent que la technologie est formidable. Aux États-Unis, il existe aussi un fort engouement pour cela. Je crois qu’il faut se demander ce qui peut faire rêver les Européens. Le Président a parlé d’éthique. On peut développer les sciences tout en ayant une société plus juste et équitable grâce au numérique. Mais il faut qu’il y ait des débats collectifs. C’est un monde à construire ensemble. Si l’on laisse faire seuls les grands acteurs privés, ce sera une catastrophe. Nous allons beaucoup perdre en souveraineté. Il faut une réflexion collective sur ce sujet. Avec le numérique, nous reconstruisons le monde ensemble.

Justement, ce secteur en pleine explosion ne devrait-il pas être mieux encadré par les autorités d’un point de vue éthique ?

J.-G. G. : Il faut se demander comment nous allons retraduire nos règles de vie commune dans ce monde nouveau. Mais ce sont les autorités et les États qui doivent se charger de cela. D’autres acteurs doivent aussi intervenir. Il faut notamment que les citoyens se rendent compte de la puissance qu’ils ont dans ce cadre-là. Il va y avoir une demande forte sur la question des données et les choses vont évoluer. Tout le monde utilise Google. Si on prend conscience que cet outil aspire toutes nos requêtes, on peut alors se tourner vers un autre moteur de recherche qui s’engage à avoir un autre fonctionnement. Nous devons prendre conscience des enjeux qu’implique chacune de nos actions sur Internet. Nous pourrons alors avoir une incidence sur le comportement des acteurs. L’éthique viendra de nous.

Tous les champs des activités humaines semblent concernés par l’intelligence artificielle. Des artistes y ont recours pour créer. Mais avec le deep learning, l’intelligence artificielle fait davantage qu’appliquer, elle peut apprendre donc composer de la musique, dessiner, …

J.-G. G. : Je crois qu’à tout moment les artistes ont su se saisir de techniques qui existaient pour s’exprimer, que ce soit en musique, peinture, architecture, … L’intelligence artificielle fait partie de ces techniques et cela fait longtemps que des artistes utilisent le numérique. Des formes de poésies étranges ont pu être créées avec l’intelligence artificielle mais également des objets conceptuels ou encore des textes générés automatiquement. Et puis le cinéma peut utiliser l’intelligence artificielle et l’informatique pour créer des images de synthèse. Mais, en revanche, je ne crois pas que les artistes disparaissent. Je crois que ce qui fait le geste artistique c’est la surprise, et l’émotion esthétique est produite par cela. Je ne vois pas comment l’intelligence artificielle pourrait changer les choses. Mais l’outil informatique peut en revanche être utilisé dans le cadre de pratiques artistiques. Je travaille sur les humanités numériques c’est-à-dire sur la façon dont on peut comprendre les œuvres littéraires de façon nouvelle, grâce aux outils numériques. Nous travaillons par exemple sur les brouillons d’auteurs. Des logiciels nous aident à mieux saisir les évolutions de la création d’une œuvre. Nous pouvons aussi travailler avec ces outils sur l’intertextualité : trouver les éléments qui ont pu influencer tel ou tel auteur dans ses textes. Ces moyens techniques sont donc aussi une aide pour mieux comprendre les œuvres de l’esprit.

 

Àlire : Jean-Gabriel Ganascia. Le mythe de la Singularité : faut-il craindre l’intelligence artificielle ?, Éditions du Seuil, Collection Sciences Ouvertes, 2017