Déclaration de M. Mounir Mahjoubi, secrétaire d'Etat au numérique, sur les enjeux économiques et les cadres légaux de l'intelligence artificielle et de l'économie numérique, Paris le 25 octobre 2017.

M. le président. L'ordre du jour appelle le débat : « Intelligence artificielle, enjeux économiques et cadres légaux », organisé à la demande du groupe Les Indépendants – République et Territoires.
(…)
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Monsieur le président, mesdames, messieurs les sénateurs, je veux, en préambule, vous remercier vivement de l'intérêt que vous portez à ce sujet.
Secrétaire d'État au numérique et passionné par ma tâche, je suis toujours heureux de trouver dans les assemblées parlementaires et partout ailleurs des personnes qui s'intéressent au domaine dont j'ai la charge et qui savent placer à la bonne hauteur les enjeux de transformation numérique et scientifique. Les commissions du Sénat ayant été les premières instances à m'inviter, il n'est pas étonnant que l'initiative ait été prise ensuite de me convier à vous parler de l'intelligence artificielle dans cet hémicycle, ce dont je vous remercie vraiment.
Ce sujet largement commenté, dont on parle beaucoup et partout, est encore émergent, sur le plan tant économique que scientifique. Toutefois, nous sommes au moment où tout bascule et où il est essentiel que tous les Français, tous les Européens et tous les citoyens du monde s'engagent sur ce sujet et en comprennent les enjeux. Il est tout aussi essentiel que nous puissions, nous, les politiques, y porter un regard, afin d'être ainsi en mesure de décider.
En effet, si je souhaite vous convaincre de quelque chose, c'est que le Gouvernement souhaite faire de la France et de l'Europe un leader dans ce domaine, avec une seule conviction, celle que nous n'avons rien à subir.
Nous n'avons rien à subir de ces transformations, qu'elles soient économiques, technologiques ou scientifiques ! Nous avons tout à apporter et nous pouvons diriger ces évolutions. À Bruxelles, je siège au Conseil Télécoms, cette instance européenne où l'on parle des diverses transformations économiques et mutations scientifiques, et je peux vous assurer que, sur ce sujet aussi, la voix de la France est entendue et attendue.
Pour vous convaincre encore de l'importance essentielle que le Gouvernement prête à ces sujets, je vous dirai que c'est sans doute la première fois que l'expression « l'intelligence artificielle » a été citée dans le discours de politique générale d'un Premier ministre. Édouard Philippe avait souhaité, dès sa prise de fonctions, dès les premières semaines et premiers mois de travail de son gouvernement, accorder à ce sujet une place essentielle. Il m'a chargé de porter, de dessiner, de construire, avec les citoyens et le Parlement, une stratégie nationale pour l'intelligence artificielle.
Aujourd'hui, j'interviens devant vous dans le cadre de ce format un peu nouveau, qui est celui du débat interactif. Si nous allons, comme il se doit au cours d'un débat, échanger des idées, en revanche, je n'apporterai pas toutes les réponses à l'ensemble de vos questions.
Comme vous le savez, nous avons souhaité saisir de ce dossier un parlementaire, Cédric Villani. Je lui ai posé des questions au nom du Gouvernement et du Premier ministre. Il est actuellement en train de travailler pour y répondre, procédant à près de 200 auditions. Je l'ai chargé de revenir vers nous d'ici au mois de décembre prochain, afin que le Gouvernement puisse définir une stratégie nationale au début de l'année 2018 – en janvier ou en février.
Je le répète, nous sommes à un moment particulier de cette transformation technologique. Je le dis souvent, ce que nous avons connu en termes numériques au cours des vingt-cinq dernières années est un brouillon de ce que nous allons connaître au cours des trois prochaines années. Il s'est passé ces derniers temps, plus précisément au cours de ces deux dernières années, une hyperaccélération des capacités de calcul et de la capacité pour les ordinateurs à interpréter les données sensibles.
Elle est là, la transformation majeure. Il est là, le tournant. Pendant longtemps, les ordinateurs n'étaient capables de traiter que des données simples – certes en quantités énormes, mais des données simples –, notamment des textes.
Depuis quelque temps, on arrive à traiter une masse de données que seuls les hommes étaient jusqu'à aujourd'hui capables de traiter : les images, le son, l'espace. C'est la raison pour laquelle nous voyons à présent des robots qui conduisent – la voiture autonome est conduite avant tout par une intelligence artificielle !
Nous allons aussi être capables de traiter tout ce qui était considéré comme relevant du domaine de l'intelligence humaine, comme l'analyse d'un espace, la compréhension des contextes et des comportements entre les personnes, fondée à la fois sur les images, les mots échangés et les concepts transformés.
Un troisième ingrédient de l'accélération est, quant à lui, purement humain. Il s'agit du niveau de recherche en algorithmes et en intelligence artificielle. La source de l'efficacité d'un dispositif d'intelligence artificielle, c'est la capacité de calcul, ce sont les données sensibles, mais c'est aussi l'intelligence des algorithmes. Et l'on observe partout dans le monde une accélération du niveau de recherche – la bonne nouvelle, c'est que les Français font partie de ceux qui recherchent le plus et qui trouvent le plus dans ce domaine.
C'est grâce à la recherche algorithmique que l'on trouve les tactiques et éléments mathématiques qui permettent l'interprétation. En effet, il ne sert à rien d'avoir un énorme jeu de données et une capacité massive de calculs si l'on n'y ajoute pas l'intelligence du scientifique pour les traiter et leur donner du sens. On a aussi besoin de l'intelligence de l'ingénieur pour les rendre pratiques.
Le moment majeur que nous nous apprêtons à traverser, c'est celui de la rencontre entre, d'une part, des jeux massifs de données, y compris sensibles, des capacités de calcul quasiment infinies et qui continuent d'accélérer, et, d'autre part, une intelligence inédite de traitement et de création d'algorithmes, laquelle se traduit par des usages dans la vie quotidienne. Le premier d'entre eux, je l'ai rappelé tout à l'heure, c'est la voiture autonome, mais vous en voyez déjà émerger d'autres, dans le domaine de la santé et partout ailleurs.
Je le répète, nous ne sommes pas là pour subir, nous n'avons rien à subir, nous avons tout à décider. Encore faut-il savoir quel chemin nous voulons tracer. Encore faut-il savoir où nous voulons aller. C'est tout l'enjeu de la mission que nous avons confiée à Cédric Villani.
Au premier trimestre de 2017, une mission avait déjà été lancée. Elle a rendu un premier rapport intitulé #FranceIA, pour France intelligence artificielle, qui a été essentiel dans la définition de la nouvelle commande que nous avons passée à Cédric Villani. Nous ne repartons pas de zéro !
Loin de penser que rien n'a été fait au cours des cinq dernières années, nous estimons que ce rapport #FranceIA a permis de dresser une cartographie de l'état de l'intelligence artificielle en France. Cette cartographie, si vous souhaitez en prendre connaissance rapidement, figure dans l'annexe finale de ce rapport. Je vous invite à la consulter, car elle est extrêmement riche. Elle montre où sont nos instituts de recherche, elle identifie les forces de la France, elle situe les entreprises françaises qui sont leaders dans le monde. Elle pointe aussi les endroits où nous avons des lacunes.
Ce que nous avons demandé à Cédric Villani – je veux remercier M. Malhuret d'avoir mentionné les grands enjeux en la matière –, c'est d'aborder certaines questions spécifiques. Nous lui avons demandé d'apporter des réponses à certaines d'entre elles, mais de ne pas tenter de répondre à d'autres. En effet, notre choix est d'inviter le Parlement à soumettre cette question aux Français.
Je pense notamment, monsieur le président Malhuret, à votre dernier paragraphe sur les enjeux éthiques : l'enjeu de ce rapport sera non pas d'apporter une réponse en la matière, mais de souligner les questions éthiques que nous devrons offrir aux Français et auxquelles nous nous donnons pour mission de répondre dans les prochains mois.
Il y va de la décision administrative, par exemple. Je pense aussi à la décision militaire et aux robots tueurs autonomes, auxquels la doctrine est aujourd'hui plutôt opposée. Cette question, il faut la poser aux Français.
La décision administrative autonome fait intervenir des algorithmes de décision et d'intelligence artificielle qui peuvent assister le fonctionnaire dans sa prise de décision. Aujourd'hui, la décision est encore prise, au bout du compte, par le fonctionnaire. Que va choisir la société à l'égard de ces algorithmes de décision ? Quelle place donner à l'intuition selon laquelle un algorithme serait parfois un peu plus juste qu'une commission ou qu'une décision décisionnaire ? Encore faut-il savoir sur quelles valeurs elle sera fondée.
Ce débat sur les algorithmes de décisions administratives fut l'un de ceux qui ont animé la discussion de la loi sur la République numérique. Il a été décidé de rendre ouvert le code de ces algorithmes. Est-ce suffisant ? Est-ce que ce sera toujours viable à l'heure du deep learning, celle où l'on ne connaîtra plus les critères d'origine des algorithmes ?
Nous avons voulu que Cédric Villani puisse identifier ces questions éthiques et techniques et les exposer devant le Gouvernement au mois de décembre prochain. Après quoi, en janvier, nous déciderons de présenter au Parlement et aux Français des décisions relatives, par exemple, à l'investissement, à la recherche et à l'avenir du travail.
Muriel Pénicaud et moi-même avons saisi parallèlement France Stratégie pour un exercice, lui aussi original, d'esquisse de scénarios. Nous sommes convaincus que, à l'heure de l'intelligence artificielle, aucun des chiffres que nous échangeons sur l'avenir des emplois transformés ou remplacés par la machine – évoquant tantôt 10 %, tantôt 50 %, tantôt 100 % – ne peut être affirmé avec certitude. La question n'est pas de savoir si ces chiffres sont exacts. La question qui nous préoccupe est celle de la maîtrise du rythme.
Oui, ces emplois seront transformés. Oui, certains sont destinés à disparaître. Oui, d'autres vont être créés. C'est une certitude. Combien, et quand ? Ces aspects relèvent du politique et de sa maîtrise. Il est de notre devoir à tous de créer dans la société cette capacité de résilience, en développant les compétences des Français, leur capacité et leur niveau technologique, pour être sûrs de conserver la maîtrise sur chacun des éléments que nous avons abordés préalablement.
Vous l'avez compris, dans les réponses que j'apporterai aujourd'hui à vos questions, ma philosophie sera de toujours expliquer quel est notre regard et quel choix nous avons fait pour avancer. Je vous apporterai des réponses, mais il m'arrivera de solliciter votre indulgence : peut-être vous proposerai-je de nous donner d'ores et déjà rendez-vous au début de l'année prochaine, à l'issue de la remise de ce rapport, qui définira cette stratégie officielle.
Nous avons beaucoup travaillé. J'ai des choses à partager avec vous. C'est vraiment avec un esprit ouvert que j'aborde ce débat au Sénat, dont le format est à mon sens particulièrement intéressant. (Applaudissements sur les travées du groupe La République En Marche et du groupe Les Indépendants – République et Territoires, ainsi que sur des travées du groupe Union Centriste et du groupe socialiste et républicain.)
M. le président. Nous allons maintenant procéder au débat sous forme de questions-réponses dont les modalités ont été fixées par la conférence des présidents.
Les auteurs des questions disposent chacun de deux minutes, y compris pour la réplique.
Dans le débat interactif, la parole est à M. Joël Labbé. (M. Joël Labbé monte à la tribune.)
Monsieur Labbé, vous avez choisi, puisque vous êtes le premier orateur, de venir à la tribune.
M. David Assouline. Les écologistes sont très formels ! (Sourires.)
M. le président. Toutefois, les intervenants suivants pourront intervenir depuis leur place.
M. Joël Labbé. Monsieur le président, monsieur le secrétaire d'État, mes chers collègues, l'intelligence artificielle, c'est a priori quelque chose qui me donne un grand vertige. (M. Gérard Longuet s'exclame.) J'y vois l'illustration des plus fantastiques progrès humains, mais aussi le risque de ce qui peut être le plus abominable pour notre espèce ! Ainsi, monsieur le secrétaire d'État, vous avez évoqué des robots tueurs autonomes – pourquoi pas, mais jusqu'où allons-nous aller ?
Je veux saluer l'initiative prise par le groupe Les Indépendants – République et Territoires de lancer ce débat, ainsi que la présence de M. le secrétaire d'État. Aucun débat ne doit être tabou, surtout celui-là, parce que c'est maintenant ou jamais qu'il faut se poser les bonnes questions.
Je prendrai le simple exemple des modes de déplacement des personnes et des marchandises avec les véhicules autonomes, dont on prévoit l'arrivée des premiers exemplaires sur le marché au début de 2020, avec une généralisation à partir de 2030. Ces derniers vont remplacer progressivement plusieurs millions de travailleurs : les chauffeurs de poids lourds en premier, puis les chauffeurs de taxis et autres VTC, enfin les chauffeurs de bus et autres transports en commun.
Il s'agit d'une occasion extraordinaire en termes de sécurité, de confort, de productivité, de diminution des impacts environnementaux.
Toutefois, cela crée de profondes inquiétudes. Tout d'abord, dans un marché du travail qui va perdre plusieurs millions d'emplois, lesquels seront remplacés par seulement quelques centaines de milliers d'emplois hautement qualifiés dans les hautes technologies, quels mécanismes devons-nous mettre en place pour partager les richesses créées par cette intelligence artificielle et financer les nécessaires emplois dans les services publics, notamment ceux qui sont liés à l'aide à la personne, dont on sait que l'on va avoir un besoin croissant avec le vieillissement de la population française et européenne ?
Dernière interrogation, que vous avez vous aussi soulignée, sommes-nous en mesure d'impulser les dynamiques nécessaires au niveau national et international afin de traiter de l'ensemble des questions éthiques essentielles qui vont se poser de manière aigüe au fur et à mesure des développements de cette intelligence dite « artificielle » ?
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Monsieur le sénateur, comme je l'ai rappelé dans mon propos introductif, qu'il me faudra peut-être rendre un peu plus explicite, nous n'avons rien à subir : l'intelligence de l'homme devra toujours être supérieure à l'intelligence artificielle ; il faut simplement que nous tracions un chemin.
Notre intelligence est supérieure au sens où c'est à nous de décider où doit aller l'intelligence artificielle ; c'est en fonction de nos valeurs qu'il nous faut désigner quel chemin nous souhaitons emprunter.
Il existe plusieurs familles de valeurs et, partant, plusieurs chemins possibles pour l'innovation et l'évolution technologique. Plus je voyage et plus je rencontre mes collègues au Conseil des ministres de l'Union européenne, plus je constate qu'il existe une façon européenne et même une façon française de penser l'innovation et le numrique, qui consiste en un équilibre entre performance et humanité.
Performance, parce que nous sommes une nation d'ingénieurs : nous voulons faire plus avec moins, et ainsi créer plus de valeur pour les hommes. Humanité, parce que nous avons en permanence le souci des conséquences de nos actes et des évolutions technologiques sur l'emploi, sur nos vies et sur la transformation de notre société.
Il existe cependant d'autres familles de pensée, d'autres civilisations. Dans d'autres lieux dans le monde, on cherche l'innovation, l'avancée technologique, coûte que coûte ; il faut toujours aller plus loin et plus vite dans la performance, sans nécessairement raisonner avec le même système de valeurs que le nôtre. Eh bien, tout l'enjeu, pour l'Europe et pour la France au niveau européen, ce sera d'influencer ce schéma.
Certains parmi vous, mesdames, messieurs les sénateurs, voudront certainement évoquer le fonds d'investissement commun dont il est question en ce moment à l'échelle européenne. Il faut pourtant savoir au nom de quelles valeurs, vers quelles technologies et pour quel usage il sera créé. Notre rôle, que j'ai pris à coeur dans tous les échanges que j'ai pu avoir avec les représentants des autres pays, est de rappeler ces valeurs.
C'est pourquoi, quand on évoque les impacts, une question que vous avez soulevée et à laquelle je répondrai très certainement plus tard dans ce débat, je me pose toujours, en même temps, les deux questions suivantes : n'ai-je pas diminué la capacité de performance de notre pays ? Ai-je bien traité tous les sujets qui concernent l'homme ? (Applaudissements sur les travées du groupe La République En Marche.)
M. le président. La parole est à M. Gérard Longuet.
M. Gérard Longuet. Je tiens avant tout à remercier notre collègue Claude Malhuret, président d'un nouveau groupe, d'avoir pris l'initiative de ce débat important, la conférence des présidents de l'avoir retenu, M. le secrétaire d'État d'être présent et l'Office parlementaire d'évaluation des choix scientifiques et technologiques, l'OPECST, d'avoir très largement déblayé le terrain, par les interventions de M. Claude de Ganay et de notre ancienne collègue, Mme Dominique Gillot – soyez remercié, monsieur le secrétaire d'État, d'y avoir fait allusion. L'actuel président de l'OPECST, M. Cédric Villani, dont on connaît le talent, bénéficie d'un socle à partir duquel il pourra travailler.
Ma question a trait à l'automobile, plus précisément à la voiture partagée, qui constitue un objectif extrêmement raisonnable, dont l'échéance peut être prochaine. Je voudrais connaître les intentions du Gouvernement, s'il en a, quant à la coordination entre le calendrier du véhicule autonome et le cadre législatif et réglementaire qui en définira les modes d'usage.
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Avant de vous répondre, monsieur le sénateur, je voudrais partager avec vous quelques réflexions sur le véhicule autonome.
Il faut imaginer, par le biais de scénarios, ce qui peut se produire dans les prochaines années. Des chiffres ont été donnés tout à l'heure ; pour ma part, je ne m'engage jamais sur les dates d'arrivée de nouvelles technologies. Le véhicule autonome pourra être largement généralisé dès 2020 ou vers 2030 ; peut-être concernera-t-il les poids lourds, peut-être les transports du quotidien. En tout cas, il nous invite à réinterroger complètement les systèmes économiques.
Le véhicule autonome de demain restera-t-il une voiture que je possède et qui me transporte sans que je la conduise ? Peut-être.
M. Gérard Longuet. Peut-être, mais pas forcément !
M. Mounir Mahjoubi, secrétaire d'État. Le louerai-je à un service ? Peut-être. Les villes décideront-elles d'être responsables de tous les déplacements et interdiront-elles la possession de tout véhicule individuel au profit d'une collectivisation de ces voitures autonomes interconnectées ? C'est un schéma que d'autres pays pourront souhaiter adopter.
De multiples systèmes sont possibles, mais il faudra de nouveau rappeler ce que nous souhaitons : des modes de transport doux, ouverts à tous et permettant à toutes les personnes, en fonction de leur situation géographique et de leur capacité physique, de se déplacer d'un point à un autre pour assurer tous les éléments de la vie. Il y a différentes façons d'atteindre cet objectif.
La question du transport en commun se posera elle aussi. Que sera le transport en commun en 2030, à l'heure où l'on disposera de ces véhicules autonomes ? Dans certains pays, des simulations scientifiques ont été menées pour déterminer ce qui se passerait si l'on interdisait toutes les voitures et que l'on arrêtait l'ensemble des transports en commun pour les remplacer par des minicars autonomes de huit places, qui viendraient, à la demande, assurer toutes les missions. Il en ressort qu'il en coûterait, sur dix ans, 2,5 milliards d'euros pour fournir 4 000 véhicules qui tourneraient 24 heures sur 24.
J'ai pris cet exemple pour vous montrer combien les scénarios sont multiples et de grande ampleur. C'est pourquoi, avec Mme Élisabeth Borne, ministre chargée des transports, nous avons décidé de nous pencher sur ce sujet : nous allons nommer une personne en charge de mener une réflexion au cours des prochains mois, parce que nous estimons que tous les scénarios sont possibles et qu'il faut être prêt à tous les assurer.
L'avenir ne correspond pas forcément aux scénarios annoncés ou préparés par nos grands industriels ! C'est pourquoi il est de notre responsabilité, au Sénat et à l'Assemblée nationale comme au Gouvernement, de nous préparer à penser toutes les possibilités ; tel sera l'enjeu de ce travail.
M. le président. La parole est à M. Gérard Longuet, pour la réplique.
M. Gérard Longuet. Pour avoir vécu, dans un passé lointain, la coexistence brève et conflictuelle du minitel et d'internet, je souhaiterais que le pouvoir politique soit modeste et laisse une large place à la fois aux techniciens, aux scientifiques, aux investisseurs, aux consommateurs et aux citoyens.
Il ne faut pas que le mythe d'une intelligence artificielle généralisée nous conduise à créer un système trop encadrant qui nous priverait de toute liberté individuelle. L'initiative et l'innovation doivent être mises au service de la liberté et certainement pas d'un encadrement réglementaire de nos modes de vie et, par exemple, de nos conditions de transport. (Applaudissements sur les travées du groupe Les Républicains et du groupe Union Centriste.)
M. le président. La parole est à M. André Gattolin.
M. André Gattolin. Je voudrais tout d'abord remercier le groupe Les Indépendants – République et Territoires de ce débat, à mon sens essentiel, sur l'intelligence artificielle. On entend parler de celle-ci à longueur de journée, souvent par effet de réaction, très médiatique, à une innovation réelle ou annoncée, pour sa publicité, par de grandes entreprises ou des groupes internationaux.
Selon moi, derrière cette fragmentation du discours sur l'intelligence artificielle, le mérite du débat politique est précisément de poser le cadre d'une discussion globale, c'est-à-dire véritablement politique. Si nous voulons construire de bonnes politiques publiques dans le domaine de l'innovation et, en particulier, dans celui de l'intelligence artificielle, il faut se poser certaines questions.
Parmi celles-ci, au-delà de la question éthique et de celle des usages, qui a été évoquée, j'en retiens trois.
Premièrement, même si le secteur privé, comme vous l'avez justement rappelé, monsieur Longuet, est extrêmement important pour l'initiative, peut-il à lui seul financer et organiser le développement de l'intelligence artificielle ? On peut en douter du fait de sa fragmentation : il est en effet des efforts de recherche que mme les plus grandes entreprises ne sont pas toujours à même de mener.
Deuxièmement, la France et l'Europe sont-elles en mesure de tenir une place dans la compétition internationale ? Cette question a été posée par M. Malhuret.
Troisièmement, comment peut-on envisager la régulation de ces développements pour qu'ils ne deviennent pas incontrôlés ? Il se trouve qu'un élément de réponse a été apporté par le Président de la République lors de son grand discours sur l'Europe, le 26 septembre dernier, à la Sorbonne, à savoir la création d'une agence de l'innovation de rupture.
Cette agence qui, dans la volonté de son initiateur, serait européenne et verrait le jour dans deux ans, constituerait un cadre selon moi absolument essentiel. En effet, elle ne se cantonnerait pas à l'intelligence artificielle, mais serait fondée sur l'ensemble des nouvelles technologies, des développements numériques aux green techs.
Mes questions, monsieur le secrétaire d'État, sont les suivantes : où en sommes-nous ? Comment comptons-nous aller de l'avant ? Pourrons-nous avancer immédiatement à l'échelle européenne, ou bien passerons-nous d'abord par une étape franco-allemande ? Quel sera le rôle, dans ce développement, de l'INRIA, l'Institut national de recherche en informatique et en automatique, cet institut français très en avance sur ces questions ?
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Monsieur le sénateur, je répondrai à votre question, qui rejoint celle de M. Longuet, sur les rôles respectifs de l'État et du secteur privé.
La question n'est pas celle de l'intelligence artificielle, mais des nouveaux usages que celle-ci permet et qui vont profondément affecter les réseaux et les infrastructures, dans plusieurs secteurs. Cela conduira à des marchés forcément imparfaits : on frôle là la nécessité, sinon de biens communs et de services publics, du moins d'une pensée commune ou publique.
Dans un tel cas, nous avons plusieurs outils juridiques à notre disposition. Il y a, tout d'abord, la standardisation des protocoles, qui vise au moins à s'assurer que les différents véhicules autonomes parlent le même langage et que, dans notre ville connectée, ils puissent échanger les uns avec les autres.
Il y a, ensuite, la délégation de service public pour l'infrastructure et la partie profonde du réseau. Qu'est-ce qui fera fonctionner les voitures autonomes de demain ? À l'heure de l'intelligence artificielle et de l'autonomie énergétique, ces réseaux ne sont pas forcément physiques.
Cela pose une question très actuelle pour le Gouvernement : est-il du rôle des collectivités locales ou encore du Gouvernement de penser ces réseaux virtuels, ces plateformes qui permettent l'interconnexion entre acteurs privés ? Il serait particulièrement dangereux de laisser les acteurs privés sans accompagnement pour la maîtrise des effets de réseau. De fait, cela laisserait la victoire à un seul acteur : le plus gros.
En effet, mettre sur un marché des véhicules, ou des technologies, non compatibles entre eux revient à mettre en compétition des prisons pour attraper des prisonniers : une fois qu'elles ont attrapé un consommateur, elles le gardent chez elles pendant une quinzaine d'années et, si l'on veut parler à ce consommateur, il faut passer par la plateforme. Tel est aujourd'hui leur modèle économique !
C'est pourquoi notre rôle, si nous misons sur le secteur privé, choix que nous avons fait dans nos économies, est de penser notre intelligence artificielle dans cette régulation. Les données personnelles et industrielles, leur échange et leur standardisation, enfin la capacité à créer une véritable compétition et de la concurrence, voilà les grands enjeux à l'heure de cette transformation numérique.
Je lance d'ailleurs un appel, et même un SOS : sur ces sujets, on manque de réflexion, on manque de chercheurs, en France comme en Europe, et on manque d'un travail parlementaire. C'est pourquoi je nous invite à tous nous saisir de ce sujet et je m'engage à ce que le Gouvernement travaille plus en la matière.
M. le président. La parole est à M. Fabien Gay.
M. Fabien Gay. L'intelligence artificielle est un sujet dont les enjeux économiques sont proportionnels aux progrès spectaculaires obtenus par la recherche en la matière. L'accroissement rapide et imprévisible des tâches potentiellement automatisables nous amène à nous interroger sur les activités humaines futures.
On passe d'un système où les emplois très manuels et ceux qui sont fondés sur les talents semblaient préservés de l'automatisation à un scénario de transformation qui touche potentiellement beaucoup plus de monde.
Ainsi, selon le Conseil d'orientation pour l'emploi, ou COE, la destruction d'emplois pourrait être moins étendue que nous le pensons et se chiffrer à moins de 10 % des emplois. Néanmoins, l'automatisation entraînerait une transformation importante d'un emploi sur deux. En effet, d'après un rapport du Conseil national du numérique de mars 2017 visant à anticiper les impacts économiques et sociaux de l'intelligence artificielle, les conséquences seraient « moins destructrices que transformatrices du travail ».
Le but à atteindre est de créer de la valeur dans le travail pour toutes et tous, de donner plus de pouvoir et d'intelligence et non pas de mécaniser les humains. Les politiques publiques, nationales et régionales, doivent être mobilisées pour construire une vision positive de l'intelligence artificielle, ce qui nécessite de placer la formation au coeur du travail.
En cela, l'intelligence artificielle rejoint notre projet « sécurité emploi-formation », qui vise à permettre à chaque travailleuse et à chaque travailleur d'alterner emplois stables et correctement rémunérés et formations permettant d'accéder à de nouveaux emplois.
L'intelligence artificielle peut soit provoquer une hémorragie des emplois dans certains secteurs professionnels, soit, au travers d'une redistribution des gains de productivité, financer des formations évolutives et une montée en gamme des qualifications. Tout dépend de la volonté politique.
Monsieur le secrétaire d'État, êtes-vous d'accord pour que l'on utilise l'intelligence artificielle afin de libérer le salarié du travail fastidieux et répétitif, en réduisant la charge et le temps de travail ?
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Monsieur le sénateur, vous abordez plusieurs questions : la transformation du travail, les économies liées à l'intelligence artificielle et la capacité que nous aurons à la maîtriser.
Vous avez cité le rapport du COE et évoqué celui du Conseil national du numérique, qui a été rendu à l'époque où j'en étais le président. Je me permettrai donc de rappeler que, même dans ce cas, il ne faut pas s'engager sur les chiffres ; il ne faut compter que sur une chose : la résilience de notre société et notre capacité à maintenir et à nourrir notre modèle social.
Le pacte social français, ce qui fait la France en somme, est que nous ayons décidé de socialiser le risque de santé et celui de la perte d'emploi. Ce modèle fait partie du socle qui est commun à tous les membres des deux assemblées. Certes, ce qui différencie historiquement les uns des autres, c'est le niveau des cotisations et des paiements, le coût à assumer, mais nous avons tous la conviction qu'être Français, c'est ne laisser personne sur le côté. Voilà ce que le Gouvernement porte : encore une fois, un équilibre entre performance et humanité.
Qu'est-ce que cela signifiera quand on n'aura peut-être pas assez d'emplois pour tous, quand, peut-être, 50 % à 100 % les emplois seront transformés dans un temps très court ? Eh bien, il restera cette philosophie de la résilience et cette idée de l'équilibre ; il faudra offrir à chacun la capacité de rebondir, qui est essentielle.
Quand aura lieu cette transformation ? Nous avons eu, durant la campagne présidentielle, un débat sur le revenu universel. Néanmoins, nous avons estimé – message important – que ce n'était pas le moment de parler de ce sujet, car la question du revenu universel ne se pose pas maintenant. Le sujet, aujourd'hui, ce sont les compétences et la création d'une allocation chômage universelle pour toutes les personnes, quel que soit leur statut d'emploi actuel. Cela contribuera à nous préparer aux transformations à venir.
Le débat aura bientôt lieu ici sur ces sujets. Quand Mme Muriel Pénicaud évoque la transformation de la formation professionnelle, quand on parle de rendre accessibles les allocations chômage aux entrepreneurs ou aux démissionnaires, c'est bien dans l'idée que nous allons traverser, dans les cinq, dix ou quinze années à venir, un changement majeur dans la vie de chaque citoyen travailleur. Chacun va devoir se former à nouveau, chacun va peut-être passer quelques mois ou quelques années sans emploi, période durant laquelle il lui faudra pouvoir continuer à vivre dignement.
C'est pourquoi cette capacité à se transformer et à transformer notre outil de solidarité est essentielle au vu des changements que nous allons subir. Quinze milliards d'euros vont être engagés dans le plan d'investissement pour les compétences ; le débat sera long sur la transformation de l'assurance chômage, mais il sera essentiel et nécessaire : voilà les premières briques de la préparation sociale à cette transformation scientifique et sociétale !
M. le président. La parole est à Mme Catherine Morin-Desailly.
Mme Catherine Morin-Desailly. Lors d'une audition sur l'intelligence artificielle, le directeur de l'INRIA nous a dit : « Pendant que la France fait des rapports, les autres pays investissent. » Nous devrions tous, mes chers collègues, en être alertés. Certes, à un certain stade, les rapports sont nécessaires, mais je vais être directe, monsieur le secrétaire d'État : pourquoi, alors même que, après le rapport France Intelligence artificielle, vient tout juste d'être rendu l'excellent rapport de l'OPECST, réalisé par un député et par notre collègue sénatrice Dominique Gillot, faudrait-il un énième rapport sur l'intelligence artificielle ?
Le constat sera le même. Ce sera celui qu'a fait notre collègue Claude Malhuret en introduction. On soulignera, avant tout, que, au niveau français comme à l'échelle européenne, nous n'avons, hélas, ni l'ambition ni la stratégie pour une véritable politique industrielle des nouvelles technologies.
Alors que nous devrions concentrer tous nos efforts sur le développement et l'ancrage européen de notre écosystème technologique, nous assistons à une hémorragie des talents et de nos start-up, rachetées par des groupes américains ou asiatiques. Soyons lucides : il s'agit bien d'une guerre d'intelligence économique. Le traitement en masse des données et les algorithmes de l'intelligence artificielle sont en effet devenus des enjeux stratégiques pour notre économie et notre défense.
Toutes les nations qui ont développé des écosystèmes technologiques puissants l'ont fait grâce à des politiques volontaristes. Les Américains ont orienté, dès 1953, leur commande publique vers les PME grâce au Small Business Act. Cela a permis aux PME américaines innovantes d'obtenir d'emblée des contrats fédéraux ou locaux. Ces mécanismes d'achats et d'aides publiques intelligentes sont à l'origine des plus grandes réussites américaines, comme celle d'Elon Musk avec Tesla.
Ces géants technologiques se sont aussi développés grâce à des exemptions fiscales et à des mesures d'aides gouvernementales. Il n'y a d'ailleurs pas une seule des technologies clefs de l'iPhone qui n'ait été, à un moment ou un autre, subventionnée par l'État américain.
Plutôt que d'établir de grands plans industriels souvent inefficaces et qui se résument trop fréquemment à du saupoudrage vers les grands groupes, l'État doit absolument innover et contribuer à faire évoluer la réglementation européenne de la concurrence. Celle-ci est en effet aujourd'hui contre-productive : elle ne permet pas à nos PME de devenir des entreprises de taille intermédiaire, puis des acteurs internationaux.
Tel est bien l'enjeu à ce moment clef où nous mesurons le potentiel, mais aussi les risques, que recèle l'intelligence artificielle.
Aussi ma question est-elle simple ; elle rejoint celle qu'a posée M. Gattolin, mais à laquelle vous n'avez pas répondu, monsieur le secrétaire d'État. Pour que nous demeurions dans la compétition mondiale et que nous restions maîtres de notre destin numérique, comment comptez-vous avancer sur ce sujet ? Le Sénat, au travers de sa commission des affaires européennes, a souvent pointé du doigt cet enjeu majeur, et cela depuis 2013, date d'un premier rapport sur ce sujet ? (Vifs applaudissements sur les travées du groupe Union Centriste, du groupe Les Républicains et du groupe Les Indépendants – République et Territoires.)
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Madame la sénatrice, je partage votre attitude critique envers les longs rapports qui se succèdent. La mission que nous avons confiée à M. Cédric Villani, comme celui-ci l'a régulièrement rappelé, n'est sûrement pas de nous rendre un nouveau rapport. Il s'agit plutôt de nous présenter des orientations pratiques sur les débats qu'il est urgent de mener, mais aussi sur les enjeux d'investissement industriel qu'il aura considéré, à la suite de ses auditions, comme majeurs.
Les deux rapports que vous avez bien voulu citer, et que j'ai beaucoup appréciés, photographient l'existant et font de nombreuses recommandations qui, si elles étaient toutes mises en place, consommeraient plusieurs fois notre budget annuel. Il est maintenant important d'arriver à une phase de décision stratégique qui soit à la hauteur de nos choix stratégiques et de nos capacités d'investissement.
Vous avez abordé plusieurs sujets : en premier lieu, comment augmenter la capacité de nos très petites entreprises, de nos start-up et de nos PME à développer ces nouvelles technologies, puis à les vendre sur le territoire européen, et même au-delà. Comment les identifier, comment les faire grandir, comment s'assurer de leur croissance ?
Un autre sujet est la relation de ces entreprises avec l'État. Vous avez évoqué l'achat public. On peut aussi mentionner la relation de l'État avec les grands groupes exportateurs, qui, quoiqu'ils aillent très loin et soient très compétitifs, n'amènent pourtant pas avec eux ces technologies, voire utilisent des technologies étrangères pour remporter d'autres appels d'offres, y compris sur ces sujets.
Vous avez aussi évoqué la question du financement. J'y reviendrai plus tard, parce que je sais que beaucoup d'entre vous l'ont mentionnée. Je veux parler de stratégie.
Aujourd'hui, il faut que nous soyons capables, à l'échelon national, d'identifier ces technologies de rupture ; en effet, on peut toujours appeler à la création d'un fonds pour l'investissement dans les technologies de rupture, mais encore faut-il les identifier. Les pays que vous avez cités, ceux qui ont réussi à avancer sur ces sujets, pilotent, au niveau régional ou national, l'existence de recherches et l'émergence de start-up sur un sujet donné. Quand on identifie qu'un sujet ne reçoit pas l'attention nécessaire, alors on est capable de diriger, d'investir et d'aller plus loin.
Ainsi, sur l'intelligence artificielle et sur la cybersécurité, sujets extrêmement porteurs et créateurs de valeur, nous n'avons pas encore de pilotage national, de regard ni d'observatoire européen. Un débat a eu lieu hier sur cette question. Aujourd'hui, nous manquons d'un regard stratégique. Je ne veux pas déflorer notre recommandation finale, mais il faudra que nous nous dotions de cette capacité. Je sais en tout cas que je pourrai compter sur vous, car vous en débattez depuis longtemps ; vous devez aussi être convaincus que vous pourrez compter sur moi pour le porter.
M. le président. Monsieur le secrétaire d'État, je vous invite à mieux respecter le temps de parole de deux minutes par question qui vous a été accordé.
La parole est à M. Franck Montaugé.
M. Franck Montaugé. La démarche « France Intelligence Artificielle » a été lancée en janvier 2017 ; le rapport qui vient d'être remis au Gouvernement contient des orientations qui pourraient contribuer à la stratégie de la France en matière d'intelligence artificielle.
Parmi ces orientations, le groupe de travail « recherche amont » préconise un rapprochement entre industrie et recherche, en particulier par l'attribution d'un financement de recherche sur une longue période, de cinq ans, à un seul porteur et à son équipe, ainsi que par un soutien aux projets collaboratifs.
Le directeur du centre de recherche de l'INRIA, M. Braunschweig, estime quant à lui que l'effort financier nécessaire pour la recherche, par le public et le privé, serait de l'ordre de 100 millions d'euros par an sur dix ans.
Le groupe de travail « transfert de technologies » propose pour sa part de créer des plateformes d'intégration et de démonstration des innovations et de soutenir les transferts de technologies par la mise en place de fonds d'investissement en capital.
Comment, et à quel niveau financier, le Gouvernement prévoit-il d'accompagner la recherche et le développement de l'intelligence artificielle dès le projet de loi de finances pour 2018 et au cours des années suivantes ?
Je note par ailleurs que, dans ce rapport, l'agriculture n'est pas évoquée. L'intelligence artificielle se prêterait pourtant bien à l'assistance de nos agriculteurs en matière de pilotage et de stratégie d'exploitation. La constitution et l'exploitation d'un big data agricole auraient des vertus multiples, y compris en matière de simplification administrative pour les agriculteurs. Qu'est-ce que le Gouvernement se propose de faire ou d'impulser en la matière ?
Pour finir, comment le Gouvernement entend-il donner une chance aux territoires hors métropoles pour contribuer au développement de l'industrie de l'intelligence artificielle et en bénéficier ? Comment associer les villes moyennes aux écosystèmes créatifs en question ?
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Je concentrerai ma réponse sur les territoires.
L'activité de la French Tech s'est transformée ces dernières années et ces derniers mois, et j'ai souhaité développer et multiplier ces changements. Jusqu'à présent, d'un point de vue territorial, les moyens de la French Tech étaient massivement concentrés autour des métropoles. C'est le résultat d'une stratégie visant à faire émerger, au niveau français, des métropoles capables d'aller conquérir de nouveaux marchés internationaux.
On a ensuite vu la création des réseaux French Tech. Ces réseaux de technologies de pointe étaient quant à eux beaucoup plus ancrés dans les territoires, notamment autour des agritechs, dans des villes qui ne faisaient pas partie de ces grandes métropoles.
Je suis aujourd'hui convaincu, après quelques mois dans mes fonctions, que les territoires ont une capacité à produire des innovations majeures de rupture liées à la ruralité ou permises par l'espace que celle-ci offre. Ainsi des technologies liées aux drones, à leur régulation ou aux drones augmentés : plusieurs des leaders dans ce domaine sont des start-up françaises. J'en ai visité plusieurs près de Gardanne : elles profitent de ce lieu, où il y a à la fois des étudiants, de l'innovation et un territoire pour les accueillir.
Je serai à Angers vendredi et samedi prochains ; autour de la ville, de son socle périurbain et de son espace rural, Angers a réussi à développer, en près de trente ans, un véritable écosystème de l'électronique connectée, de l'électronique intelligente et de l'intelligence artificielle embarquée, pôle qui, aujourd'hui, est compétitif internationalement. Angers, c'est un peu le premier de la classe. Comment parvenir à développer cela ?
Après Angers, on peut citer Agen pour la Food Tech. Dans le domaine des technologies d'amélioration et de croissance des start-up sur le sujet de l'alimentation, Agen a réussi à créer une place particulièrement compétitive au niveau européen.
Sur ces sujets, l'enjeu pour la French Tech en 2018 et 2019 sera non seulement de célébrer et de laisser émerger ces grandes métropoles très performantes, mais aussi de s'engager très activement pour la diversité géographique. Tout comme je me suis engagé sur le sujet de la diversité de nos entrepreneurs, je m'engage pour qu'il y ait plus de start-up qui viennent de milieux ruraux ou de milieux populaires, ou qui soient portées par des femmes, car ce sont ces start-up qui proposent de nouveaux sujets.
J'ai récemment remis le prix StartHer, qui couronne la gagnante d'une compétition internationale de start-up dirigées par des femmes. La lauréate avait développé une technologie d'intelligence artificielle dans la personnalisation et l'identification de soins contre le cancer. Sa start-up était issue d'une ville de taille moyenne, avant qu'elle ne lève des fonds, n'aille à Paris et ne parte à la conquête du monde. Nous avons là réussi à raconter une belle histoire française liée à l'intelligence artificielle, issue de nos territoires. Certes, l'enjeu est de généraliser ces histoires, mais elles existent !
M. le président. La parole est à M. Franck Montaugé, pour la réplique.
M. Franck Montaugé. Merci de votre réponse à la partie territoriale de ma question, monsieur le secrétaire d'État ; c'était très intéressant.
Je regrette que vous n'ayez pu vous exprimer – vous le ferez peut-être plus tard – sur le financement public de ces démarches, notamment en prévision de l'examen du projet de loi de finances pour 2018. De fait, il n'y a sans doute pas lieu d'attendre, tant la question du financement se pose d'ores et déjà. D'ailleurs, ce financement s'effectuera peut-être dans le cadre des projets industriels d'avenir.
M. le président. La parole est à M. Emmanuel Capus.
M. Emmanuel Capus. Notre débat permet de poser les limites économiques, juridiques et éthiques de l'intelligence artificielle. Je vous remercie par ailleurs, monsieur le secrétaire d'État, d'avoir mentionné les occasions qu'elle offre en termes de développement économique pour notre industrie française et, en particulier, d'avoir cité Angers, mon territoire, où se déroule, en ce moment même et toute cette semaine, le World Electronic Forum.
Ce Forum international de l'électronique constitue une occasion extraordinaire de faire valoir nos savoir-faire et de défendre la filière électronique française. L'ensemble des décideurs du monde entier, de l'Inde, de la Chine ou des États-Unis s'y réunit pour débattre des grandes questions qui nous intéressent aujourd'hui : la vie digitale, l'industrie 4.0 ou l'écosystème numérique français.
Vous y serez demain et après-demain, monsieur le secrétaire d'État, et le Premier ministre y viendra vendredi. Il aura fallu, vous l'avez dit, un combat de plusieurs années, sinon de plusieurs décennies, ainsi qu'une volonté politique forte, pour faire venir ces décideurs en Anjou, sur notre territoire, et mettre ainsi en valeur nos savoir-faire.
C'est aussi l'accompagnement et le développement des réseaux French Tech dans le monde entier. Nous devons continuer à développer ces nouvelles technologies en nous appuyant sur notre filière industrielle d'excellence.
Telle est l'ambition du label French Tech qui est développé en ce moment, notamment à travers les réseaux que vous avez cités, monsieur le secrétaire d'État.
Malheureusement, face aux géants américains et chinois, nous devons aujourd'hui être plus offensifs dans la protection de nos intérêts. Notre pays doit rapidement s'engager dans une stratégie de souveraineté numérique. Cette dynamique peut d'ailleurs trouver un écho à l'échelon européen, comme l'a rappelé Claude Malhuret.
Ma question est simple : quelle est la volonté du Gouvernement et quels sont les moyens accordés par l'État à la défense de notre souveraineté numérique et au développement d'une filière industrielle française de l'intelligence artificielle ? (Applaudissements sur les travées du groupe Les Indépendants – République et Territoires.)
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Monsieur le sénateur, votre question me donne l'occasion de répondre sur le volet financier et de souligner également le dynamisme de Dijon, avec la Food Tech, à la première édition de laquelle je me rendrai la semaine prochaine ; j'y retrouverai d'ailleurs François Patriat.
M. François Patriat. Très bien !
M. Mounir Mahjoubi, secrétaire d'État. Il faut bien préciser qu'il n'y a pas qu'un seul territoire capable d'innover sur ces sujets.
Sur le financement, plusieurs annonces ont déjà été formulées. Je le répète encore une fois : je ne viens pas avec toutes les réponses. Dans la lettre de mission que nous avons adressée à M. Villani et dans les différents rapports qui ont été remis est affichée la volonté d'identifier les secteurs dans lesquels nous pensons qu'il faut mobiliser des moyens publics ou faciliter la mobilisation des moyens privés, et à quelle hauteur. Nous pouvons nous comparer aux Chinois ou aux Américains, mais nous devons le faire aussi avec nos amis européens et voir ce que nous sommes capables de faire ensemble.
Nous créons un fonds pour l'industrie et l'innovation. Ce sont les fameux 10 milliards d'euros que Bruno Le Maire a annoncés et que nous avons réussi à rassembler par la valorisation de titres déjà détenus dans d'autres entreprises. Cette somme, constituée en fonds, nous permettra de mobiliser plusieurs centaines de millions d'euros par an sur les fameuses technologies de rupture, qui ont aussi une composante d'intelligence artificielle.
En effet, comme je l'ai rappelé tout à l'heure, les grandes innovations liées à l'intelligence artificielle sont surtout dans les usages finaux. J'ai évoqué la lauréate du prix StartHer, dont l'innovation consiste à personnaliser le traitement du cancer, à diviser par deux les quantités de soins à transmettre aux malades et à multiplier les capacités de survie des patients.
C'est sur de telles transformations qu'il nous faudra être capables de décider et de dire s'il faut d'urgence être compétitifs sur la santé ou au contraire sur l'agriculture. Ce qui est certain, c'est que nous n'avons pas les mêmes retards ni les mêmes chances dans toutes les technologies. Si des pays sont déjà allés très loin dans certains domaines, il n'est peut-être pas pertinent – sans pour autant renoncer – de mobiliser tous nos moyens sur ces secteurs.
Le PIA 3, c'est-à-dire le troisième volet du programme d'investissements d'avenir, constitue un autre élément très important. Il n'est qu'à voir les différents appels à projets dont les résultats ont été rendus publics ces derniers jours : des programmes de recherche, de nouvelles formations, de nouveaux instituts de recherche, de nouvelles écoles de recherche ont été labellisés et financés sur les technologies de rupture. Quel plaisir de constater que, en France, on peut avoir des centres de recherche sur des sujets dont les termes mêmes nous semblent exotiques et lointains, tellement ils incarnent la complexité scientifique !
Oui, en matière de recherche, la France est entrée dans une dynamique. Oui, nous investissons déjà. Oui, nous finançons déjà. Reste que l'enjeu même de cette stratégie, c'est d'être capable, au début de l'année 2018, d'annoncer ce sur quoi nous nous mobiliserons de façon majeure.
J'aurai sans doute l'occasion d'aborder un peu plus tard un autre volet, celui du cofinancement européen. (MM. André Gattolin et François Patriat applaudissent.)
M. le président. La parole est à M. Jean-Noël Guérini.
M. Jean-Noël Guérini. Monsieur le président, monsieur le secrétaire d'État, mes chers collègues, à mon tour, je souhaite remercier Claude Malhuret d'avoir engagé ce débat important pour l'avenir de notre pays.
Les technologies fondées sur l'intelligence artificielle, dont l'apparition remonte déjà au milieu du XXe siècle, monsieur le secrétaire d'État, ont des effets substantiels tant sur les individus que sur l'économie et la société. Porteuses d'innovations fascinantes, elles posent des problèmes résultant de leur intégration au sein des « systèmes institutionnels » et suscitent aussi de vives inquiétudes en matière d'éthique, mais aussi et surtout d'emploi.
Tous les pays ne jouent pas à armes égales. En Suède, près de 6 % des salariés travaillent dans le secteur de la communication électronique, contre seulement 1,2 % en Grèce. La France, quant à elle, est dans la moyenne européenne, avec 3,6 %.
Lancée à la fin du mois de janvier, l'opération « France IA » a mis en place dix-sept groupes de travail mobilisant quelque cinq cents experts, chercheurs et représentants du monde de l'entreprise chargés de définir une stratégie de mise en valeur et de développement de cette filière.
Le rapport de « France IA » et celui de l'Office parlementaire d'évaluation des choix scientifiques et technologiques intitulé Pour une intelligence artificielle maîtrisée, utile et démystifiée, publiés au mois de mars dernier, ont mis en exergue une cinquantaine de recommandations pertinentes afin de réguler les bouleversements sociaux. S'il est vrai que les recherches actuelles en sciences économiques ne permettent pas encore d'apprécier précisément les effets de l'IA, elles pointent néanmoins les risques de destruction d'emplois ou de dénaturation des emplois induits.
Permettez-moi dans ce cadre, monsieur le secrétaire d'État, de faire un parallèle avec le plan pour la formation professionnelle présenté récemment par le Président de la République. Ma question est simple : les politiques publiques envisagées sont-elles suffisamment attractives pour permettre à ceux qui en auront besoin de se former ou de se reconvertir grâce à la filière de formation nationale sur l'intelligence artificielle ?
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Monsieur le sénateur, vous posez la question de la transformation des compétences, des emplois et des outils de formation et m'interrogez sur la façon dont nous sommes capables de mettre en place le pilotage de cette transformation. Sur ce sujet, nous avons décidé d'avoir une vision très pragmatique, qui traite à tous les étages des différents niveaux de compétences.
Ce sont d'abord les compétences numériques universelles, ou « littératie numérique », qui doivent être accessibles à tous : fonctionnaires, salariés et même personnes qui ne sont pas dans l'emploi. Quinze, vingt, trente, voire quarante heures sont indispensables pour acquérir les premières compétences numériques, celles qui semblent une évidence pour nous tous, mais qui, aujourd'hui, ne sont pas maîtrisées par près de 13 millions de Français, soit quasiment 20 % de la population. C'est un enjeu dans l'emploi et hors de l'emploi, sur nos territoires.
Ce sont ensuite les compétences professionnelles d'emplois nouveaux à créer et d'emplois nouveaux à conquérir. Certains, qui savent déjà très bien lire, très bien écrire, utiliser un ordinateur, vont voir une partie de leur emploi se transformer en emploi du numérique. Il faudra que notre outil de formation professionnelle soit capable de les accompagner en quelques mois.
Pour tous ceux qui sont hors de l'emploi et qui vont aller vers des métiers complètement nouveaux, deux possibilités existent. Pour la très haute compétence, l'université, dans le cadre du LMD, licence-master-doctorat, proposera de nouvelles formations.
Le PIA 3 contient d'ailleurs un chapitre intitulé « nouvelles formations ». Tout à l'heure, j'ai évoqué les nouvelles écoles de recherche. Les nouvelles formations qui viennent d'être retenues sont intéressantes : elles concernent des métiers et proposent des contenus pédagogiques que nous ne connaissons pas et qui formeront nos ingénieurs et nos experts de demain.
Par ailleurs, plusieurs centaines de milliers de techniciens doivent être formés. Là, notre outil de formation n'est pas prêt. C'est un véritable enjeu pour le ministre de l'éducation nationale, la ministre de l'enseignement supérieur, la ministre du travail et moi-même : nous travaillons à créer de la souplesse et de la capacité, avec des formations de type « Agile » ou d'un type nouveau, qui n'entrent pas forcément dans le cadre de l'éducation nationale, de l'enseignement supérieur ou de la certification professionnelle.
Je pense ainsi à la Grande École du numérique, qui certifie plusieurs centaines de formations sur tout le territoire. Il en existe plusieurs près de chez vous, mesdames, messieurs les sénateurs : là, au sein de vos territoires, les gens sont formés sans discrimination de parcours préalable et obtiennent, dans des formations de six mois à deux ans – la durée est flexible –, non pas un diplôme, mais une certification et un ensemble de compétences sur des emplois nouveaux où il y a de la recherche d'emploi.
Aujourd'hui, la ministre du travail et moi-même menons une réflexion sur la façon de développer ce type de formation à une plus grande échelle. Nous avons en effet la conviction que, sur les emplois de techniciens et d'assistants-techniciens, dans la sécurité des réseaux, dans le e-commerce, dans l'assistance aux nouvelles technologies, nous aurons besoin de médiateurs entre les salariés, les clients et les technologies et qu'il est possible de former ces personnes.
C'est à nos yeux une occasion majeure ! Pour ma part, je crois très fortement aux techniciens. Je vous rappelle – c'est l'occasion de parler de soi de temps en temps ! (Sourires) – que j'ai été pendant neuf ans technicien réseau au sein d'une hotline : j'ai dépanné près de 9 000 Français au téléphone et je me fais une fierté d'avoir été de ceux qui accompagnent nos concitoyens à maîtriser les technologies. Je veux qu'il y en ait encore plus en France. (Applaudissements sur les travées du groupe La République En Marche et du groupe Les Indépendants – République et Territoires.)
M. le président. Merci, monsieur le secrétaire d'État, de bien vouloir faire des réponses plus courtes, afin que nous puissions mener cette après-midi les deux débats prévus par l'ordre du jour.
La parole est à M. Cédric Perrin.
M. Cédric Perrin. Monsieur le président, monsieur le secrétaire d'État, mes chers collègues, je veux à mon tour remercier Claude Malhuret de son initiative. C'est un sujet important, que l'on ne traite pas suffisamment, alors qu'il risque dans les années à l'avenir de bouleverser nos vies.
Je suis l'auteur, avec notre collègue Gilbert Roger, d'un rapport d'information intitulé Drones d'observation et drones armés : un enjeu de souveraineté – le titre est important. Les drones sont en effet un enjeu de souveraineté, et je souhaite établir un parallèle avec l'intelligence artificielle, qui me semble également un enjeu de souveraineté de premier ordre.
Notre pays dispose d'importants atouts à faire valoir dans le domaine des technologies de l'intelligence artificielle. Certes, les États-Unis ou la Chine sont réputés être les pays les plus avancés, mais nous nous en sortons plutôt bien.
Les applications de l'intelligence artificielle peuvent concerner l'éducation, l'environnement, les transports, l'agriculture, mais ce qui m'intéresse aujourd'hui, ce sont les applications pour l'aéronautique, la sécurité et surtout la défense : oui, de nouvelles perspectives s'ouvrent en matière de défense avec l'intelligence artificielle. Le rapport Gillot-de Ganay préconise d'encourager la constitution de champions européens en intelligence artificielle et en robotique, tout en poursuivant le soutien aux PME spécialisées, en particulier les start-ups.
J'aimerais prolonger ce point par ma question. Nous assistons à domination de quelques entreprises, le plus souvent américaines, parfois chinoises, concernant l'intelligence artificielle. Je pense aux GAFA, qui représentent la pointe de la recherche, mais la Chine, avec les BATX, veille au grain.
Dans ce contexte, monsieur le secrétaire d'État, quelle place existe pour l'Europe et pour la France ? Quelles initiatives ou mesures le Gouvernement entend-il prendre pour contribuer à l'émergence de champions européens en intelligence artificielle ?
J'en arrive à ma question sur la défense. Comment le Gouvernement conçoit-il le rôle que peut jouer l'intelligence artificielle dans le secteur de la défense ? Quels projets envisage-t-il par exemple de soutenir pour favoriser des applications d'intelligence artificielle dans ce secteur ?
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Monsieur le sénateur, permettez-moi de revenir sur les questions relatives à la défense, laquelle constitue l'un des piliers de la souveraineté.
Certes, la souveraineté dépasse les simples questions de défense, elle concerne aussi nos réseaux, nos infrastructures majeures. Prenons l'exemple des infrastructures télécoms : aujourd'hui, nous avons un déficit de fournisseurs européens d'éléments matériels centraux dans nos réseaux, ce qui entraîne notre dépendance à l'égard de fournisseurs venus d'autres continents.
Dans le domaine de la défense, c'est encore plus essentiel, puisque nous sommes l'une des grandes nations qui participent à la protection de l'Union européenne. Il y va de la capacité de la France à innover, à investir, à identifier les technologies dans lesquelles elle doit, tout comme l'Europe, être souveraine.
La ministre des armées a annoncé voilà deux semaines la création, avec la BPI, d'un fonds stratégique d'investissement de 50 millions d'euros dans les PME de défense. C'est le début, et c'est une première. Cela me permet de revenir à la question que j'ai soulevée au début de ce débat, celle du pilotage, de la maîtrise et de la capacité à observer l'écosystème et les dispositifs existants.
Monsieur le sénateur, vous évoquez les drones. J'ai visité plusieurs pays récemment. Pendant que nous parlons de ces technologies, eux ont une mappemonde sur laquelle figurent toutes les technologies et sous-technologies existantes en la matière, de la verticale, de l'horizontale, de ses usages pratiques, des softwares, des différents types de drones possibles. Ce faisant, ils identifient les domaines dans lesquels ils connaissent des faiblesses et partent activement à la recherche de start-up à la pointe dans ces secteurs pour le financer.
En France, nous n'avons jamais entrepris une telle démarche. Elle est en train d'émerger, et je souhaite la développer dans certains domaines, notamment la défense, avec la ministre des armées, mais aussi la cybersécurité. Sur ce sujet spécifique, l'une des forces d'Israël, c'est sa capacité à toujours savoir si elle peut en permanence s'appuyer sur un nombre suffisant de chercheurs, si ceux-ci sont bien financés, si des start-up peuvent se créer, qui elles-mêmes parviennent à vendre leurs services au public et aux grandes entreprises privées.
Telle est la démarche que je souhaite voir développer à l'échelon militaire pour nos armées. Certaines technologies peuvent être secrètes, mais d'autres ne le sont pas. Il revient à l'armée de participer à leur financement, parce qu'elles permettent de conserver nos PME en France. Cela participe de la réflexion sur les fonds stratégiques d'investissement, qui ne se réduit pas à la performance financière à moyen ou long termes, mais concerne la nécessité souveraine d'investir dans un secteur plutôt que dans un autre.
Voilà qui nous ramène à la fameuse question du DARPA, le Defense Advanced Research Projects Agency, qui n'est pas la même chose que le Fonds stratégique d'investissement PME, lequel investit tout de suite dans une technologie utilisable dès maintenant. Les fonds DARPA sont une prise de risque sur l'avenir : ce sont des fonds qui investissent dans des technologies dont on ignore si elles aboutiront, dont on ne peut préjuger l'usage futur.
Monsieur le président, pardonnez-moi d'avoir dépassé mon temps de parole…
M. François Patriat. Ce n'est pas grave : vous êtes très bon !
M. le président. La parole est à M. Arnaud de Belenet.
M. Arnaud de Belenet. Monsieur le secrétaire d'État, j'apprécie votre enthousiasme et votre fougue, même si le chronomètre en est parfois contrarié.
Ma question ne sera pas très « tech ». Catherine Morin-Desailly a affirmé qu'il fallait s'armer pour la guerre. Je fais miennes les nombreuses interrogations qui ont été soulevées sur les défis à relever, les potentiels, les sujets relatifs à l'éducation, les risques de rupture d'égalité, les problèmes de souveraineté… J'ai d'ailleurs quelques questions juridiques dans ma besace, si vous voulez.
Nous débattons aujourd'hui sur l'initiative de Claude Malhuret, que moi aussi je salue. J'entends bien que le Gouvernement s'est saisi pleinement de ce sujet, que de nombreux dispositifs ont été lancés, sont en cours et visent à répondre aux enjeux.
Pour ma part, je souhaite revenir sur la question de la liberté qu'a évoquée Gérard longuet, car elle me semble essentielle. La première des libertés, c'est celle de s'aliéner. Mais encore faut-il savoir à quoi on souhaite s'aliéner et avec quelle conscience.
Il me semble alors que la question du contrat social se pose. Cette dimension-là a-t-elle vocation à prospérer dans nos débats, notamment dans nos échanges avec le Gouvernement ? (Murmures sur les travées du groupe Les Républicains.)
Mes chers collègues, si vous préférez des questions juridiques ou techniques, j'en ai aussi ! Certaines sont évidemment pertinentes, notamment celle de la propriété intellectuelle quand la création émane de l'intelligence artificielle elle-même sans la moindre intervention de personnes physiques – voilà un problème intéressant ! –, celle de la transparence ou, sur le sujet qui nous préoccupe à plus court terme, celle de la responsabilité, par exemple pour les véhicules autonomes.
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Monsieur le sénateur, je répondrai à votre question sur le contrat ou le pacte social et sur la manière que nous avons d'envisager notre façon d'être des hommes et des femmes ensemble, des citoyens en France, en Europe et dans le monde, et d'appréhender le rapport que nous avons avec les nations.
L'hypothèse que nous avons posée et que j'ai rappelée au début de ce débat, celle qui doit nous habiter en permanence, est la suivante : nous ne devons rien subir. Notre façon de vivre ensemble, nous, citoyens, l'avenir de ces technologies et le traitement de leurs conséquences : tous ces choix relèvent du politique.
Le modèle de financement de nos politiques sociales et de la solidarité constitue l'un des éléments essentiels de notre contrat social en France et en Europe.
Plus philosophiquement encore se pose la question de notre rapport à la politique, au pouvoir, à la décision, à l'autorité au sein de l'entreprise, à l'autorité politique, à l'autorité avec la police.
Dubaï annonce des robots autonomes pour assurer la sécurité au quotidien. Quel rapport d'autorité dois-je avoir avec un robot ? Si je crache sur un robot, ai-je la même responsabilité que face à un policier ? Si j'insulte un robot, puis-je être poursuivi de la même manière ? (Murmures.) Ces questions peuvent faire rire, mais ces robots s'annoncent déjà à Dubaï, et il nous faut donc être capables d'y répondre. Si ce robot a été programmé par un homme, celui-ci est-il responsable du comportement de cette machine ou bien est-ce l'État qui en aura pris la décision première ?
De très nombreuses questions ouvertes vont se poser à nous dans les années à venir. C'est pourquoi j'ai mentionné tout à l'heure la méthode du scénario. Il importe que nous soyons capables d'envisager ensemble des scénarios extrêmes, d'autres plus probables, en tout cas des situations que nous n'imaginons pas encore.
M. le président. La parole est à M. Pierre Ouzoulias.
M. Pierre Ouzoulias. Nos collègues Dominique Gillot et Claude de Ganay ont rendu au mois de mars dernier, sur l'initiative de l'Office parlementaire d'évaluation des choix scientifiques et technologiques, un copieux rapport sur l'intelligence artificielle. Sans que le bilan qu'ils dressent et les perspectives qu'ils proposent aient été réellement discutés, le Gouvernement a demandé à M. Cédric Villani un nouveau rapport sur le sujet, moins de six mois après le dépôt du précédent.
M. Cédric Villani est par ailleurs président de l'Office parlementaire d'évaluation des choix scientifiques et technologiques : vous nous permettrez par conséquent de nous interroger sur le bien-fondé de ce cumul, qui nous semble déontologiquement discutable.
À l'occasion de ses nombreux entretiens avec la presse, M. Cédric Villani défend une approche globale de l'intelligence artificielle et, sur ce sujet, nous ne pouvons que partager son point de vue. Il nous semble, en effet, que ce dossier ne peut être dissocié des difficultés rencontrées par la culture mathématique, singulièrement par son apprentissage scolaire.
Pour n'en donner que quelques exemples, je rappelle qu'un quart des collégiens ont des difficultés en mathématiques. Pis, sur les 1 440 postes ouverts au CAPES de mathématiques, 375 sont restés vacants. De nouveau, cette année, depuis la rentrée, nous entendons dans nos départements la récurrente plainte des familles exaspérées par le non-remplacement des professeurs, qui touche principalement les disciplines scientifiques. Ne pensez-vous pas qu'une stratégie efficace en matière d'intelligence artificielle devrait en tout premier lieu renforcer la culture scientifique dans l'enseignement ?
Par ailleurs, le rapport de Dominique Gillot et Claude de Ganay faisait justement apparaître la nature essentiellement masculine de la recherche en intelligence artificielle. Environ 90 % des programmeurs et des développeurs sont des hommes. Pourquoi les femmes sont-elles exclues à ce point de ces disciplines ? Par quel processus mystérieux l'intelligence féminine ne pourrait-elle pas se développer dans le domaine de l'intelligence artificielle ? (Mme Marie-Pierre Monier applaudit.)
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Monsieur le sénateur, j'aborderai deux points que votre question a soulevés et qui sont essentiels et conjoints : d'une part, la diversité des profils, qui passe par la culture et la sensibilisation, et, d'autre part, une pédagogie des sciences et des techniques, qui doit commencer très tôt en France.
En une dizaine d'années, on a quasiment vu disparaître 100 % des programmes audiovisuels consacrés à la pédagogie des sciences et du numérique, que ce soit sur les chaînes publiques ou sur les chaînes privées.
Voilà quinze, vingt, trente ou ans, quand j'étais moi-même un jeune enfant, plusieurs programmes de sensibilisation étaient proposés, qui trouvaient un écho à l'école, les professeurs pouvant les réutiliser. Au fur et à mesure, on n'a plus parlé de sciences, de mathématiques ; on a fait des exercices de mathématiques et de sciences et on a perdu ce goût heureux de la pratique sensible des sciences et des techniques. Résultat, ces sujets ont été réservés aux experts et à quelques-uns.
Vous avez rappelé les enjeux de la formation mathématique en France. Aujourd'hui, l'un de nos plus gros problèmes, c'est le nombre de candidats. Les professeurs de mathématiques ne demandent pas plus de nouvelles formations, ils demandent à les remplir !
Ce problème commence très tôt. Vous avez pris l'exemple des femmes : dès le début, on exclut, on ne cherche pas à inciter tout le monde à se diriger vers les sciences et à regarder avec amour cette discipline.
Il n'est qu'à voir la politique culturelle des sciences ! Paris compte le Palais de la découverte et, dans le XIXe arrondissement où j'ai été élu, la Cité des sciences et de l'industrie. Dans tous nos territoires, nous avons des musées des sciences. Pourtant, ils ne sont pas particulièrement remplis.
Quelques pays font un peu mieux que nous sur la place des femmes dans le numérique et dans les sciences. Ils ont traité cette question depuis le collège. Pour le ministre de l'éducation nationale et moi-même, l'enjeu consiste à faire très tôt la démonstration à nos jeunes que les sciences et techniques constituent un avenir potentiel pour eux.
Je vous invite à m'accompagner au prochain événement StartHer. Celui-ci ne rassemble que des femmes, mais nous y avons parlé non de femmes, mais de technologies et de la façon dont celles-ci sont en train de transformer le monde par la technologie. C'était un moment fabuleux ! (Applaudissements sur les travées du groupe La République En Marche.)
M. le président. La parole est à M. Olivier Cadic.
M. Olivier Cadic. Monsieur le président, monsieur le secrétaire d'État, mes chers collègues, quel sera l'impact de l'intelligence artificielle sur le marché du travail ? La question est sans doute l'une des plus importantes du moment.
Deux visions s'affrontent aujourd'hui pour y répondre : une vision malthusienne et une vision schumpéterienne.
Selon la première, pour la première fois dans l'histoire de l'humanité, il n'y aurait pas de destruction créatrice, ce qui semble attesté par certaines études. Par exemple, Frey et Osborne, deux chercheurs d'Oxford, ont estimé en 2013 que la moitié des emplois aux États-Unis seraient remplacés à terme par une machine, au sens large. C'est sur cette vision que se déploient toutes les théories du revenu universel garanti.
Cette vision, ce n'est pas la mienne. Certes, la révolution numérique sera aussi fatale aux cols blancs que l'automatisation industrielle l'a été aux cols bleus, mais les cols d'or arrivent, la Creative class, comme l'a appelée le professeur de Columbia Richard Florida. C'est aussi l'analyse du spécialiste de l'intelligence artificielle Laurent Alexandre, qui explique que les métiers de demain devront être complémentaires de l'intelligence artificielle.
De nouveaux métiers se profilent donc et constituent un fantastique gisement pour l'avenir. Le défi pour la puissance publique est de les identifier pour informer et former. Monsieur le secrétaire d'État, comment notre pays s'y prépare-t-il ? (Applaudissements sur les travées du groupe Union Centriste.)
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Voilà encore une question très large, qui pose peut-être même la question de la question… (Sourires.)
M. Jacques Grosperrin. Faites la réponse !
M. Mounir Mahjoubi, secrétaire d'État. 42 !... (Nouveaux sourires.)
Je répondrai tout d'abord sur la vision que nous avons de notre économie.
Nous devons choisir entre une vision schumpéterienne, qui accepte la destruction, et une autre, plus intéressante, qui suppose dans le même temps une transformation de nos entreprises existantes, l'arrivée de nouvelles entreprises et l'avènement d'un monde de l'équilibre, où chacun, avec ses propres compétences, parvient à émerger.
À cela s'oppose un autre modèle, dans lequel les champions gagnent tout, les entreprises championnes font émerger en elles-mêmes des semi-démocraties internes où ceux qui en seront à la tête seront ces fameux cols d'or, ou même cols de diamants. Regardez aujourd'hui les dirigeants de ces mégastructures : ils ne parlent parfois même pas d'égal à égal à nos dirigeants politiques, tellement ils se sentent les dirigeants d'un ordre ou d'un monde nouveau !
Sur ce sujet, la vision politique, publique, philosophique du Gouvernement, c'est plutôt celle d'un monde où l'on permet à chacun d'adapter ses compétences et de continuer à exister, où, sur tous les territoires, les entreprises continuent d'être compétitives, parce que l'on aura créé les conditions d'une concurrence juste – je reviens ainsi à la question de Gérard Longuet. Comment s'assurer que le monde qui nous attend ne crée pas de nouveaux mégamonopoles qui engendreront des monstres économiques, mais aussi des monstres démocratiques ?
Quand certaines entreprises dépasseront le million de salariés, ce qui sera possible dans un monde où les structures et les mégaplateformes s'intégreront de façon verticale ou horizontale dans toutes les strates de notre vie économique, ceux qui seront à leur tête poseront des questions sur notre propre pouvoir et sur notre légitimité à décider du sort de leurs citoyens-salariés, qui seront peut-être plus salariés que citoyens, eux qui iront vivre sur des îles flottantes dans les eaux territoriales internationales. On pourra alors se poser des questions.
Il y a trois ans, j'ai fait un exercice de prospective philosophique sur les avenirs possibles – je vous l'enverrai. Si nous investissons dans l'avenir avec nos valeurs, alors nous pourrons éviter ce monde des cols de diamants, où la moitié de l'humanité sera abandonnée et nous parviendrons à cette humanité complexe, variée, diverse, avec, d'un côté, ceux qui continueront à travailler le sol pour nourrir les autres, et, de l'autre, ceux qui développeront les super-technologies pour nous soigner. C'est à nous de décider cet avenir-là plutôt que l'autre. (M. André Gattolin applaudit.)
M. le président. La parole est à M. Olivier Cadic, pour la réplique.
M. Olivier Cadic. Monsieur le secrétaire d'État, ma question était : comment identifier ces nouveaux métiers ?
Pourquoi l'avoir posée ? Parce que, en 1995, le ministère de l'industrie avait fait paraître un livre intitulé Les 100 technologies clés pour l'industrie française à l'horizon 2000, dans lequel on ne trouvait jamais le mot « internet » ou la technologie liée à l'internet. Ce qui me préoccupe, c'est d'identifier ces nouveaux métiers : il faut s'y atteler de façon sérieuse. Car si on ne le fait pas, comment déterminer les formations à créer ?
M. le président. La parole est à M. Marc Daunis.
M. Marc Daunis. Monsieur le président, monsieur le secrétaire d'État, mes chers collègues, la nature de nos échanges montre à la fois la richesse et l'ampleur des questionnements qu'ont à se poser à la fois le législateur et l'exécutif. Ces champs sont énormes, d'autant plus que l'on touche à quelque chose de quasiment distinctif de l'humanité, lié à son essence même : l'intelligence.
Ma première question porte sur votre affirmation, monsieur le secrétaire d'État, selon laquelle il ne faut jamais subir. Parfait ! J'essaie de m'appliquer ce principe.
Toutefois, quand vous dites que l'intelligence artificielle ne sera jamais supérieure à l'intelligence humaine, je me permets de vous rappeler que, selon la plupart des scientifiques, d'ici à vingt-cinq ou trente ans – peu importe la date –, les capacités de la machine, au travers, notamment, des réseaux de neurones artificiels, pourront dépasser les capacités biologiques.
Ma deuxième question concerne l'éducation. Je pense à une expérience de terrain, menée au coeur de mon département des Alpes-Maritimes, sur la technopole de Sophia Antipolis, avec le réseau Educazur, une implication massive et un partenariat entre le privé et l'État. Une série de questions se posent très rapidement à propos de cette coproduction : que vont devenir les données d'apprentissage fournies par les élèves et les enseignants ? Quid de la notion de propriété intellectuelle, des plateformes coopératives, collaboratives ? Comment la notion même d'open source peut-elle être traitée ? Cela nous renvoie à la possibilité que des acteurs technologiques puissent, en forçant le trait, capter le cerveau des enfants.
Comment articuler de telles expérimentations avec, par exemple, le partenariat d'innovation lancé par le ministère avec la Caisse des dépôts et consignations, avec les territoires ?
Troisièmement, quel regard portez-vous sur cette complémentarité entre la machine et l'humain, qui peut être un levier extraordinaire en matière d'éducation, à la formation ?
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Je vous remercie de cette question, monsieur le sénateur.
Pour ce qui concerne, premièrement, la question de la supériorité des machines, cela fait déjà longtemps que celles-ci calculent plus vite que les hommes ! L'ordinateur fait des divisions plus vite que nous. Il sera aussi capable de traiter plus rapidement un très grand nombre de données.
En revanche, l'intelligence artificielle qui pourrait décider, dans cette enceinte, ce qui est le plus juste, n'est pas encore née. En effet, c'est le débat qui fait l'homme et son intelligence. De fait, dans cette assemblée, faite de personnes éminemment intelligentes (Sourires.), nous ne sommes jamais complètement d'accord, parce qu'il n'y a pas de vérité exacte, juste et nécessaire. Cette capacité à débattre, cette capacité créative à orienter le monde, cette capacité à décider ce qui est souhaitable pour les hommes et peut être aussi pour les machines restera le monopole des hommes et des femmes ; en tout cas, nous ferons toujours tout pour.
Votre deuxième question dépasse celle de l'intelligence artificielle et de l'éducation, pour toucher à la transformation numérique de l'éducation. Vous m'interrogez sur la manière de se doter des nouveaux outils numériques, qui permettent de repenser le moment éducatif, que ce soit dans la salle de classe ou en dehors de celle-ci, ce qui questionne le rôle du professeur et de l'établissement, mais aussi, dans le même temps, sur le sujet numérique : comment transmet-on davantage de compétences numériques à tous les âges et comment le numérique transcende-t-il les contenus des autres disciplines ?
Vous abordez aussi dans votre question un troisième élément : quel mode d'enseignement privilégier à l'heure d'une transformation numérique de nos sociétés et de nos emplois ? Il ne s'agit là ni de se doter d'outils, tablettes ou MOOC, ni de repenser les contenus – il ne s'agit pas de coder. Il s'agit d'appréhender ce monde nouveau.
Je pense, comme le ministre de l'éducation nationale, qu'il faut traiter les trois problèmes en même temps et se mettre au niveau à la fois sur les outils, sur le numérique comme sujet et sur notre capacité à adapter notre éducation dans les années à venir, compte tenu des transformations que nous allons subir tous ensemble. (M. François Patriat applaudit.)
M. le président. La parole est à M. Michel Raison.
M. Michel Raison. Monsieur le président, monsieur le secrétaire d'État, mes chers collègues, même si l'intelligence naturelle est dignement représentée dans cet hémicycle (Sourires.),…
M. André Gattolin. Bravo !
M. Michel Raison. … nous côtoyons l'intelligence artificielle au quotidien. Le développement de celle-ci va forcément transformer en profondeur nos sociétés et nos économies.
Pour le moment, nous assistons au succès des algorithmes de Google et de Facebook, efficaces pour trouver des réponses à nos questions et pour hiérarchiser un certain nombre d'informations.
Les chercheurs réalisent des programmes informatiques qui surpassent l'homme dans certaines de ses capacités cognitives. Je pense notamment au jeu d'échecs, au jeu de go ou même au ping-pong ou au poker. Un bon progrès sera celui qui saura bien accompagner l'essor de ces technologies.
Il a déjà été rappelé que notre collègue député Claude de Ganay et notre ancienne collègue Dominique Gillot ont rendu, le 15 mars 2017, un rapport intitulé Pour une intelligence artificielle maîtrisée, utile et démystifiée. Ce rapport montre que l'intelligence artificielle fait naître des progrès incontestables, mais aussi, comme tout progrès, des risques.
Ma question portera sur les enjeux éthiques de l'intelligence artificielle. Comment assurer la bonne gouvernance de celle-ci ? Quels principes éthiques doivent, selon le Gouvernement, encadrer ces technologies ? Comment éviter que des contraintes juridiques trop fortes ne viennent freiner l'innovation ?
Dans leur rapport, Claude de Ganay et Dominique Gillot proposent, par exemple, d'élaborer une charte de l'intelligence artificielle et de la robotique et de confier à un institut national de l'éthique de l'intelligence artificielle et de la robotique un rôle d'animation du débat public sur les principes éthiques qui doivent encadrer ces technologies.
Monsieur le secrétaire d'État, au-delà de la mission confiée à notre collègue député Cédric Villani, dont l'intelligence est incontestable, quelle suite le Gouvernement entend-il donner aux quinze recommandations précises issues du rapport ? Je souhaite que celui-ci soit utile. (Applaudissements sur les travées du groupe Les Républicains. – M. Daniel Chasseing applaudit également.)
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Monsieur le sénateur, ce rapport m'a été remis personnellement et j'ai pu en discuter avec Mme Gillot. La capacité des auteurs du rapport à problématiser une grande partie des sujets m'a paru remarquable.
Vous avez évoqué les quinze recommandations finales. Selon moi, ces dernières font partie de l'ensemble des sujets sur lesquels nous devrons répondre à l'issue de la mission qu'aura conduite M. Villani.
S'agissant du volet éthique, que vous avez abordé, la loi pour une République numérique, qui a été défendue par Axelle Lemaire, a confié à la CNIL la mission d'avancer sur le sujet global de l'éthique dans les technologies. Un rapport intermédiaire doit être rendu dans les prochaines semaines ; un rapport définitif le sera dans quelques mois.
La proposition de créer un institut s'entend. On l'a déjà fait sur quelques grands sujets, comme sur les questions de bioéthique, où la science va plus vite que notre capacité à analyser ses conséquences, ce qui oblige à se doter d'un outil capable de maîtriser cette vitesse. On a parfois tellement eu peur de cette vitesse que l'on a créé des moratoires, pour avoir le temps de nous arrêter et de réfléchir avant de continuer.
Sur l'intelligence artificielle, il ne s'agit pas aujourd'hui de fixer un moratoire, mais on voit que des inquiétudes se font jour. Dans le même temps, les interventions dans ce débat témoignent de l'océan infini des opportunités que l'intelligence artificielle représente pour un meilleur vivre ensemble.
Poser la question de l'existence d'un institut, c'est s'interroger sur le rôle que l'on voudra lui donner. Avant que cette instance puisse exister, c'est le Parlement qui représente le collectif.
À cet égard, le débat d'aujourd'hui invite à contrôler le Gouvernement, à savoir s'il a investi suffisamment d'argent et s'il maîtrise ces questions. Surtout, il permet que nous puissions nous demander collectivement si les représentants des Français que nous sommes tous sont certains que ces derniers se posent bien les questions au bon niveau.
J'espère que des questions seront présentées en séance plénière pour que nous puissions aborder le rapport de Cédric Villani en séance plénière. Je souhaite que nous puissions débattre longuement de certaines de ces questions et que ce débat fasse naître des oppositions. En effet, j'ai la certitude que le sujet du modèle numérique que l'on doit retenir – il en existe plusieurs dans le monde – mérite un débat politique. Je veux que l'on parvienne à une conclusion sur ce qui fait la France numérique, la France de l'intelligence artificielle.
M. le président. La parole est à Mme Michèle Vullien.
Mme Michèle Vullien. Monsieur le président, monsieur le secrétaire d'État, mes chers collègues, il n'est pas facile de passer en quinzième position, beaucoup de choses ayant déjà été dites… Pour ce qui me concerne, il me semble que l'intelligence artificielle doit être pensée en termes de chances pour l'organisation de notre territoire, mais qu'il faut remettre l'homme au coeur du débat.
De quoi nos concitoyens ont-ils besoin ? Quelle qualité d'usage l'intelligence artificielle peut-elle apporter ?
On a évoqué les voitures individuelles, mais je suis plus particulièrement attachée, pour ma part, aux transports publics. Les navettes autonomes peuvent transformer radicalement nos politiques de mobilité. Elles ouvrent des perspectives inédites pour garantir une meilleure continuité du service public des transports et permettre ainsi un maillage plus fin du territoire dans l'espace.
Notre assemblée ne peut bien évidemment qu'être sensible au potentiel de telles navettes pour desservir les centres-villes historiques et la ruralité. Des navettes de rabattement en zone rurale pour connecter un mode lourd sont d'une grande utilité. Actuellement, on sait très bien que les transports à la demande fonctionnent avec grande difficulté, mais la navette autonome peut aussi améliorer la continuité du service public dans le temps, avec des transports publics qui fonctionnent à des horaires atypiques, par exemple pour du personnel d'entretien qui travaille dans les parcs d'affaires.
Sur le territoire du Rhône, nous rencontrons des difficultés pour des métiers à horaires atypiques, qui pourraient très bien fonctionner avec des navettes autonomes. C'est aussi le cas des bouts de ligne en soirée. En effet, au-delà de la massification, on a besoin de régler les problèmes de façon beaucoup plus diffuse. C'est la règle du « 80-20 » : on a besoin de régler différemment 20 % des transports.
Déjà, aujourd'hui, des solutions de véhicules autonomes commencent à émerger. L'exemple lyonnais de la navette autonome Navly, qui, avec le Sytral et Keolis, fonctionne sur le quai dans le nouveau quartier de la Confluence, est tout à fait intéressant à suivre, mais la réglementation actuelle ne permet pas aux collectivités de mettre en oeuvre librement ces expérimentations. Monsieur le secrétaire d'État, j'imagine que vous réfléchissez déjà à l'adaptation de ce cadre juridique avec votre collègue Élisabeth Borne.
Plus globalement, comment les Assises de la mobilité et le projet de loi d'orientation qui en découlera prendront-ils en compte cette évolution technologique majeure ? On nous permettra d'innover dans nos territoires, d'exercer le droit à l'expérimentation, ainsi que le droit à l'erreur.
J'imagine fort bien, en effet, que tout ne sera pas un long fleuve tranquille, mais, comme on se plaît à le dire à la métropole de Lyon – j'en ai un peu fait ma devise –, « aimons l'avenir ». (Applaudissements sur les travées du groupe Union Centriste. – M. Daniel Chasseing applaudit également.)
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Madame la sénatrice, je ne peux que soutenir une telle devise : aimons l'avenir, tous ensemble !
Vous soulevez la question du déplacement multimodal personnalisé partout sur les territoires, quelles que soient la condition et les possibilités des voyageurs.
Cette question de la personnalisation, du dernier kilomètre, de l'adaptabilité au territoire figure dans la politique de transport et de déplacements que nous discutons avec la ministre chargée des transports. En effet, les territoires ont tous des besoins différents, qu'il s'agisse des zones denses des villes, des zones non denses des grandes métropoles, des espaces périurbains ou ruraux. Les besoins dépendent aussi des personnes : la personne âgée, qui ne peut guère plus marcher que quelques mètres, n'a pas les mêmes besoins que le lycéen, qui fait tous les jours le même parcours.
Toute la politique de transports que nous devons penser, c'est cette multimodalité intelligente adaptative personnalisée jusqu'au dernier kilomètre et qui s'adapte à la géographie de notre territoire.
Vous avez parlé des navettes : je vous trouve un peu dure avec moi, puisque c'est l'exemple que j'ai bien voulu prendre tout à l'heure, en expliquant qu'on pouvait généraliser ces systèmes de navettes et qu'il fallait se poser la question de notre volonté sur le transport multimodal ! À cet égard, les navettes sont une des solutions.
On voit bien aujourd'hui que les modalités de transport que nous utilisons pour les personnes en situation de handicap, pour les personnes malades, les collégiens ou les lycéens sont des systèmes imparfaits, qui nous coûtent particulièrement cher et n'apportent pas tous le niveau de service attendu. Sur ce plan, l'innovation va apporter un mieux-être pour toutes les personnes en situation de handicap, malades, âgées ou qui vivent en milieu rural. On parle beaucoup du taxi médical, qui coûte beaucoup d'argent sans être le moyen le plus agréable pour une personne malade d'aller à l'hôpital et d'en revenir, mais c'est, aujourd'hui, le seul moyen qui existe.
Dans les années qui viennent, il faudra que nous nous interrogions intelligemment sur le transport multimodal adapté – pourquoi pas par le véhicule autonome, du moins sur une portion du trajet ?
Vous avez rappelé la nécessité de l'expérimentation. La capacité à créer des droits à l'expérimentation est une conviction de ce gouvernement. Donc oui, nous allons tout faire pour multiplier les capacités de création d'espaces d'expérimentation dans les territoires. Les technologies étant de plus en plus matures, nous pourrons autoriser des expérimentations de plus en plus larges.
Aujourd'hui, l'expérimentation est possible dans des espaces fermés non ouverts à la circulation habituelle. Cette limitation ne paraît pas très ambitieuse, mais elle était nécessaire compte tenu de la maturité de la technologie. La prochaine étape consistera à ouvrir l'expérimentation à des espaces sécurisés, mais ouverts au public, et la suivante à définir des territoires d'expérimentation. J'espère que le premier d'entre eux sera plutôt rural qu'urbain : cela permettra de voir ce que ces véhicules autonomes peuvent apporter aux citoyens au quotidien.
J'ai la conviction que cette technologie doit être utile aux Français, pour qu'ils la suivent sans méfiance. Sinon, nous prendrons dix à quinze ans de retard ! Si les premières technologies permettent que des cancers soient soignés plus rapidement, que des personnes se déplacent plus aisément et que la vie commune soit plus agréable, je vous assure que ce que nous disions tout à l'heure sur la pédagogie des sciences et des technologies sera une expérience concrète, et pas simplement un débat fictif.
M. le président. La parole est à M. Ronan Le Gleut.
M. Ronan Le Gleut. Monsieur le président, monsieur le secrétaire d'État, mes chers collègues, l'intelligence artificielle va totalement révolutionner nos vies et encore davantage celle de nos enfants.
L'intelligence artificielle va, par ailleurs, totalement révolutionner le marché de l'emploi. Il se trouve que les leaders mondiaux sont les GAFA américains – Google, Amazon, Facebook, Apple – et les BATX chinois – Baidu, Alibaba, Tencent, Xiaomi – et qu'il n'y a absolument aucun leader européen dans le domaine de l'intelligence artificielle, qui fournira pourtant les emplois de demain. Il est donc nécessaire et urgent de se réveiller et d'agir pour rattraper ce retard technologique.
L'intelligence artificielle peut permettre des progrès absolument considérables dans nos politiques publiques. Nous pouvons la mettre en oeuvre dans pratiquement tous nos ministères, pour prendre des décisions qui concernent la sécurité, la politique des transports, la politique de l'agriculture et, au-delà, dans nos politiques locales, territoriales, pour que les politiques prennent des décisions encore plus affûtées. De fait, toutes les recherches menées actuellement montrent que ce qui produit les meilleures idées, ce n'est pas l'intelligence artificielle seule ; c'est la combinaison entre l'intelligence humaine et l'intelligence artificielle.
Ma question est la suivante : la France a-t-elle pris conscience de la nécessité absolue de faire émerger des solutions d'intelligence artificielle dans nos politiques publiques, ce qui permettra par ailleurs de faire émerger une véritable industrie de l'intelligence artificielle française, avec des acteurs privés français, dans une combinaison avec le travail de l'action publique ? (Applaudissements sur les travées du groupe Les Républicains. – M. Claude Malhuret applaudit également.)
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Monsieur le sénateur, je vous remercie de cette question intéressante, qui me permet d'aborder un volet de mon secrétariat d'État que j'ai peu évoqué depuis le début de cette séance, à savoir la transformation numérique de l'État, dont je suis aussi chargé.
En tant que responsable de ce dossier, je suis en plein questionnement sur la manière dont l'État innove. Je parlais tout à l'heure du numérique et de l'éducation : le sujet de la transformation numérique de l'État est aussi celui des outils, des modes de fonctionnement, de la recherche de performance, de la plus grande utilité aux citoyens et aux entreprises, mais aussi de l'innovation et de l'hyper-innovation.
Pensez à la force que peut apporter l'intelligence artificielle aux juges, notamment dans les enquêtes pénales : dans une enquête criminelle, on peut recevoir plusieurs milliers ou dizaines de milliers de pièces ! Imaginez que l'intelligence artificielle puisse également assister la police, être capable de l'orienter, de lui désigner des pistes, de lui montrer des lieux…
Imaginons encore l'intelligence artificielle appliquée à nos hôpitaux : sans remplacer le médecin, elle le rendra encore plus capable d'agir.
Pensons à l'application de l'intelligence artificielle aux transports. Je posais tout à l'heure la question du rôle des collectivités et de l'État, quand nous évoquions le déplacement multimodal personnalisé et le dernier kilomètre. Où met-on cette intelligence ? Il faut bien qu'il y ait quelque part un centre de réflexion, un cerveau virtuel, artificiel, qui distribue et qui optimise ces flux, pour apporter ce service aux citoyens. Fait-on un appel d'offres pour qu'une entreprise nous livre ce service ? Est-ce l'État ou la collectivité qui doit créer le service, et des prestataires qui viennent l'assurer ? Nationalise-t-on un service ? Tous les scénarios sont possibles. Au final, ce sera un choix politique, une décision intellectuelle et humaine.
J'en ai fait un élément essentiel de la réorganisation de mon ministère. Nous avons maintenant, au coeur de l'État, une direction interministérielle du numérique et du système d'information et de communication de l'État, la DINSIC, qui est acteur de la transformation numérique de l'État, avec une équipe technologique que j'ai renforcée, qui va recruter, dans les prochains mois et les prochaines années, des profils de très haut niveau liés aux technologies et à l'innovation appliquées aux domaines d'intervention de l'État et qui travaillera en collaboration avec tous les ministères, pour apporter ces technologies dans le service que nous rendons aux citoyens, aux entreprises et aux agents.
M. le président. La parole est à M. Ronan Le Gleut, pour la réplique.
M. Ronan Le Gleut. Monsieur le secrétaire d'État, je vous remercie de votre réponse.
Je veux juste apporter un complément. N'oublions pas les collectivités territoriales, qui peuvent, elles aussi, mettre en oeuvre l'intelligence artificielle dans leurs politiques. (Applaudissements sur les travées du groupe Les Républicains. – M. Daniel Chasseing applaudit également.)
M. le président. La parole est à M. Jean-Michel Houllegatte.
M. Jean-Michel Houllegatte. Monsieur le président, monsieur le secrétaire d'État, mes chers collègues, mon intervention va prolonger celle de Michel Raison. En effet, je vais, comme lui, prendre appui sur le rapport de Claude de Ganay et Dominique Gillot.
J'ai bien compris la volonté des auteurs de ce rapport de démystifier l'intelligence artificielle et de contrer tout fantasme et toute dérive qui consisterait à admettre que l'humain, au XXIe siècle, serait, à court ou moyen terme d'ailleurs, supplanté par une intelligence supérieure, un peu à l'image de ce que fut, pour l'homme de Neandertal, l'apparition d'Homo sapiens voilà 30 000 ans.
Néanmoins, ce rapport évoque des risques, dont la maîtrise ne semble pas complètement assurée. On évoque ainsi, sur le plan technologique, des questions liées à la sûreté, à la sécurité et à la robustesse des systèmes, au phénomène de boîtes noires des algorithmes, de deep learning. La régulation au niveau international, laquelle englobe la prévention et le contrôle, apparaît d'autant plus nécessaire que des pays comme la Chine, qui investissent massivement dans le secteur, ne semblent pas très proactifs sur la réponse à apporter aux questions d'éthique.
Les propositions du rapport insistent sur les termes « sensibiliser », « former », « accompagner », « encourager », « orienter » et s'y cantonnent. Dès lors, si l'on peut se féliciter de la mission confiée à Cédric Villani, de la concertation et du futur débat public, il n'y a pour l'instant rien de très coercitif.
Ma question, qui prend appui sur la proposition n° 4 du rapport, laquelle vise à confier à un institut national de l'éthique de l'intelligence artificielle et de la robotique un rôle d'animation du débat public, est la suivante : monsieur le secrétaire d'État, pourquoi ne pas promouvoir dès maintenant la création d'une autorité de sûreté dotée de pouvoirs étendus, comme celui de disposer de l'autorisation de commercialisation ou de mise sur le marché, mentionnée, d'ailleurs, à la page 144 du rapport, ainsi que cela existe dans d'autres domaines – l'alimentation, la pharmacie, le nucléaire ?
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Monsieur le sénateur, je vous remercie de votre question. Celle-ci renvoie à l'équilibre, que nous avons déjà évoqué tout à l'heure, entre la liberté dont doivent disposer les entreprises pour développer ces technologies et la nécessité d'en contrôler les impacts.
Vous avez parlé des technologies de boîtes noires, de deep learning, qui peuvent avoir des conséquences importantes, en créant notamment des discriminations et des biais, et se révéler dangereuses si elles sont appliquées à certains secteurs.
Nous n'avons pas apporté de réponse précise à ce problème pour le moment. Cela fera partie des recommandations que l'État défendra dans le cadre de la stratégie qui sera définie. Cependant, dès aujourd'hui, dans les applications essentielles et dans les applications sensibles, nos régulateurs existants sont extrêmement actifs et nos capacités à réguler extrêmement fortes.
Ainsi, des procédures de certification et une protection des boîtes noires qui peuvent être utilisées, notamment dans les réseaux ou dans les infrastructures stratégiques, existent d'ores et déjà.
Des procédures de certification ont également été définies pour l'usage de cette technologie dans la santé : aujourd'hui, un algorithme d'assistance à la décision médicale ne peut être mis en oeuvre dans un hôpital sans être piloté dans le cadre de la mise en place d'un outil ou d'un dispositif de santé.
Pour ce qui concerne les transports, aucun véhicule fonctionnant à l'intelligence artificielle n'est mis en circulation aujourd'hui s'il ne continue pas à se développer.
À titre personnel – cela peut être soumis à débat –, je ne crois pas qu'il faille une institution unique qui régulerait l'intégralité des dispositifs de l'intelligence artificielle, mais que tous les experts actuels de la certification et de la garantie de la sécurité de nos citoyens doivent intégrer celle-ci dans leurs domaines de compétence respectifs. Cela vaut pour le régulateur de santé comme pour celui des transports, du renseignement, de nos réseaux de télécommunications… Cet effort doit nécessairement déboucher sur une amélioration de l'expertise de nos fonctionnaires et de nos agents.
Cela pose une autre grande question : forme-t-on, recrute-t-on et parvient-on à garder sur notre territoire suffisamment d'experts pour porter ces sujets ? En effet, l'un des plus grands dangers est que nous n'arrivions pas à nous doter des experts dont nous avons besoin et que les institutions qui ont la responsabilité de contrôler n'en aient pas la compétence – au premier sens du terme, à savoir la compétence technique.
C'est aujourd'hui un véritable enjeu, que nous envisageons aussi comme une responsabilité.
M. le président. La parole est à M. Jérôme Durain.
M. Jérôme Durain. Monsieur le président, monsieur le secrétaire d'État, mes chers collègues, la diversité des interventions de ce jour témoigne de l'utilité de ce débat. Elle atteste aussi de l'étendue des activités en mesure d'être changées par l'intelligence artificielle.
Ma question concerne plus précisément la justice. S'il faut sans doute se garder d'une vision prophétique telle que celle que l'on peut trouver dans l'univers de Philip K. Dick avec Minority Report, les legaltechs ont commencé à développer ce que l'on appelle communément un champ de « justice prédictive ».
Dans le débat public, les premiers échos ont résonné autour d'une étude universitaire britannique menée sur les décisions de la Cour européenne des droits de l'homme. Un outil créé pour l'occasion a défini des modèles de jugement et a pris des décisions similaires à celles de la CEDH dans 79 % des cas qui lui ont été soumis. Certains y ont vu la possibilité que des robots remplacent un jour les juges ou les avocats. En réalité, il pourrait davantage s'agir d'un outil permettant de rationaliser certaines étapes de la saisine, un outil utile aux justiciables, aux avocats comme aux juges, et finalement pas si éloigné de nos anciennes bases de données.
Pour certains champs très engorgés de la justice, cette justice prédictive permettrait sans doute de favoriser des accords à l'amiable plutôt que des procédures longues et coûteuses dont l'intelligence artificielle prédirait qu'elles trouveraient une issue facile à deviner.
Partant de la même vision pragmatique, le législateur a voulu appliquer le principe d'ouverture des données publiques aux décisions de justice administrative et judiciaire dans la loi pour une République numérique. Puis, au printemps dernier, en partenariat avec le ministère de la justice, les cours d'appel de Rennes, en Ille-et-Vilaine, et de Douai, dans le Nord, avaient décidé d'expérimenter une solution de prévisibilité de la justice.
Cependant, la semaine dernière, des articles de presse se sont fait écho d'une réception très différenciée entre les cours d'appel de Rennes et de Douai sur ces expérimentations.
Monsieur le secrétaire d'État, pourriez-vous éclairer la représentation nationale sur la manière dont ces expérimentations progressent et nous rassurer sur la volonté continue du Gouvernement de poursuivre l'ouverture des données publiques ?
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Je vous remercie, monsieur le sénateur. En réalité, vous nous interrogez sur ce vers quoi nous voulons aller. Dans le cas de Minority Report, nous sommes au-delà de la justice prédictive : il s'agit de police prédictive et, même, de condamnation prédictive, puisque la peine est appliquée avant même que les faits se soient réalisés.
Les exemples que vous évoquez relèvent de l'assistance à la décision de justice. Plus spécifiquement, dans les expérimentations que vous mentionnez, les dispositifs ne participaient pas à la décision : ils étaient lancés parallèlement. Le juge comparait ensuite sa décision, prise suivant un protocole collégial, avec celle que la machine était capable de proposer, pour voir si celui-ci participait, ou non, à une meilleure justice au quotidien.
Vers quoi nous dirigeons-nous aujourd'hui ? Mme Belloubet a annoncé une stratégie pour la transformation de la justice, la simplification de la procédure civile, la simplification de la procédure pénale et la numérisation. Aujourd'hui, l'enjeu est plutôt d'assister le citoyen, les professionnels de justice, les greffiers et les juges dans le transfert, l'analyse et le traitement de la masse d'informations, plutôt que dans la prise de décision.
Quand bien même on en arriverait à l'assistance à la prise de décision, ce qui fait notre justice en France, ce qui fait notre droit, c'est la capacité à interpréter, à avoir une jurisprudence qui s'adapte à son temps, à un contexte – celui d'une affaire, mais aussi celui d'une vie. Contrairement à la caricature que l'on peut faire du droit, les juges ne sont pas des machines qui appliquent la loi de façon automatique. Les décisions ne résultent pas de 1 et de 0 ; c'est toujours une somme qui permet l'interprétation. Tant que l'on décidera que notre justice fonctionne ainsi, les outils doivent aider à travailler de la sorte.
Aujourd'hui, nous continuons à vouloir une justice où les hommes sont jugés par des hommes, et non par des machines, qui analysent la réalité en on et en off… Imaginez sinon, mesdames, messieurs les sénateurs, les lois qu'il faudrait écrire, en langage « machine », c'est-à-dire avec un vocabulaire standardisé, normalisé… (Sourires.) Ce n'est pas la société que nous avons souhaitée ; ce n'est pas ce vers quoi nous nous dirigeons.
Toutefois, dans des enquêtes financières, comme celles de l'Autorité de la concurrence, les juges disposent souvent aujourd'hui de plusieurs téraoctets de données, d'informations collectées massivement dans les entreprises. Ils doivent utiliser des technologies d'intelligence artificielle encore naissantes pour identifier, dans toutes ces données, celles qui pourraient être intéressantes pour prendre une décision de justice.
Le ministère de la justice dispose aujourd'hui d'une équipe qui travaille sur toutes ces technologies, de manière à rendre la justice plus innovante et les outils plus performants et plus utiles au quotidien pour les agents de la justice, à savoir les juges, les greffiers et tous ceux qui travaillent autour d'eux.
Nous avons un second projet, qui sera le plus important de ce quinquennat en termes de numérique et d'administration. Il s'agit de « justice.fr », portail de la justice et des justiciables, qui facilitera le suivi des affaires et permettra des échanges. Ainsi, le juge pourra interagir plus aisément avec les citoyens. Il s'agit là aussi d'un enjeu véritable. Cependant, il n'y a pas ici d'intelligence artificielle : il y a surtout une confiance dans l'outil.
M. le président. La parole est à M. Jacques Grosperrin.
M. Jacques Grosperrin. Monsieur le président, monsieur le secrétaire d'État, mes chers collègues, les nouvelles formes de technologies, permises par le développement de l'intelligence artificielle, agrémenteront demain le quotidien de chacun, en particulier celui de nos enfants. En effet, les jeunes générations vont grandir avec ces avancées technologiques et de nouveaux comportements et besoins vont apparaître.
Des informaticiens, ingénieurs, mathématiciens, voire philosophes vont être nécessaires pour répondre à cette demande.
La place de l'intelligence artificielle dans le système éducatif doit être anticipée, soit comme outil complémentaire pour les enseignants, soit comme matière d'enseignement ou de recherche. L'intelligence artificielle permettra donc un saut qualitatif pour aider les personnes en situation de handicap, en proposant des exercices de curiosité et de stratégie, mais aussi pour les élèves, en systématisant les chaînes d'apprentissage pour les exercices de mémoire.
Un professeur de mathématiques de ma belle ville de Besançon a mis en place un monitoring individuel d'apprentissage du calcul mental, le projet Mathador. L'intelligence artificielle est donc un outil formidable pour accompagner la dimension plus automatique ou systémique que celle, consciente, de l'éducation.
Il ne s'agit pas de céder aux sirènes d'un défi quantitatif, mais bien de s'attaquer au qualitatif. La pensée d'Edgar Morin résume cette problématique, car, pour lui, l'enjeu de l'éducation, eu égard à l'intelligence artificielle, n'est pas d'avoir un homme augmenté, mais un homme amélioré. Il y a donc un volet clé, c'est la question des algorithmes, de leur puissance et de leur périmètre d'action. On pourrait se demander quel algorithme en matière de formation ou quel algorithme éducatif se chargera d'éduquer les logiciels éducatifs… Bref, le plus puissant des algorithmes reste encore, pour longtemps j'espère, le cerveau animal et humain – je ne souscris pas à la notion de transhumanisme. Il y a un chaînon manquant, pour comprendre cette intelligence artificielle, c'est la pensée complexe.
Ma question portera sur la relation entre l'intelligence artificielle et l'éducation technologique et professionnelle, en particulier s'agissant de l'évolution des métiers répétitifs ou dont le périmètre des tâches peut être standardisé, qui aura bien évidemment des conséquences sur le marché du travail.
Quel est votre sentiment sur le devenir de ces métiers ? Enfin, comment promouvoir nos talents universitaires oeuvrant dans cette exploration et les inciter à rester à l'université ? (MM. Jean-Paul Émorine, Jean-Claude Carle et Jackie Pierre applaudissent.)
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Monsieur le sénateur, vous vous interrogez sur le pouvoir de l'intelligence artificielle au sein de l'éducation et sur la question plus spécifique des métiers manuels.
S'agissant de l'intelligence artificielle appliquée à l'éducation, vous avez raison, elle peut apporter, en termes purement et profondément qualitatifs, une adaptation et une personnalisation du contenu et des savoirs pédagogiques transmis à l'étudiant ou à l'élève, ce qui rejoint finalement la description de la mission du professeur ou de l'instituteur. Mais, aujourd'hui, celui-ci doit composer avec un monde de plus en plus ouvert et complexe, un nombre croissant d'enseignements à transmettre aux élèves et une grande hétérogénéité des niveaux. On démontre, aux États-Unis, mais aussi en Europe, comment certains dispositifs d'accompagnement permettent à l'enseignant d'identifier lui-même, pour chacun de ses élèves, les éléments sur lesquels il peut mieux l'accompagner ou aller plus loin.
Souvent, on oppose, d'un côté, un enseignement qui serait purement humain et, de l'autre, un enfant placé dans une bulle avec des lunettes connectées et un ordinateur qui adapterait ses savoirs et qui dirait à l'enfant tout ce qu'il doit faire. Entre les deux, il y a tout l'univers de ce que nous allons explorer dans les années à venir.
Vous avez ensuite abordé le sujet des métiers manuels, monsieur le sénateur. Comme je l'ai souligné en introduction, j'ai la conviction que tous ces métiers à tâches répétitives qui ne nécessitent pas un art de la main, un art créatif du geste, vont disparaître. Il reste à savoir quand.
La question de la robotisation n'est pas nouvelle. Nous avons constaté son développement dans nos territoires au cours des quinze dernières années. Comment prépare-t-on nos économies à ces nouveaux emplois ? Comment prépare-t-on nos citoyens à ces nouvelles compétences ?
La question du rythme, en particulier, anime en permanence la ministre de l'enseignement supérieur et le ministre de l'éducation nationale. Transforme-t-on assez vite nos formations pour les adapter à ces évolutions ? N'a-t-on pas pris un peu de retard et ne forme-t-on pas trop de personnes à des métiers dont on sait qu'ils sont déjà dépassés ? On attend parfois près d'une dizaine d'années avant de fermer une formation et de mobiliser des moyens pour en ouvrir de nouvelles. Cette capacité d'adaptation sera essentielle pour éviter ces décalages.
M. Jacques Grosperrin. Merci, monsieur le secrétaire d'État !
M. le président. La parole est à M. Cédric Perrin.
M. Cédric Perrin. Monsieur le secrétaire d'État, je souhaite tout d'abord revenir sur vos propos relatifs à la DARPA, un point absolument fondamental, mais qui nécessitera sans aucun doute que nous changions un certain nombre de mentalités, car le taux d'échec dans la DARPA aux États-Unis est plus proche de 70 % à 80 % que de 50 %.
J'en viens maintenant à ma question. Comme beaucoup de mes collègues, j'ai parcouru le rapport très intéressant de Claude de Ganay et Dominique Gillot, qui ont eu le souci de faire partager les connaissances sur l'état de ces technologies, dont on parle beaucoup, mais dont le grand public, malheureusement, ne sait souvent pas grand-chose.
J'ai appris notamment qu'il fallait, en matière d'intelligence artificielle, distinguer les approches symboliques des approches connexionnistes. Parmi ces dernières, assez proches des apprentissages statistiques, l'apprentissage profond ou deep learning, évoqué tout à l'heure, est devenu dominant au cours des dernières décennies, en particulier au cours des quatre dernières années. Or ce type d'algorithmes pose de sérieuses questions.
D'une part, la transparence des algorithmes de deep learning est scientifiquement impossible à ce stade ; elle reste donc à construire.
D'autre part, les biais ou erreurs représentent un autre problème de ce type d'algorithmes, la question concernant davantage les données que les algorithmes eux-mêmes. Ces algorithmes reproduisent en effet les biais des données qu'ils traitent, en particulier toutes les discriminations qui existent dans nos sociétés tant qu'elles ne sont pas corrigées.
Monsieur le secrétaire d'État, quelles initiatives ou mesures le Gouvernement entend-il prendre pour prévenir et traiter ces deux difficultés ? La recherche fondamentale est concernée, mais pas seulement.
Plus largement, je m'interroge sur la gouvernance de notre politique publique en matière d'intelligence artificielle. Le précédent gouvernement avait annoncé, en mars 2017, une stratégie pour l'intelligence artificielle, appelée à l'époque « France IA », et vous avez récemment confié une mission  notre collègue député Cédric Villani.
Monsieur le secrétaire d'État, quelles suites seront données à la stratégie « France IA » ? Et qu'attendez-vous du rapport de Cédric Villani ?
M. le président. La parole est à M. le secrétaire d'État.
M. Mounir Mahjoubi, secrétaire d'État auprès du Premier ministre, chargé du numérique. Vous avez, monsieur le sénateur, évoqué un élément essentiel, le deep learning. Selon cette méthode mathématique, l'ordinateur et l'humain qui le programme ne savent pas à l'avance ce que la machine va trouver ni de quelle manière elle va créer les mécanismes lui permettant de comprendre.
L'ordinateur se comporte alors comme le cerveau d'un enfant : il va lui-même créer des liens symboliques entre les images et les données et tirer des conséquences entre les uns et les autres – par exemple, ces images me permettent de définir ce qu'est la couleur rouge, puis de comprendre in fine comment parvenir à ce type d'objets.
Toutefois, ce réseau, cette capacité à comprendre, cette intelligence artificielle que l'ordinateur va lui-même créer n'ont pas été codés « en dur », contrairement à un algorithme simple. Si la loi exigeait de rendre transparent un tel algorithme, il suffirait de dévoiler le code ayant permis de le construire. On sait quelles sont les données, quelles sont les règles, comment sont traitées les données et quelle est la sortie.
En revanche, si on demande de rendre transparent un algorithme de deep learning, on ne verra rien, ou peu de chose. En revanche, comme vous l'avez rappelé, on peut connaître les données qui ont été enseignées à l'ordinateur. L'un des grands dangers, c'est effectivement le biais. Si je communique l'intégralité des données de Twitter à un algorithme de ce type, et qu'ensuite je lui enseigne des concepts autour des personnes, des femmes, de l'homophobie ou de la haine, la machine va croire qu'il s'agit de sa nouvelle réalité, étant donné qu'il utilise les données d'un réseau dans lequel la parole haineuse ou biaisée est particulièrement surreprésentée.
Lorsque j'étais président du Conseil national du numérique, j'ai participé à une mission lancée par la précédente secrétaire d'État au numérique auprès de l'INRIA sur la transparence et la loyauté des plateformes et des algorithmes. Cette mission a débouché sur le dispositif TransAlgo, piloté par l'INRIA, qui propose des méthodes mathématiques et informatiques pour tester la loyauté des algorithmes sans avoir à examiner en détail l'intérieur du programme. On projette des données d'un côté, on regarde ce qui sort de l'autre, on le fait régulièrement dans le temps, on crée d'autres algorithmes qui absorbent les données entrantes et sortantes et on formule des hypothèses.
Si on souhaite exercer une surveillance politique de ces nouveaux algorithmes, il va falloir que l'on se dote de la capacité technologique et technique d'y parvenir.
La mission de l'INRIA constituait une première. Mais pour être de bons régulateurs dans les dix ans à venir, il va falloir être de sacrés bons techniciens et chercheurs. Il faudra donc que nous soyons tous, collectivement, élus, membres du gouvernement ou de l'administration, encore plus compétents.
En conclusion, nous devons nous mobiliser massivement autour de ces compétences. Nous devons amener les Français, dès leur plus jeune âge, à se poser la question de ces technologies, parce que nous n'avons rien à subir et que c'est nous qui devons décider de l'avenir de ces technologies.
Je vous donne rendez-vous dès le mois de janvier ou de février : l'État verbalisera une stratégie nationale autour de l'intelligence artificielle. Cédric Villani nous remettra ses recommandations. Nous pourrons nous appuyer aussi sur le rapport de Claude de Ganay et de Dominique Gillot et sur celui de la mission « France IA ».
Cette stratégie nationale sera ensuite présentée aux assemblées et je serais heureux de venir en débattre avec vous dans quelques mois. (Applaudissements sur les travées du groupe La République En Marche, du groupe Les Indépendants – République et Territoires, du groupe socialiste et républicain, du groupe du Rassemblement Démocratique et Social Européen, et du groupe Union Centriste, ainsi que sur des travées du groupe Les Républicains.)
M. le président. Nous en avons terminé avec le débat sur le thème : « Intelligence artificielle, enjeux économiques et cadres légaux ».
source http://www.senat.fr, le 31 octobre 2017