Damien d’Houdain, directeur d’investissement de Bpifrance

La French Touch : L’UE s'est dotée, avec l’AI Act, d'un cadre juridique visant à règlementer l’intelligence artificielle. Une première historique. C'est aussi un accord politique à l’échelle de l’Europe. Qu’en est-il du reste du monde ?

Damien d’Houdain (DH) : Le sujet de la règlementation s’inscrit d’abord à l’échelle mondiale : le bloc nord-américain a historiquement une plus faible propension à réguler les affaires. C’est la main invisible d’Adam Smith qui régule le marché, priorité au business, les acteurs régulent par le biais d’accords bilatéraux. De l’autre côté, l'approche européenne qui se caractérise d’abord par une culture du droit d’auteur héritée en France de Beaumarchais, et par une tradition de règlementation plus importante et que l’on peut considérer, d’une certaine manière, comme un frein à l'expansion, la compétitivité et l’innovation des acteurs. Prenons l’exemple d’un modèle LLM européen de Gen AI (Intelligence Artificielle Générative), en concurrence frontale avec OpenAI :  notre manière de réguler va exercer une influence sur son expansion et sa compétitivité à l'échelle mondiale. Toutefois, on peut entendre que la défense du droit d'auteur est un défi à forte résonnance au moment où l'IA vient bousculer les pratiques au point de menacer de revenir au Far West que l’on a connu au début d’Internet lorsque le piratage des contenus était endémique. Les itérations technologiques mettent le droit d'auteur en risque.

FT : L’AI Act introduit une dialectique entre la sécurité des Européens et la compétitivité des entreprises de l'Union. Comment se décompose cet acte ? Quels sont ses grands principes ?

DH : L’AI Act introduit un premier niveau de classement de la technologie IA par niveau de risque. C'est le premier chapitre, avec quatre gradations : l’IA avec risque « inacceptable » qui concerne des activités comme la surveillance biométrique dans les espaces publics ; l’IA avec risque « élevé » relatif, par exemple, au nucléaire, aux services de transport, à l'aérien, aux ferroviaires, aux systèmes éducatifs ; l’IA avec risque « limité » relatif, par exemple, aux « chatbots » ; et, enfin, le risque « minimal », avec peu ou pas d'exigences réglementaires, c’est le cas des filtres anti-spam.

Le second chapitre de l’AI Act développe les questions de transparence et de documentation. Les développeurs, dans le cadre de la mise à jour, de la construction, du perfectionnement ou de l'entraînement de leur algorithme, ont une obligation de fournir des informations claires sur son fonctionnement et d'assurer la traçabilité des données qu'ils utilisent. Concrètement cela signifie qu’il serait possible, sur la foi de ce texte, de demander à Mistral AI d’expliquer, dans le détail, comment est construit son algorithme, sur quel jeu de données le modèle est entrainé, et si ayants droit de ces données ont approuvé leur utilisation. C’est quand même très ambitieux ! À voir, maintenant, comment ce texte s’applique dans les faits. Par la possibilité d’un audit, par exemple ? C'est le vrai sujet…

Le troisième volet de l’AI Act aborde les considérations éthiques et la supervision humaine nécessaire : les entreprises sont responsables de la conformité de leur système. Elles doivent documenter de manière détaillée les processus de développement et la qualité des données utilisées. Encore une fois, est introduit ici une notion de contrôle afin, notamment, de s'assurer de la qualité de l'entraînement de l'algorithme. Dernier volet, des sanctions sont prévues en cas de violation avec une amende pouvant s'élever à 30 millions d’euros ou 6% du chiffre d'affaires global de l'entreprise. L’AI Act prévoit enfin qu’un Conseil européen de l'intelligence artificielle soit établi, de sorte à superviser la mise en œuvre et l'application de la législation à travers les États membres.

FT : L’application de ces règles se traduit par un coût économique pour l’entreprise. Ce coût est-il perçu comme un frein ?

DH : Par rapport à l’Amérique du Nord, on peut supposer que l’application de contraintes réglementaires renforcées fera peser aux acteurs un poids économique et que c’est désavantageux pour le modèle des acteurs IA européens. On peut aussi se demander si la mise en conformité avec la réglementation ne limitera pas la capacité technique des modèles dont on sait qu’une partie de valeur réside dans le volume et la qualité des données appréhendées. Donc, oui, c'est un frein et une potentielle distorsion de concurrence. Maintenant, il faut en voir l'étendu, et à quel point l’application de cette règlementation sera génératrice de surcoûts pour les acteurs en Europe.

FT : L’industrie musicale est particulièrement menacée par l’IA générative. On le voit bien avec la multiplication des « deepfakes » (par exemple, la restauration de la voix de John Lennon à des fins de production d’un nouvel album des Beatles). La Sacem demande que ces 200 000 membres puissent exercer un droit d'opt-out. Quels sont les grands enjeux à faire valoir par ce secteur face à cette menace évidente ?

DH : L'opt-out est la capacité d'un éditeur de contenu à interdire l'accès à ses contenus à des algorithmes qui viendraient « miner » la data pour s'entraîner. L'IA générative est un accélérateur de créativité en ce qu’elle abaisse les barrières à l’entrée de la création en ouvrant, techniquement à tous, la capacité de créer un titre musical simplement en « promptant » une IA génerative : c’est le  text-to-sound. L’IA générative démultiplie les volumes de création : on estime que  plus de 100.000 nouveaux titres sont ajoutés chaque jour au catalogue des plateformes musicales en ligne (Spotify, Deezer, Apple Music…). Ceci n’est pas sans risque de dilution pour les « majors » sur les plateformes : seront-elles capables de capter demain, dans un environnement où le volume de création explose, autant de revenus qu’elles le font aujourd'hui ?

Deuxième impact : le contrôle et la détection des « deepfakes » pour les plateformes comme YouTube, Deezer, Spotify… En s'assurant que la voix de l'artiste n'a pas été détournée et que les projets respectent le droit d'auteur. L'industrie musicale est l’une des industries les plus challengées à court terme : l'état de l'art en matière de technologie et d'IA posent déjà des enjeux de vigilance pour les acteurs historiques. D’une perspective tech-enthusisast, les capacités créatives hors du commun des IA génératives sont très excitantes et décuplent les possibilités. Il faut avoir écouté les reprises des Beatles et des autres artistes ressuscités par l’IA. Recréer, innover, modifier, itérer, l’IA libère une puissance créative inouïe. Entre cet aspect technophile et la crainte d’un péril du droit d’auteur, il existe une voie à tracer. C’est dans ce contexte qu’émerge cette demande d’opt-out. La régulation viendra aussi des acteurs entre eux, accompagnée par la réglementation qui a un pouvoir en matière de structuration de la filière.

FT : C’est déjà le cas pour les éditeurs de contenu, comme les entreprises de presse. Deux positions se distinguent : d’un côté celle du New York Times qui fait un procès à Microsoft, lequel se défend en disant que le New York Times a piraté ChatGPT. Et de l’autre, le Financial Times ou encore Le Monde qui signent des partenariats avec les géants américains, acceptant, contre rémunération, l'utilisation de leurs données.

DH : Et le sujet est rigoureusement le même : le volet économique. L'enjeu de tous ces acteurs, que ce soit par voie judiciaire ou d’accords, c'est de trouver une juste rémunération pour l’utilisation de leur contenu. C’est aussi une opportunité de revenus supplémentaires dans un environnement où la presse est chahutée sur ses supports historiques, physiques. Le moyen de trouver des relais de monétisation complémentaire et d’arrêter le pillage des ressources documentaires des titres de presse à titre gratuit. Le pouvoir de la règlementation est ici supplanté par la capacité des acteurs à trouver des accords bilatéraux.

FT : Des chercheurs ont mis en évidence le fait qu'il est impossible de connaître la source des données utilisées par des logiciels comme ChaptGPT. Ce qui suppose un flou absolu. Comment se sort-on de ce « triangle des Bermudes » ?

DH : Il faut comprendre que ChatGPT a avalé tout Instagram, tout Pinterest, tout Facebook, toutes les revues, tous les livres de l'histoire de l'humanité… La portée de l’AI Act qui ambitionne d’auditer la source et la conformité d'un point de vue « droit d'auteur » de l'ensemble du corpus de données - qui a alimenté des moteurs, des algorithmes et des réseaux neuronaux de ce niveau de complexité - est un donc pari ambitieux.

FT : Revenons au débat entre pouvoir de règlementation et capacité d’innovation. Comment s’exprime cette opposition sur le marché ?

DH : L’arrivée de l'IA générative peut se comparer à l'invention de la machine à vapeur. C’est un « game changer » économique d'une portée inédite. Pour autant, on ne peut pas omettre le fait qu’il existe un système de droit d'auteur qui organise et contrôle. L’enjeu est d’arriver à un cadre équitable entre, d'une part, le respect du droit d'auteur et d’un business respectant ces pratiques, et de l’autre, la capacité d'innovation et de constitution de groupes leaders. Il n’existe malheureusement pas de Gafam en Europe. L’Europe a raté, à l’époque de l’émergence d’Internet, l’opportunité de constituer des groupes suffisamment puissants à l'échelle internationale. Le sujet se représente une nouvelle fois avec l’itération Gen AI  : les champions européens de l’IA bénéficieront-ils d’un cadre réglementaire harmonieux avec leurs homologues US sans quoi leur chance de succès pourrait s’en voir réduites ?

FT : Est-ce le sens de cet appel à projet lancé par le ministère de l'Économie et cet objectif d’investissement de cinq milliards d'euros par an sur cinq ans ? Donner une puissance de création d'entreprises à un secteur qui, pour l'instant, n’a pas de champion.

DH : Il existe un fort volontarisme. La place de Paris est reconnue au travers de ses talents. Certaines sociétés françaises sont précurseurs et bénéficient d'une excellente réputation. On sait que l'argent public, notamment au travers de Bpifrance mais pas uniquement, a tout son rôle à jouer pour que de cette nouvelle itération technologique majeure puisse émerger des leaders mondiaux européens. Qu'on ne rate pas le train que l'on a raté à l’époque Internet.

FT : Peut-on en dire plus sur la stratégie de Bpifrance ?

DH : L’IA est une priorité stratégique du gouvernement, qui y consacre 2,5 milliards d’euros du programme France 2030. Un engouement dont témoigne la récente levée fonds record de 202 millions d’euros réalisé par la start-up H, qui a attiré des investisseurs de renom (Xavier Niel, Eric Schmidt ou Bernard Arnault) ainsi que Bpifrance via son fonds Large Venture. La banque des entrepreneurs opère également IA Booster France 2030, un des nombreux programmes de l’Etat qui encouragent le développement d’un écosystème français de l’intelligence artificielle.

FT : Comment s’exprime la question de la souveraineté du modèle français, mais aussi de la langue française. Comment ne pas disparaître dans ce monde virtuel ?

DH : On estime que l’anglais représente 55% des contenus sur le web versus 5% pour la langue française, il est évident que le résultat d’une requête utilisateur ne peut pas être conforme à la meilleure utilisation, et à la meilleure richesse de notre langue. Dans une optique de « soft power », de visibilité à la fois de la France et de l'Europe dans le monde, la capacité d'avoir des acteurs domestiques entraînés sur des corpus en langue française, est un challenge. Mais au-delà de la langue, c'est la souveraineté et la visibilité culturelle de notre pays qui est en jeu. Les géants d’Internet s’appellent Google, Apple, Amazon, etc. Donc oui, c'est un enjeu de préservation de notre langue, de notre culture et de notre façon de vivre. C’est un défi important pour continuer à être visible sur la scène internationale que d'avoir des leaders domestiques. Encore une fois il ne faut pas rater le virage.