Prenez Laura, une jeune pianiste et compositrice, qui accepte une mission comme instrumentiste pour jouer en live des compositions remises à un producteur. Sauf que…son oreille aguerrie ne s’y trompe pas : en écoutant les pistes séparées, elle sent que quelque chose “cloche”. Elle mène son enquête et découvre alors que les morceaux ont été générés par IA, puis retouchés par des humains pour en effacer toute trace.
De cette expérience naît le collectif Réveillons-nous, fondé avec Patrick, vieux routard de la recherche en IA à l’esprit libertaire, déjà engagé contre les armes létales autonomes.
Ensemble, ils défendent une pétition déposée au CESE pour demander une Convention citoyenne sur l’intelligence artificielle. Laura et Patrick nous montrent comment la technologie avance plus vite que notre capacité collective à la maîtriser : il est temps que les citoyens reprennent la main sur ces choix de société.
1 – Bonjour Laura et Patrick : Pour commencer, qu’est-ce qui vous a poussés à créer le collectif Réveillons-nous ? Y a‑t-il eu un élément déclencheur spécifique qui a motivé votre engagement sur la question de l’intelligence artificielle ?”
Laura
Tout est parti d’un événement qui nous est arrivé en tant que musiciens, mon conjoint, moi-même et des amis. En février, un producteur et une chanteuse sont venus nous engager en tant qu’instrumentistes professionnels pour défendre leur composition en live, en concert. Dans ce cas, on nous envoie en général des maquettes, puis nous travaillons de notre côté et passons une audition : on joue tous ensemble, on teste, on regarde comment ça fonctionne, si le feeling passe bien et après on avise.
Le projet était intéressant, à base d’oeuvres un peu blues, rock, un peu roots, un peu old school…bref, un bon potentiel en live. Nous avons travaillé les morceaux et passé l’audition avec succès.
Mais en amont, nous avions repéré des approximations assez étranges sur les pistes séparées : des sortes d’aberrations qui ne correspondaient pas à ce qu’un humain produirait avec un instrument (des phrases mélodiques qui commençaient dans les aigus, puis partaient dans les mids, ou encore des accords avec onze doigts dans les partitions).
Nous avons alors demandé au producteur et à la chanteuse quel était leur processus créatif et leur réponse a été évasive mais la proposition était alléchante et l’équipe semblait professionnelle et bien entourée.
En effectuant des recherches, j’ai découvert à la veille du démarrage de cette collaboration les capacités des applications d’IA générative comme Suno ou Udio.
J’ai prompté toute la journée pour la première fois de ma vie et en quelques phrases, j’ai généré 5, 10 morceaux tous styles confondus. Et je me suis alors rendue compte que nous ne pouvions plus faire la différence entre l’humain et le robot, et même des musiciens professionnels peuvent être leurrés par les machines. Ces applications créent des morceaux qu’une oreille humaine normale ne sait pas détecter.
2 – Votre action phare actuelle est une pétition officielle déposée sur le site du CESE pour réclamer une Convention Citoyenne sur l’IA, avec un objectif ambitieux de 150 000 signatures.
Pourquoi le format de la convention citoyenne vous semble-t-il être la réponse la plus pertinente face aux défis technologiques actuels ?
Patrick
Il y a quelques mois, je suis intervenu sur l’IA au Sénat. J’avais proposé une loi définissant la responsabilité pénale des dirigeants et des administrateurs des sociétés d’ « IA frontières », ainsi que l’organisation d’une convention citoyenne sur l’IA. C’est là que Laura m’a repéré. Elle est ensuite venue à ma rencontre lors d’une réunion de l’association Technologos (association technocritique historique française). Il a suffit de 5 mn pour rejoindre son action, à laquelle je consacre désormais le plus clair de mon temps. En effet, Laura est jeune, elle a 30 ans, une jeune pianiste, compositrice. C’est un métier hyper exigeant, et elle voit sa musique dévastée, son existence sérieusement contrariée et ses projets d’avenir menacés. Tout ça parce qu’une entreprise se construit un empire de plusieurs milliards, en pillant l’ensemble de la musique disponible en ligne, dans l’illégalité la plus totale.
Pour comprendre ce phénomène, elle s’est formée à l’IA en écoutant Yoshua Bengio, Geoffrey Hinton, bref les grands noms américains.
Mon déclic à moi s’est fait d’abord par les IA militaires et les robots tueurs – qu’on appelle en langage savant les « SALA », système d’armement létal autonome – j’insiste sur ces deux derniers mots. A partir de 2011, le gouvernement américain a considérablement accéléré son programme de drones, à tel point qu’un des surnoms d’Obama, était « le président des drones ». Au regard des lois internationales, ces drones ont tué de manière totalement illégale et ont développé cette démarche autonome. Antonio Gutierres, le secrétaire général de l’ONU, qui sont tout à fait explicites sur l’horreur que ça lui inspire et que ça inspire à l’immense majorité de tous les pays. Donc il y a eu une lettre ouverte qui a été à l’initiative de la communauté scientifique vers l’ONU demandant le bannissement des robots tueurs. Ce mouvement est né dans la communauté scientifique.
Je fais un parallèle entre la communauté de l’IA et la communauté des physiciens du siècle dernier, ces génies qui nous ont légué la bombe atomique. On peut mourir dans la seconde, on ne saura pas pourquoi, mais on n’a pas envie de ce monde-là. Pourtant, on vit dedans. Les physiciens se sont réveillés trop tard : ils se sont fait embobiner par le gouvernement américain en expliquant que c’était contre les nazis et finalement, ils sont allés massacrer les japonais…Une partie des physiciens a réagi, mais après coup – notamment Einstein, disant qu’il aurait mieux fait de se couper la main le jour où il a signé la lettre à Eisenhower l’incitant à fabriquer la bombe.
De mon point de vue, la communauté scientifique est responsable d’une sorte de basculement anthropologique qui est en train d’arriver, dans la mesure où l’IA intervient dans un très grand nombre de dimensions de notre existence : pas seulement le travail, la vie personnelle, la vie publique, la vie politique, la vie privée, la vie intime…quand votre amant ou votre meilleur ami est une machine, c’est quand même spécial !
En ayant fait partie de ce monde-là pendant quelques décennies et aujourd’hui je me dois aujourd’hui de m’engager – non poiur affirmer que c’est bien ou mal, mais pour dire qu’une technologie et une industrie ayant un tel impact sur la vie de tout le monde, doit passer par le filtre démocratique. Et les conventions citoyennes, c’est ce qu’on a trouvé de mieux pour faire cet exercice : ça a plutôt une bonne image, ça reprend des principes de la démocratie athénienne, comme le tirage au sort, et les résultats qu’on a vus en termes des sujets proposés et de propositions faites allaient plutôt du bon côté.
Bref, c’est démocratique, non-partisan, instruit à la fois par la science et le public concerné.
2 – Vous récoltez activement des témoignages (notamment sur votre compte Instagram et votre chaîne Youtube) concernant la manière dont l’IA impacte les citoyens. Que ce soit sur le plan professionnel, philosophique ou émotionnel, quelles sont les inquiétudes ou les réflexions qui reviennent le plus souvent dans ce que vous entendez ?
On perçoit vraiment un fond d’inquiétude généralisée, qui se décline dans différentes dimensions, et qui tient au fait qu’on vit dans un monde déjà qui est quasiment en crise constante. Et l’arrivée de ces machines crée un niveau d’indétermination sur le futur des personnes. Le premier siècle du progrès, c’était la machine à vapeur, et là on entre dans le second moment où le progrès on a débaptisé le progrès : on l’appelle maintenant « innovation ». En somme, le progrès c’est mieux, l’innovation c’est nouveau. Or nouveau ne veut pas forcément dire mieux (les gens sont pas totalement idiots !).
Le mot « progrès » a quasiment disparu, à tel point que le ministère de l’éducation supérieure et de la recherche, qui gère la science, s’était accolé à un I pour innovation, et pas un P.
Il y a eu un renversement de notre relation au futur. On vit un renversement complet de notre rapport au futur. Au 19e siècle et jusqu’à la Première Guerre mondiale, on pensait que ça allait s’améliorer pour nos enfants, nos petits-enfants. Maintenant les gens sont inquiets pour eux, et encore plus pour la suite. Je pense que ça vient du fait qu’on ne contrôle plus du tout cette technologie : ce truc marche tout seul.
Prenons l’exemple d’un étudiant qui étudie, forme son cerveau et n’utilise pas ChatGPT, Claude ou que sais-je : il se retrouve alors avec de moins bonnes notes que ses collègues qui, eux, utilisent ces IA et ne se forment pas le cerveau au passage. Ou une musicienne qui a appris à faire de la musique, et voit que pour moins de 10 euros par mois, on peut en appuyant sur un bouton, générer plusieurs centaines de morceaux de musique, qu’une oreille normale ne va pas distinguer d’une production purement humaine.
Le phénomène récurrent que j’observe dans plusieurs métiers est toujours le même : dans un premier temps, au lieu de créer, on corrige les erreurs de la machine. C’est moins intéressant, moins bien payé, et surtout il y a un effet pervers : quand on corrige, on éduque la machine…et on la forme pour se faire remplacer.
En musique, c’est différent car les IA ont atteint le niveau humain. Une oreille normale ne peut plus distinguer plus une création IA d’une production humaine, sauf pour des styles complexes comme le classique. Je pense que c’est parce que le terrain était déjà préparé : il y avait déjà une « simplification de la production artistique » avant l’IA, une logique de « good enough ». L’IA ne fait qu’accentuer cette tendance.
Il y a aussi cette question d’humanisation de la machine. Elle parle à la première personne, simule des émotions, et on tombe dans ce piège où on se met à collaborer avec une machine qui, elle, ne collabore pas avec nous. Pendant ce temps, nos données nourrissent ces modèles sans qu’on en soit toujours conscient car ce n’est pas privé, et la plupart des gens ne le savent pas. C’est la même logique qu’avec les réseaux sociaux : un opt-out, déguisé en consentement. Pour moi, ce n’est pas du don : l’humanité est en train de se faire parasiter par ces machines.
Utilisée avec un esprit critique, l’IA peut être utile : un collègue me disait utiliser Claude pour relire et critiquer ses propres articles. Mais ça suppose du temps et de la rigueur, et iça n’est pas exempt d’erreurs : un jour on m’a fait une bio par IA, et elle m’a inventé un cours à Stanford que je n’ai jamais donné.
3 – Le déploiement de ces technologies va extrêmement vite, souvent plus vite que le temps politique ou législatif. Quels sont, selon vous, les risques majeurs auxquels nous nous exposons si les citoyens ne reprennent pas rapidement la main sur ces sujets ?
Patrick
Sur la régulation, on entend souvent parler de lenteur que les législateurs ne sont pas au courant…etc. Certes, le secteur de l’IA s’est largement privatisé, vu les salaires qui sont proposés…mais c’est l’État qui finance en grande partie la science et il a donc les moyens d’anticiper la catastrophe.
On entend souvent dire que les législateurs sont en retard, dépassés. Mais c’est l’État qui finance en grande partie la science : il a les moyens d’anticiper. Le vrai problème, c’est l’absence de contrôle et je pense qu’il n’y a pas la volonté.
En Europe, il y a eu le RGPD, puis l’AI Act, une forme d’exception européenne. Mais le RGPD, c’est souvent une protection de façade : demander si on consent à ce que 1 250 partenaires utilisent nos données, ça ne veut plus rien dire. Et l’AI Act, lui, « il est troué » : il repose en grande partie sur de la soft law — des recommandations, pas des lois. « Ce ne sont plus des lois, c’est une grosse blague. » Même chose pour l’interdiction de la reconnaissance faciale : on tombe toujours dans le « sauf ».
Et ça continue de se détricoter : les procédures omnibus en cours au niveau européen reviennent sur ce qui avait été acté, ou repoussent sa mise en œuvre aux calendes grecques.
Deux raisons à ça, selon moi. D’abord les lobbies à Bruxelles : la tech y consacre des dizaines de millions d’euros. Ensuite les revolving doors : des responsables publics qui passent ensuite dans le privé. Et il y a aussi cette logique du champion national et de la souveraineté : chaque pays veut le sien. La France mise beaucoup sur ses atouts pour grâce à son école d’excellence en mathématiques qui fabrique aussi des gens bons en informatique, quitte à délaisser les autres.
On trouve de nombreux Français dans ce monde-là, qui sont partis en Californie, et dont certains reviennent. Mistral a par exemple été créé en réponse à META, grâce à Yann Le Cun. C’est devenu le champion français qu’on veut protéger et pour cela, la France détricote les lois qui protègent les citoyens pour conserver son champion sous couvert de souveraineté. N’oublions pas qu’Eric Schmidt, qui a dirigé Google pendant 10 ou 15 ans à des positions diverses, et préside depuis 2016 le Defense Advisory Board de l’armée états-unienne, faisait aussi partie du premier round d’investissement de Mistral…
4 – Concrètement, comment nos lecteurs peuvent-ils vous aider aujourd’hui à faire effet boule de neige ? En dehors de la signature et du partage de la pétition, comment peut-on soutenir Réveillons-nous ?
Patrick
Avant que chaque parti politique ne définisse sa ligne et au-delà des oppositions partisanes l’influence des lobbies mine déjà les décisions, à cause de ce concept de champion national, donc le terrain est miné.
L’idée de la convention citoyenne, c’est que ce sont des gens normaux, qui n’ont pas d’intérêt particulier à part leur bonheur personnel, celui de leurs proches et de leurs familles, qui vont analyser le problème, le mettre à plat et proposer des mesures. Et là, il n’y a pas de biais des lobbies, il n’y a pas de biais partisans et il n’y a pas de biais de protéger son champion. C’est une partie de notre motivation.
Aujourd’hui il y a des personnes aujourd’hui qui ne voient pas forcément la nécessité de réglementer l’IA. Sur le terrain, on constate que les connaissances sur l’IA générative, ce qu’elle fait, ses enjeux, la manière dont elle fonctionne, qui la déploie…etc. sont très inégales. Il faut une acculturation pour être en mesure d’émettre des propositions de régulation.
Sur le plan écologique déjà : la construction des data centers poussent comme des champignons à travers le monde et consomment énormément d’électricité et de l’eau potable, or ces ressources appartiennent à tout le monde et pas à des multimilliardaires qui veulent générer des chats sur Internet. Il serait donc tout à fait logique qu’on arrive à une demande de régulation de l’eau potable et l’électricité.
En 2018, j’avais proposé d’envisager une IA sous la forme d’un commun : cela aurait permis à l’Europe de prendre le dessus sur les Américains, et aurait suscité un réel enthousiasme de toute la communauté scientifique. Malheureusement, à l’époque la priorité était plutôt compter le nombre de startups qu’on pouvait produire dans l’année…
4 – Concrètement, comment nos lecteurs peuvent-ils vous aider aujourd’hui à faire effet boule de neige ? En dehors de la signature et du partage de la pétition, comment peut-on soutenir Réveillons-nous ?
Patrick et Laura
Tout d’abord, nous invitons à signer et relayer la pétition pour devenir un « réveilleur « et entrer dans une action collective. Le deuxième niveau, c’est en effet la mise en contact avec des associations, des syndicats, des médias, des influenceurs qui pourraient être intéressés pour soutenir et relayer notre initiative. Nous allons mener un travail de fond auprès du CESE auprès des commissions travail par exemple, auprès des branches syndicales touchées par l’IA.
Nous avons aussi besoin de relais dans les médias mainstream : pour cela, il nous faut accéder à un certain niveau de reconnaissance. Enfin, on pense à se regrouper avec d’autres associations pour renforcer notre visibilité.
Nous recherchons aussi des témoignages de personnes qui ont peur par exemple, des retombées de l’IA sur leur emploi ou qui s’inquiètent des impacts dans leur vie en général. On espère un effet boule de neige à travers les réseaux sociaux.
Si on atteint un certain niveau de signatures, ça nous donnera une certaine crédibilité. Aucune pétition au CESE n’a atteint les 150 000 signatures. Notre objectif serait d’arriver à au moins 2 à 3000 !
