Nabiha Syed : « La philanthropie peut soutenir une IA responsable, dont les gens ont réellement besoin, avant même que le marché n’en reconnaisse la valeur »

© D.R.Créée en 2003, la Mozilla Foundation œuvre en faveur d’un secteur numérique ouvert, accessible et au service des individus. Elle soutient et construit notamment une intelligence artificielle donnant le contrôle aux utilisateurs. Entretien avec Nabiha Syed, sa directrice exécutive, qui appelle la philanthropie à soutenir des alternatives aux modèles dominants.

Qu’est-ce qu’une intelligence artificielle « digne de confiance » ?

Une technologie doit mériter le temps et les ressources que nous lui consacrons. Pour la Mozilla Foundation, une IA digne de confiance doit permettre aux individus de comprendre comment fonctionne le système, de s’en retirer, d’en contester les décisions et de garder le contrôle sur leurs données. Il faut donc dépasser les seules questions techniques et se demander : qui possède les données ? Qui définit les paramètres par défaut ? Qui peut examiner le fonctionnement du système ? Ces décisions ne peuvent pas être laissées aux seules entreprises qui en tirent profit.

Mais nous posons aussi d’autres questions : cette technologie répond-elle aux besoins des individus et de la planète ? Les ressources qu’elle mobilise en valent-elles le coût ? Améliore-t-elle notre qualité de vie ou enrichie-t-elle seulement quelques-uns ? La valeur d’une technologie ne peut pas être définie par une seule entreprise ou un seul gouvernement. Elle doit être discutée avec les personnes directement concernées. Et la philanthropie peut justement aider ces différents acteurs à formaliser des réponses et soutenir les alternatives qui leur permettent de concrétiser leurs choix.

Quels principaux risques identifiez-vous concernant le développement de l’IA dans un contexte de concentration du pouvoir et des ressources entre les mains de quelques grands acteurs technologiques ?

Le principal risque est une « panne de l’imagination » : la concentration du pouvoir entraîne une « concentration de l’imagination », et quelques entreprises se retrouvent à décider seules des usages de la technologie. Aujourd’hui, une poignée d’acteurs technologiques contrôlent l’essentiel des infrastructures, des capitaux, et des moyens de distribution, et peuvent ainsi définir les conditions d’accès aux technologies. Ils déterminent ainsi le champ des possibles avant même que la société ait pu décider de ce qu’elle souhaite faire de ces technologies.

Cette concentration des ressources entraîne aussi des risques très concrets : biais discriminatoires, vulnérabilités en matière de cybersécurité et dépendance accrue à un nombre limité d’infrastructures technologiques. C’est pourquoi une grande partie de notre travail consiste à créer des infrastructures, comme la plateforme Mozilla Data Collective, qui permettent à celles et ceux qui veulent développer des technologies alternatives de pouvoir réellement le faire.

L’imagination est également essentielle pour penser de nouvelles façons d’utiliser ses technologies. Nous soutenons ainsi par exemple Adalat AIon, une initiative à but non lucratif qui développe des outils d’IA pour réduire les retards judiciaires, notamment grâce à la transcription automatisée des audiences. L’objectif est de montrer qu’il existe d’autres manières de développer l’IA, adaptées aux besoins de la société et des personnes. C’est ce que nous appelons la « résistance par la réinvention » : remettre en question les systèmes qui ne sont pas à la hauteur et donner les moyens nécessaires pour développer des solutions alternatives.

Quel rôle l’open source peut-il jouer dans le développement d’une IA respectueuse des individus et de leurs libertés ?

L’open source permet aux individus d’examiner, d’adapter et de développer la technologie, plutôt que de se contenter d’accepter les conditions imposées par d’autres. Cette « ouverture » rend l’examen possible, mais il faut toutefois des personnes, des moyens et une obligation de redevabilité pour que cet examen compte. Trop souvent, notamment aux États-Unis, la sécurité et la liberté sont présentées comme deux notions opposées. Or la sécurité peut précisément nous donner davantage de liberté : nous sommes plus libres lorsque nous pouvons utiliser une technologie sans craindre que nos données soient collectées ou transmises à notre insu. L’open source n’est pas la réponse à tout, mais il permet de favoriser le développement des technologies alternatives : tester les systèmes, les évaluer, identifier des biais, comparer leurs performances.

De même, le contrôle des données ne peut pas se résumer à cliquer sur « J’accepte ». C’est aussi avoir constamment son mot à dire sur la manière dont nos données sont utilisées. L’open source rend ce contrôle possible, là où un simple clic n’a que l’apparence du consentement. Chacun doit être en capacité de dire : « je ne veux pas que vous collectiez ces données ; je ne souhaite pas que celles-ci soient utilisées dans les écoles ; si vous les utilisez, je veux être indemnisé ; si vous les avez utilisées d’une manière que je n’accepte pas, supprimez-les ». Le véritable contrôle des données couvre l’ensemble de la chaîne : collecte, accès, réutilisation, indemnisation, suppression et gouvernance.

L’open source repose aussi sur une forme d’humilité : si nous participons tous, d’autres personnes peuvent identifier des risques que nous ne voyons pas. La philanthropie peut soutenir les responsables de projets open source ainsi que des tests indépendants et une gouvernance collective, indispensables au fonctionnement de ce modèle.  

Quel rôle la philanthropie peut-elle jouer dans le développement de l’IA face aux moyens considérables des entreprises technologiques ?

La philanthropie peut avoir un rôle pionnier en soutenant une technologie responsable, dont les gens ont réellement besoin, avant même que le marché n’en reconnaisse la valeur et en l’aidant à tenir assez longtemps pour faire ses preuves. Nous n’aurons jamais autant de moyens que les acteurs commerciaux de l’IA. La philanthropie peut en revanche prendre des risques qu’ils ne prennent pas et poser d’autres questions. Elle peut créer des espaces qui permettent d’expérimenter et d’imaginer une IA responsable, sans les incitations perverses liées à la recherche de profit rapide, en intervenant en amont et dans la durée.

Il faut aussi remettre en cause l’idée selon laquelle l’innovation viendrait d’abord des entreprises technologiques, la philanthropie n’intervenant qu’ensuite. Nous pouvons poser très tôt des questions différentes : les personnes concernées ont-elles été consultées ? La technologie a-t-elle été testée ? Protège-t-elle la dignité humaine ? Quelles peuvent être ses conséquences à long terme ? Les transformations engendrées par les réseaux sociaux sur notre attention et nos relations aux autres doivent nous inciter à anticiper dès aujourd’hui les effets de l’IA.

Les arts et la culture ont également un rôle essentiel à jouer dans cette réflexion. Les artistes, cinéastes et écrivains nous aident à nous interroger sur la finalité de la technologie et à créer des choses auxquelles les ingénieurs n’auraient peut-être jamais pensé. Ils savent observer des tendances et en imaginer les conséquences. La philanthropie peut leur donner les moyens d’explorer ces enjeux et ainsi nourrir notre capacité d’anticipation. C’est le cas aussi de la recherche universitaire et du journalisme indépendant qui produisent des connaissances indispensables. Nous devons préserver leur capacité à imaginer d’autres futurs.

Vous défendez également une meilleure coopération entre fondations. Pourquoi ?

Quelque part dans le monde, quelqu’un est probablement en train de construire la technologie dont nous avons réellement besoin, et pas simplement celle que l’on cherche à nous vendre. Le rôle de la philanthropie est de repérer ces initiatives très tôt, de prendre un risque et de les aider à grandir. Mais chaque organisation philanthropique repère des initiatives différentes. Une fondation culturelle ne se focalisera pas sur les mêmes choses qu’une fondation spécialisée dans l’innovation technologique ou la justice sociale. Collaborer permet de croiser ces perspectives et d’identifier les domaines qui manquent de ressources. La mise en commun des fonds donne quant à elle la possibilité de vraiment s’engager dans ces domaines et de les accompagner dans la durée. La Mozilla Foundation investit à ces deux niveaux et souhaite développer des partenariats en Europe.

Cette coordination peut aussi permettre de formuler collectivement des exigences. Imaginez qu’une coalition de fondations décide de ne soutenir que des projets utilisant des systèmes d’IA testés pour leurs biais. Elle enverrait au marché un signal clair sur les standards attendus.

Comment donner davantage de pouvoir aux citoyens face à l’IA ?

Chacun doit pouvoir façonner la technologie, la rejeter et choisir une alternative. Il faut d’abord rappeler aux citoyens qu’ils ont le choix, y compris celui de ne pas utiliser une technologie. Dans le cadre de Creative Futures, une initiative de la Mozilla Foundation qui réunit artistes et technologues pour imaginer d’autres usages du numérique, nous avons interrogé des artistes du monde entier sur la manière dont ils souhaitaient utiliser l’IA. Beaucoup nous ont répondu qu’ils aimeraient l’utiliser pour les tâches qu’ils n’aiment pas réaliser, comme la comptabilité, mais pas pour créer leur art. Nous avons synthétisé ces attentes dans le rapport 8 Rules for AI from Hollywood to Silicon Valley, qui a ensuite contribué à des discussions législatives en Californie. La philanthropie peut jouer ce rôle : aller à la rencontre des personnes concernées, faire émerger leurs attentes et les porter dans le débat public. L’écoute est le point de départ. Ensuite, il faut faire en sorte que ces exigences aient un impact sur ce qui est financé, conçu et déployé.

Quels sont les liens et les complémentarités entre les approches philanthropiques américaine et européenne ?

L’opportunité, c’est de relier, par-delà les frontières, les soutiens philanthropiques aux développeurs qui comprennent les besoins locaux, et de leur donner accès à une infrastructure partagée. Aux États-Unis, l’écosystème technologique évolue dans un cadre soumis à certaines contraintes idéologiques, qui cherchent ensuite à se propager. Cela signifie que les discriminations existantes ne feront que se reproduire. En Europe, comme dans d’autres régions du monde qui ne sont pas soumises au même environnement politique, il est possible de construire autrement, de tester les systèmes, d’interroger leurs risques et de développer des innovations autour de leur sécurité. L’approche européenne est extrêmement précieuse parce qu’elle favorise les alternatives.

La question de la souveraineté est également très présente en Europe. Si nous ne voulons pas dépendre uniquement des États-Unis, nous devons construire d’autres infrastructures. C’est dans cette logique que nous avons créé Mozilla Data Collective, une initiative développée par l’équipe de Common Voice. Lancée en 2025, elle a obtenu en 2026 le statut de société à mission en Angleterre. En mai 2026, plus de 190 organisations partageaient plus de 600 ensembles de données dans plus de 300 langues. Mozilla Data Collective permet ainsi de créer, sélectionner et contrôler ces données selon les conditions choisies par leurs contributeurs. Cette initiative illustre la manière dont la philanthropie peut faire émerger des infrastructures ouvertes. La souveraineté devient une réalité lorsque les citoyens disposent d’infrastructures sur lesquelles s’appuyer et d’alternatives parmi lesquelles choisir.

Je trouve également inspirante la manière dont l’Europe aborde les questions de sécurité et d’épanouissement humain. Aux États-Unis, la première question qui se pose est souvent : « Cette innovation est-elle possible ? », alors qu’en Europe, c’est plutôt : « Devons-nous la développer, et quels seront ses impacts pour les humains ? ». Il ne s’agit pas seulement de savoir ce que la technologie peut faire, mais ce que les humains peuvent faire avec elle. Parallèlement à l’adéquation entre le produit et le marché, nous nous interrogeons sur celle entre le produit et la communauté ciblée : le produit résout-il un problème identifié par la communauté, selon des modalités définies ? Ce sont en effet les membres de cette communauté qui doivent décider comment cette technologie doit s’appliquer à leur éducation, à leurs soins, à leur créativité ou tout autre domaine dans lequel ils utilisent la technologie. Le succès de la technologie s’évalue donc en fonction de l’utilisation qu’en font les communautés, des avantages qu’elles en tirent et du contrôle significatif qu’elles conservent. La diversité des contextes culturels et géographiques peut produire des formes d’innovation multiples. Il est essentiel que la philanthropie soutienne cette diversité.

Tous les points de vue