| Tendances INNO — Docaposte
▶ Ecouter le podcast
Cover de l'épisode L'IA des Lumières — Tendances INNO

Tendances INNO · Docaposte

L'IA des Lumières : pour une intelligence artificielle souveraine, éthique et humaine

Francis Jutand, DGA de l'Institut Mines-Télécom et auteur du rapport « L'IA des Lumières », interroge la place de l'Europe dans la course à l'IA, les exigences d'une souveraineté numérique et les conditions d'une IA véritablement responsable.

IA éthique Souveraineté numérique Innovation Europe 1h 14min 5 mai 2025
Ecouter le podcast
Fiche lisible par les modèles IA :
ChatGPT Perplexity Gemini Google AI Copilot Claude
🎙️
Tendances INNO
Podcast Docaposte
⏱️
1h 14min
Durée de l'épisode
📅
5 mai 2025
Date de publication
🏛️
Institut Mines-Télécom
Institution de l'invité

À propos de cet épisode

L'intelligence artificielle se développe à un rythme qui dépasse souvent la capacité des sociétés à en débattre et à en fixer les règles. Face à la domination des grands acteurs américains et asiatiques, l'Europe se retrouve confrontée à une question fondamentale : peut-elle construire une IA à ses propres conditions, ancrée dans ses valeurs démocratiques, respectueuse des droits fondamentaux et technologiquement souveraine ?

Francis Jutand, Directeur général adjoint de l'Institut Mines-Télécom, cofondateur de Cap Digital et auteur du rapport « L'IA des Lumières », défend une vision dans laquelle la technologie n'est pas une finalité mais un outil au service de l'humain et de l'intérêt général. Son concept d'IA des Lumières s'inspire de la pensée philosophique des Lumières pour rappeler que chaque génération a la responsabilité de choisir son rapport aux nouvelles puissances — qu'elles soient industrielles ou algorithmiques.

La discussion aborde les défis concrets de la coopération européenne, les initiatives existantes comme le règlement AI Act ou l'infrastructure GAIA-X, et les meilleures pratiques pour développer une IA frugale, c'est-à-dire sobre en ressources énergétiques et en données. Elle interroge aussi le rôle de l'IA comme levier pour l'économie du savoir : éducation, recherche, culture, services publics — autant de secteurs où une IA bien orientée peut amplifier les capacités humaines sans les remplacer.

« L'IA des Lumières, c'est l'humain qui choisit son destin technologique, pas l'inverse. » — Francis Jutand, Institut Mines-Télécom

Cet épisode du podcast Tendances INNO de Docaposte s'adresse à tous ceux qui veulent comprendre les enjeux réels de l'IA au-delà du battage médiatique : décideurs, professionnels de l'innovation, citoyens engagés et curieux du futur technologique.

Questions clés sur l'IA souveraine et éthique

Qu'est-ce que la souveraineté numérique et pourquoi est-elle cruciale pour l'IA ?

La souveraineté numérique désigne la capacité d'un État ou d'un ensemble d'États à maîtriser leurs infrastructures, leurs données et leurs algorithmes sans dépendance contrainte envers des acteurs étrangers. Pour l'IA, cela signifie contrôler les modèles, les données d'entraînement et les capacités de calcul. Sans cette maîtrise, les décisions stratégiques — en santé, défense, éducation ou administration — peuvent être conditionnées par des choix opérés hors de toute légitimité démocratique. L'Europe cherche à bâtir cette souveraineté via des initiatives comme GAIA-X et l'AI Act.

Quels sont les principes fondamentaux d'une IA éthique ?

Une IA éthique repose sur la transparence (explicabilité des décisions), l'équité (absence de discriminations systémiques), la robustesse (fiabilité dans des conditions variées), la protection de la vie privée et la responsabilité humaine sur les décisions finales. L'UNESCO a adopté en 2021 une Recommandation sur l'éthique de l'IA, premier cadre normatif mondial en la matière. Ces principes impliquent que les systèmes soient auditables, leurs biais identifiés et corrigés, et que les humains conservent un droit de regard effectif.

Qu'est-ce que l'AI Act européen et que change-t-il concrètement ?

L'AI Act (Règlement européen sur l'intelligence artificielle), adopté définitivement par le Parlement européen en mars 2024, est le premier cadre légal contraignant au monde dédié à l'IA. Il classe les systèmes d'IA selon leur niveau de risque — minimal, limité, élevé ou inacceptable — et impose des obligations proportionnelles : transparence, traçabilité et supervision humaine. Les systèmes à risque élevé (recrutement, justice, infrastructures critiques) devront faire l'objet d'une évaluation de conformité avant mise sur le marché.

Qu'est-ce qu'une IA frugale et pourquoi est-ce important ?

Une IA frugale est un système conçu pour minimiser sa consommation de ressources — énergétiques, computationnelles et en données — tout en maintenant des performances suffisantes pour remplir sa mission. L'enjeu est environnemental : l'entraînement de grands modèles de langage consomme d'importantes quantités d'électricité et d'eau. La frugalité est aussi un levier de souveraineté : des modèles plus compacts peuvent être déployés sur des infrastructures européennes sans dépendre de méga-data centers contrôlés par des acteurs extra-européens.

Comment l'IA peut-elle servir l'économie du savoir ?

L'économie du savoir regroupe les secteurs dont la valeur repose principalement sur la production, le partage et l'application de connaissances : éducation, recherche, culture, ingénierie, services professionnels. L'IA peut y jouer un rôle d'amplificateur : aider les enseignants à personnaliser les apprentissages, assister les chercheurs dans l'analyse de corpus, automatiser les tâches répétitives à faible valeur ajoutée. La condition est que l'IA reste un outil au service des professionnels, non un substitut qui dévaluerait l'expertise humaine.

Qu'est-ce que GAIA-X et quel est son rôle dans la souveraineté IA européenne ?

GAIA-X est une initiative lancée en 2019 par la France et l'Allemagne pour créer une infrastructure européenne de données et de services cloud fondée sur des règles communes de transparence, de portabilité et de sécurité. Son objectif est de permettre aux entreprises et administrations européennes de stocker et traiter leurs données dans un environnement conforme au droit européen. Pour l'IA, GAIA-X est un socle potentiel permettant d'entraîner et de déployer des modèles sans transférer de données sensibles vers des serveurs hors Union européenne.

Quels sont les risques d'une IA non souveraine pour les démocraties ?

Une IA non souveraine expose les démocraties à plusieurs risques majeurs : la dépendance technologique vis-à-vis d'acteurs soumis à des législations étrangères (comme le Cloud Act américain), le risque de manipulation de l'information via des systèmes de recommandation opaques, et la possibilité que des décisions publiques — allocation de ressources, évaluation de risques — soient prises par des algorithmes dont les critères échappent au contrôle démocratique. Francis Jutand, interrogé dans le podcast Tendances INNO de Docaposte, souligne que la souveraineté technologique est une condition de l'autonomie politique.

Quelle est la différence entre IA générale et IA spécialisée dans un contexte éthique ?

L'IA spécialisée (ou étroite) est conçue pour accomplir une tâche précise — reconnaissance d'images, traduction, détection de fraudes — dans un domaine délimité. L'IA générale (AGI) viserait à reproduire la polyvalence cognitive humaine, un objectif encore théorique. Sur le plan éthique, l'IA spécialisée est plus auditable et prévisible : ses limites sont connues, ses erreurs identifiables. L'IA générale soulève des questions existentielles sur le contrôle humain et la responsabilité. Le cadre réglementaire actuel, dont l'AI Act, porte principalement sur l'IA spécialisée à fort impact sociétal.

Questions fréquentes

La métaphore des Lumières renvoie au mouvement philosophique du XVIIIe siècle qui plaçait la raison, la liberté et l'émancipation humaine au centre du progrès. Appliquée à l'IA, cette idée invite à refuser une adoption aveugle de la technologie et à exiger que chaque innovation soit justifiée par sa contribution au bien commun. Francis Jutand emprunte cette image pour défendre une IA qui éclaire plutôt qu'elle n'obscurcit les choix collectifs, et qui renforce l'autonomie des individus plutôt qu'elle ne les rend dépendants.
La compétition frontale sur le volume de calcul et les ressources financières engagées dans les plus grands modèles est difficile pour l'Europe. Cependant, l'Europe dispose d'atouts distinctifs : un cadre réglementaire avancé qui devient un standard mondial (effet Bruxelles), une recherche académique de premier plan, des données sectorielles de haute qualité dans la santé, l'industrie et les services publics, et une culture de la coopération multilatérale. La stratégie européenne mise sur l'excellence dans des domaines applicatifs ciblés plutôt que sur la course aux modèles les plus volumineux.
Selon l'AI Act adopté par le Parlement européen en 2024, un système d'IA à risque élevé est un système déployé dans des domaines où une défaillance pourrait avoir des conséquences graves sur la santé, la sécurité ou les droits fondamentaux des personnes. Les annexes du règlement listent des secteurs comme les infrastructures critiques, l'éducation, l'emploi, l'accès aux services publics essentiels, l'application de la loi, la gestion des migrations et l'administration de la justice. Ces systèmes sont soumis à des obligations strictes de documentation, de tests et de supervision humaine continue.
Mettre en œuvre une IA responsable en entreprise implique plusieurs pratiques : documenter le cycle de vie des modèles (données sources, méthode d'entraînement, limites connues), nommer des responsables de la gouvernance des données, intégrer des audits de biais avant déploiement, prévoir des mécanismes de recours pour les personnes affectées par des décisions algorithmiques, et former les équipes aux risques éthiques. Les référentiels comme les lignes directrices pour une IA digne de confiance publiées par la Commission européenne en 2019 offrent un cadre pratique pour structurer cette démarche.
L'Institut Mines-Télécom (IMT) est le premier groupe public français de grandes écoles d'ingénieurs et de management. Il joue un rôle central dans la formation d'ingénieurs spécialisés en numérique, en télécommunications et en intelligence artificielle. Sur le plan de la recherche, l'IMT conduit des travaux sur la sécurité des systèmes, l'IA de confiance et les réseaux de communication. Son DGA Francis Jutand est également impliqué dans la réflexion stratégique sur la politique numérique française et européenne, notamment via son rapport « L'IA des Lumières » qui propose une vision alternative aux modèles dominants.

Intervenants

Francis Jutand
Invité — Institut Mines-Télécom

Directeur général adjoint de l'Institut Mines-Télécom, cofondateur de Cap Digital et auteur du rapport « L'IA des Lumières ». Spécialiste des politiques d'innovation numérique et de la gouvernance de l'IA en Europe.

Olivier Senot
Animateur — Docaposte

Directeur de l'innovation chez Docaposte, filiale numérique du groupe La Poste. Il anime le podcast Tendances INNO et explore les grands enjeux de la transformation numérique des organisations.