Qui contrôle l’intelligence qui nous gouverne ? Luc Ferry et les limites constitutionnelles de l’intelligence artificielle

Introduction

L’intelligence artificielle est-elle appelée à remplacer les êtres humains ou à prolonger leurs capacités ? Cette interrogation traverse le livre de Luc Ferry, IA : grand remplacement ou complémentarité ?, publié en 2025 aux Éditions de l’Observatoire. Elle rejoint une préoccupation plus générale, également présente dans l’ouvrage de Richard Susskind, How to Think About AI: A Guide for the Perplexed, paru la même année : comment comprendre une transformation technologique dont les conséquences pourraient remettre en question certaines de nos représentations les plus établies de l’intelligence, du travail et de la condition humaine ?

La question ne relève plus de la seule anticipation. Les systèmes d’intelligence artificielle produisent des textes, interprètent des images, participent à l’établissement de diagnostics médicaux, identifient des régularités statistiques et interviennent dans des processus décisionnels autrefois réservés aux êtres humains. Certaines de ces applications permettent des progrès considérables. D’autres soulèvent des interrogations sur les limites de l’automatisation, la responsabilité de ceux qui utilisent ces technologies et la place que conserveront les individus dans les décisions qui les concernent.

Luc Ferry aborde cette transformation sans céder à l’enthousiasme technologique inconditionnel ni adhérer aux discours annonçant la disparition prochaine de l’humanité. Son analyse explore successivement les performances de l’intelligence artificielle, ses capacités créatrices, ses effets possibles sur l’emploi, les controverses relatives à sa régulation et les perspectives ouvertes par le transhumanisme. Au-delà des prévisions scientifiques, elle conduit à interroger ce qui distingue encore l’intelligence humaine des systèmes artificiels.

L’un des intérêts philosophiques de l’ouvrage réside dans la distinction entre intelligence et conscience. La capacité de résoudre un problème complexe ou de produire un résultat remarquable ne permet pas nécessairement de conclure à l’existence d’une expérience subjective, d’une liberté ou d’une faculté autonome de choisir les valeurs qui orientent l’action. Une machine peut mobiliser des connaissances considérables sans pour autant entretenir avec ces connaissances le même rapport qu’un sujet humain.

Cette distinction ouvre une réflexion proprement juridique. Si la performance intellectuelle ne se confond pas avec la liberté de choisir des valeurs, l’efficacité d’une décision ne saurait davantage suffire à établir sa légitimité.

La question de la légitimité devient essentielle lorsque l’intelligence artificielle cesse d’être un simple instrument d’assistance pour participer à des décisions susceptibles de produire des effets sur autrui. Les administrations publiques, les établissements financiers, les entreprises et les plateformes numériques utilisent déjà des systèmes automatisés pour évaluer des situations individuelles, classer des personnes, sélectionner des informations ou restreindre l’accès à certains services.

La transformation ne concerne donc pas uniquement les capacités humaines. Elle modifie aussi les conditions dans lesquelles le pouvoir s’exerce.

Luc Ferry lui-même reconnaît cette dimension politique lorsqu’il s’interroge, notamment, sur la légitimité des grandes plateformes numériques à déterminer les limites de la participation aux espaces de communication. Sa réflexion permet ainsi de déplacer le débat : au-delà de l’alternative entre remplacement et complémentarité, il devient nécessaire d’examiner la légitimité des décisions algorithmiques, les conditions d’une véritable responsabilité humaine et les nouvelles concentrations de pouvoir rendues possibles par ces technologies.

Trois questions méritent alors d’être distinguées. Une machine capable de décider mieux qu’un être humain peut-elle, pour cette seule raison, décider légitimement ? À quelles conditions la complémentarité entre intelligence humaine et intelligence artificielle préserve-t-elle la responsabilité et les droits des personnes concernées ? Enfin, comment le constitutionnalisme peut-il encadrer un pouvoir qui ne relève plus exclusivement des institutions étatiques, mais s’exerce aussi à travers les infrastructures numériques privées ?

1. Une machine peut-elle mieux décider sans pour autant décider légitimement ?

L’une des ruptures introduites par l’intelligence artificielle tient à sa capacité d’accomplir certaines opérations intellectuelles avec une rapidité et une précision qui dépassent les performances humaines. Pourtant, cette supériorité technique ne règle pas la question de la légitimité des décisions prises à partir de ses résultats.

Dans le deuxième chapitre de son ouvrage, consacré à la créativité de l’intelligence artificielle, Luc Ferry examine un problème qui dépasse la production artistique ou littéraire. Si les machines peuvent écrire, composer, argumenter et résoudre des difficultés intellectuelles, pourraient-elles également remplacer les philosophes et élaborer les systèmes de pensée à partir desquels nous orientons notre existence ?

La question conduit l’auteur à distinguer l’utilisation de l’intelligence pour résoudre des problèmes et la détermination des valeurs qui donnent un sens à l’action humaine. Un système artificiel peut comparer des doctrines philosophiques, reproduire les raisonnements de Kant ou d’Aristote et construire une argumentation cohérente avec des principes préalablement définis. Il ne s'ensuit pas nécessairement qu'il puisse choisir librement ces principes ou assumer une responsabilité morale pour leurs conséquences.

Cette distinction ne permet pas de résoudre définitivement la controverse sur une éventuelle conscience artificielle. Elle met néanmoins en évidence une difficulté fondamentale : les propriétés techniques d’un système ne suffisent pas à déterminer le statut moral ou juridique de ses décisions.

Prenons l’exemple d’un établissement bancaire qui utilise un système d’intelligence artificielle pour évaluer les demandes de crédit. Après avoir analysé des milliers de données, celui-ci identifie des corrélations entre certaines caractéristiques individuelles et les risques de défaut de paiement. Ses prévisions peuvent s’avérer statistiquement plus fiables que celles d’un analyste humain.

Un client voit cependant sa demande rejetée sans recevoir d’explication intelligible sur les critères utilisés. La banque affirme que le modèle présente un taux de précision élevé, mais que sa complexité technique empêche d’exposer précisément le raisonnement suivi.

L’efficacité statistique suffit-elle à justifier cette décision ?

La réponse suppose de distinguer deux niveaux d’analyse. Le premier concerne la performance du système : sa capacité à traiter des informations, à établir des prévisions et à produire des résultats. Le second concerne la légitimité de son utilisation : la licéité des critères retenus, les garanties accordées aux personnes concernées et la possibilité de contester les conséquences de la décision.

Une corrélation statistiquement pertinente peut reposer sur des critères juridiquement inadmissibles. De même, un résultat matériellement exact peut avoir été obtenu au terme d’une procédure incompatible avec les droits fondamentaux.

La distinction rejoint celle que Ferry mobilise dans le troisième chapitre de son ouvrage, lorsqu’il aborde l’avenir du travail salarié. Le philosophe différencie la question de fait, qui consiste à déterminer si l’intelligence artificielle pourra effectivement remplacer certaines activités humaines, de la question de droit, qui interroge le caractère souhaitable ou légitime de cette transformation.

Bien qu’employée ici dans un sens philosophique plutôt que juridictionnel, cette différenciation permet de formuler un principe essentiel : ce qu’une technologie est capable d’accomplir ne détermine pas, à lui seul, ce qu’elle doit être autorisée à accomplir.

Le problème apparaît avec une particulière intensité dans l’exercice de la justice. Les systèmes d’intelligence artificielle peuvent assister les magistrats dans la recherche jurisprudentielle, l’analyse documentaire ou l’identification de questions juridiques récurrentes. Ils peuvent également proposer des solutions en s’appuyant sur les décisions rendues dans des affaires présentant des caractéristiques similaires.

Ces possibilités ne suppriment cependant pas l’exigence de motivation des décisions de justice.

En droit français, l’article 455 du Code de procédure civile consacre l’obligation de motiver le jugement. Cette exigence s’inscrit dans une conception plus générale du procès équitable, également protégée par l’article 6 de la Convention européenne des droits de l’homme. Le devoir de motivation ne consiste pas simplement à présenter une conclusion plausible : il implique que les parties puissent comprendre les raisons qui fondent la décision et, le cas échéant, en discuter la pertinence.

La jurisprudence de la Cour européenne des droits de l’homme rappelle à cet égard que les juridictions doivent répondre de manière suffisante aux moyens pertinents soulevés par les parties, sans être nécessairement tenues de traiter individuellement chaque argument.

Une décision juridictionnelle ne saurait donc être réduite à un résultat probabiliste. Elle suppose une opération de qualification juridique, d’interprétation des normes, d’appréciation des faits et de justification des conséquences attachées à cette appréciation.

Quand bien même un système artificiel parviendrait à identifier, dans un nombre considérable de litiges, des solutions plus cohérentes ou plus prévisibles que celles retenues par des juges humains, cette supériorité ne lui conférerait pas automatiquement une compétence juridictionnelle.

La compétence de juger ne se déduit pas de la capacité de calculer. Elle résulte d’un ordre juridique qui détermine les autorités habilitées à exercer la fonction juridictionnelle, les procédures auxquelles elles sont soumises et les garanties reconnues aux justiciables.

Il ne s’agit évidemment pas d’affirmer que toute décision humaine serait préférable à une décision automatisée. Les magistrats peuvent commettre des erreurs, reproduire des biais ou adopter des raisonnements insuffisamment justifiés. Les systèmes technologiques peuvent, dans certaines circonstances, contribuer à limiter ces difficultés.

L’enjeu est ailleurs : une amélioration des performances décisionnelles ne peut se substituer aux conditions juridiques qui rendent l’exercice du pouvoir légitime.

L’État de droit ne repose pas uniquement sur la recherche de bonnes décisions. Il exige que celles-ci soient prises par des autorités compétentes, selon des procédures préalablement définies, sur le fondement de critères juridiquement admissibles et sous le contrôle d’instances indépendantes.

L’intelligence artificielle peut considérablement accroître notre capacité à traiter l’information. Elle ne saurait, par sa seule efficacité, déterminer les conditions de légitimité du pouvoir exercé à partir de cette information.

2. La complémentarité entre l’homme et la machine suppose une responsabilité identifiable

La complémentarité constitue l’une des perspectives centrales examinées par Luc Ferry. Elle permet d’envisager un avenir dans lequel les systèmes artificiels augmenteraient les capacités humaines sans conduire nécessairement à leur remplacement généralisé.

Toutefois, cette perspective ne doit pas être confondue avec une simple répartition technique des tâches.

Dans le troisième chapitre de son ouvrage, Ferry analyse les transformations possibles du marché du travail, y compris dans les professions traditionnellement associées à des qualifications intellectuelles élevées. Il confronte les prévisions annonçant une disparition massive des emplois à celles qui anticipent l’apparition de nouvelles activités.

La complémentarité n’apparaît pas comme une conséquence automatiquement garantie par le progrès technologique. Elle exige des choix collectifs concernant l’éducation, la formation professionnelle, l’organisation économique et la répartition des bénéfices de l’innovation.

Ce constat appelle un prolongement juridique. Lorsqu’une intelligence artificielle participe à une décision, il ne suffit pas de constater qu’un être humain demeure présent dans le processus. Encore faut-il déterminer les conditions dans lesquelles il peut exercer un contrôle réel sur le système et répondre de ses conséquences.

Imaginons une plateforme numérique qui recourt à l’intelligence artificielle pour détecter des comportements potentiellement frauduleux. Le système examine des données relatives aux connexions, aux transactions et aux habitudes de ses utilisateurs. Lorsqu’un ensemble d’indices est considéré comme suspect, un compte professionnel est automatiquement suspendu.

La plateforme affirme que ses décisions demeurent soumises à une supervision humaine. Mais qui assure cette supervision ? L’agent chargé de la révision dispose-t-il des informations nécessaires pour comprendre les critères du système ? Peut-il effectivement modifier la décision ? L’utilisateur concerné dispose-t-il d’un moyen de présenter ses observations ?

La présence formelle d’un intervenant humain ne garantit pas une appréciation autonome. Le phénomène est particulièrement sensible en raison du biais d’automatisation, qui conduit à accorder une confiance excessive aux recommandations technologiques. Lorsqu’un professionnel confirme systématiquement les résultats algorithmiques sans disposer des connaissances, du temps ou de l’autorité nécessaires pour les remettre en cause, la supervision humaine risque de devenir une simple validation administrative.

La responsabilité peut alors se disperser entre plusieurs acteurs. Le concepteur du système renvoie à l’entreprise qui l’utilise. Celle-ci affirme avoir appliqué les recommandations de l’outil. Le responsable humain invoque la complexité du modèle et l’impossibilité d’en examiner toutes les opérations.

La personne affectée par la décision se trouve finalement confrontée à une organisation dans laquelle chacun a participé au processus, mais où aucun acteur ne paraît en mesure d’en justifier pleinement le résultat.

Le droit européen apporte des éléments de réponse à cette difficulté. Le Règlement général sur la protection des données (RGPD) encadre les décisions individuelles automatisées. Son article 22 établit, dans les conditions et sous les exceptions qu’il prévoit, une protection contre les décisions fondées exclusivement sur un traitement automatisé, y compris le profilage, lorsqu’elles produisent des effets juridiques ou affectent de manière similaire et significative la personne concernée.

Les articles 13 à 15 complètent ce dispositif par des obligations d’information et des droits d’accès, notamment concernant l’existence de certaines décisions automatisées et les informations utiles sur la logique qui les sous-tend.

La jurisprudence de la Cour de justice de l’Union européenne contribue à préciser la portée de ces garanties. Dans l’arrêt SCHUFA Holding (Scoring) du 7 décembre 2023 (C-634/21), la Cour a examiné les conditions dans lesquelles l’établissement automatisé d’une valeur de probabilité relative à la solvabilité d’une personne peut relever de l’article 22 du RGPD.

Dans son arrêt du 27 février 2025, Dun & Bradstreet Austria (C-203/22), elle a également précisé les exigences liées à la communication d’informations utiles sur la logique d’un traitement automatisé. L’explication doit permettre à la personne concernée de comprendre, de manière accessible, les principes et les procédures concrètement appliqués pour obtenir le résultat contesté.

Cette approche présente un intérêt particulier : la transparence ne doit pas être confondue avec la divulgation exhaustive du code informatique. Elle doit permettre une compréhension suffisante de la décision et de ses déterminants pour rendre possible l’exercice des droits reconnus à la personne.

Le règlement européen sur l’intelligence artificielle, ou AI Act, introduit une exigence complémentaire. Son article 14 prévoit que les systèmes d’intelligence artificielle à haut risque relevant de ses dispositions doivent être conçus de manière à permettre un contrôle humain effectif.

Il s’agit notamment de permettre aux personnes chargées de cette supervision de comprendre les capacités et les limites du système, d’interpréter correctement ses résultats, d’identifier d’éventuelles anomalies et, lorsque cela s’avère nécessaire, d’écarter une recommandation ou d’interrompre l’utilisation de l’outil.

La logique de ce dispositif est significative. Le contrôle humain ne se résume pas à une présence symbolique au terme d’une chaîne automatisée. Il suppose des moyens techniques, des compétences et une véritable capacité d’intervention.

Il serait néanmoins excessif de déduire de ces dispositions que toute décision algorithmique doit obligatoirement faire l’objet d’une révision humaine individualisée. Les garanties applicables varient selon la nature du traitement, la catégorie du système, les risques concernés et les effets de la décision.

L’essentiel réside dans l’existence de mécanismes de contrôle proportionnés à la gravité des conséquences produites.

Cette réflexion rejoint une question classique du droit constitutionnel : dans quelles conditions une personne peut-elle être soumise à une décision qui affecte ses droits sans disposer de moyens suffisants pour en connaître les raisons et la contester ?

Les garanties procédurales ont été historiquement construites autour de l’exercice de l’autorité publique. Leur transposition aux rapports privés exige cependant certaines précautions conceptuelles.

Une plateforme numérique n’exerce pas, en principe, une compétence juridictionnelle ou administrative. Les décisions qu’elle prend résultent de relations contractuelles, de choix économiques et de règles d’organisation de ses services.

Cela ne signifie pas pour autant qu’elles échappent à tout contrôle fondé sur les droits fondamentaux.

En droit français, l’exigence de bonne foi dans l’exécution des contrats, consacrée par l’article 1104 du Code civil, contribue à encadrer les relations contractuelles. Les dispositions relatives à la protection des consommateurs, au traitement des données personnelles et aux services numériques peuvent également imposer des obligations d’information et limiter certaines pratiques unilatérales.

À l’échelle européenne, les exigences procédurales applicables aux plateformes ont été renforcées par le Digital Services Act (DSA), notamment lorsqu’une mesure de modération restreint l’accès à un contenu, à un service ou à un compte.

Considérons le cas d’un professionnel dont l’activité économique dépend d’une plateforme. La suspension de son compte peut l’empêcher d’accéder à ses clients, interrompre ses revenus et compromettre la continuité de son entreprise.

Une telle mesure ne devient pas nécessairement illicite du seul fait de ses conséquences. La plateforme peut avoir des motifs légitimes de sécurité, de prévention des fraudes ou de respect de ses conditions d’utilisation. Toutefois, la gravité des effets produits peut justifier des exigences accrues de transparence, de cohérence des critères et de possibilité de contestation.

Il devient alors possible de parler, dans une perspective doctrinale, d’une dimension procédurale de la protection des droits fondamentaux dans l’environnement numérique. Il ne s’agit pas de reconnaître indistinctement aux relations contractuelles l’ensemble des garanties du procès juridictionnel, mais d’identifier les situations dans lesquelles l’intensité du pouvoir privé appelle des garanties procédurales spécifiques.

La réflexion de Ferry prend ici une portée nouvelle. La complémentarité entre intelligence humaine et intelligence artificielle ne peut être appréciée uniquement à partir de la productivité ou de l’efficacité des systèmes. Elle dépend aussi de la manière dont les responsabilités demeurent attribuables et dont les décisions peuvent être justifiées.

Une véritable complémentarité suppose ainsi une organisation dans laquelle il demeure possible d’identifier les acteurs responsables, d’examiner les critères appliqués et de remettre en cause les résultats incompatibles avec les exigences juridiques.

À défaut, l’intelligence artificielle risque de devenir moins un instrument d’assistance qu’un dispositif de dilution de la responsabilité.

3. Au-delà du remplacement humain : la concentration du pouvoir algorithmique

L’alternative entre remplacement et complémentarité appelle enfin une troisième réflexion. Même si les systèmes artificiels ne remplacent jamais intégralement l’intelligence humaine, leur développement pourrait transformer profondément la distribution du pouvoir dans les sociétés contemporaines.

Cette question apparaît explicitement dans le quatrième chapitre du livre de Luc Ferry, consacré aux controverses entre les partisans d'un ralentissement du développement technologique, souvent désignés comme decels, et ceux de son accélération, les e/acc.

L’auteur s’intéresse notamment au pouvoir exercé par les grandes plateformes numériques sur les conditions de participation aux espaces de communication. L’enjeu dépasse l’appréciation politique des opinions exprimées par les personnes concernées. Ferry conteste la légitimité d’un système dans lequel les propriétaires de plateformes privées peuvent déterminer, de manière largement discrétionnaire, les conditions d’exclusion des utilisateurs.

Il considère que les restrictions à la participation dans ces espaces doivent relever de règles démocratiquement établies et demeurer soumises au contrôle des juridictions. Cette critique présente un intérêt constitutionnel majeur. Le problème ne concerne pas seulement la distinction entre contenus licites et illicites. Il porte sur la légitimité de l’autorité qui établit les critères de restriction et en décide l’application.

L’histoire du constitutionnalisme s’est largement construite autour d’une interrogation semblable : comment empêcher que le pouvoir soit exercé de manière arbitraire ?

La séparation des pouvoirs, les garanties juridictionnelles et la protection des libertés ont progressivement imposé des limites à l’autorité étatique. Dans la tradition française, la Déclaration des droits de l’homme et du citoyen de 1789, notamment ses articles 11 et 16, exprime deux dimensions fondamentales de cette construction : la liberté de communication des pensées et des opinions, d’une part, et l’exigence d’une garantie des droits, d’autre part.

Or, une partie du pouvoir qui conditionne aujourd’hui la communication et l’accès à l’information est exercée par des acteurs privés.

Les grandes plateformes numériques organisent des espaces essentiels à la circulation des idées, aux relations économiques et à la participation sociale. Elles établissent des règles d’accès, hiérarchisent les contenus et déterminent les conditions dans lesquelles certains utilisateurs pourront continuer à bénéficier de leurs services.

L’intégration de l’intelligence artificielle renforce cette capacité d’organisation. Une plateforme n’a pas nécessairement besoin de supprimer une publication pour influencer sa diffusion. Les systèmes de recommandation peuvent modifier sa visibilité, sélectionner les destinataires auxquels elle sera présentée et déterminer les contenus susceptibles de retenir l’attention d’un utilisateur.

Ces choix peuvent relever d’objectifs commerciaux légitimes, de politiques de modération ou de contraintes techniques. Ils peuvent également produire des effets significatifs sur les conditions concrètes d’exercice de certaines libertés.

Il faut cependant éviter toute assimilation simplificatrice entre pouvoir économique et autorité publique.

Dans le contexte français et européen, cette réflexion s’inscrit dans les débats relatifs à l’effet horizontal des droits fondamentaux, c’est-à-dire à leur portée dans les relations entre personnes privées. Si les modalités de cette protection varient selon les droits et les ordres juridiques, il apparaît difficile de considérer que les libertés ne seraient susceptibles d’être menacées que par les autorités publiques.

L’environnement numérique rend cette difficulté particulièrement visible. Le Digital Services Act (DSA) apporte une réponse institutionnelle qui mérite d’être confrontée à la critique formulée par Ferry.

Le règlement européen ne repose pas sur l’idée selon laquelle toute suppression de contenu devrait être préalablement autorisée par un tribunal. Il reconnaît que les fournisseurs de services numériques peuvent prendre certaines mesures de modération, tout en leur imposant des obligations procédurales.

L’article 17 prévoit, dans les conditions de son champ d’application, la communication d’un exposé des motifs lorsqu’un fournisseur de services d’hébergement adopte certaines restrictions en raison du caractère prétendument illicite d’un contenu ou de son incompatibilité avec les conditions générales du service.

L’article 20 organise, pour les plateformes concernées, un mécanisme interne de traitement des réclamations. L’article 21 prévoit également des possibilités de règlement extrajudiciaire des litiges.

Cette architecture présente une différence importante avec une conception qui réserverait exclusivement aux tribunaux le pouvoir d'autoriser toute restriction. Elle cherche à encadrer l'exercice du pouvoir de modération sans supprimer la capacité des plateformes de réagir à certains comportements illicites ou dangereux.

Une obligation systématique de décision judiciaire préalable pourrait, dans certaines circonstances, rendre excessivement difficile la protection contre des contenus portant atteinte aux droits d’autrui, notamment lorsqu’une intervention rapide s’avère nécessaire.

La question ne consiste donc pas à choisir entre une liberté discrétionnaire des plateformes et une judiciarisation intégrale de leur activité. Elle consiste à définir les conditions dans lesquelles leurs décisions peuvent être prises, justifiées, contestées et contrôlées.

Le DSA traite également un aspect du problème qui va au-delà des décisions d’exclusion évoquées par Luc Ferry : l’organisation algorithmique de la visibilité.

Son article 27 prévoit des obligations de transparence concernant les principaux paramètres des systèmes de recommandation utilisés par les plateformes en ligne. Pour les très grandes plateformes, d’autres dispositions renforcent les exigences relatives à l’évaluation et à l’atténuation des risques systémiques.

La régulation européenne reconnaît ainsi que le pouvoir numérique ne s’exerce pas uniquement à travers l’interdiction de s’exprimer. Il peut aussi résulter des conditions dans lesquelles les contenus sont sélectionnés, classés et présentés.

Une autre proposition de Ferry appelle néanmoins une discussion critique : celle qui consiste à envisager la disparition de l’anonymat sur les réseaux sociaux afin de renforcer la responsabilité des utilisateurs.

La préoccupation est compréhensible. L’identification des auteurs d’infractions ou de comportements illicites constitue une condition importante de l’effectivité du droit. Toutefois, la suppression généralisée de l’anonymat pourrait produire des effets considérables sur la liberté d’expression et la vie privée.

Il convient d’abord de distinguer plusieurs situations : l’anonymat à l’égard du public, l’utilisation d’un pseudonyme, l’identification auprès d’un prestataire et la possibilité d’obtenir des données d’identification dans le cadre d’une procédure légalement encadrée.

Ces situations ne sont pas juridiquement équivalentes. Dans l’ordre juridique français, la liberté de communication protégée par l’article 11 de la Déclaration de 1789, le droit au respect de la vie privée garanti notamment par l’article 8 de la Convention européenne des droits de l’homme et la protection des données personnelles reconnue par le droit de l’Union doivent être conciliés avec les objectifs légitimes de prévention et de répression des infractions.

La pseudonymie peut représenter une condition importante de la participation au débat public pour des personnes exposées à des risques de représailles, de discrimination ou de surveillance. Sa suppression générale pourrait avoir un effet dissuasif sur certaines formes d’expression pourtant licites.

À l’inverse, la protection de l’identité d’un utilisateur à l’égard du public ne saurait être assimilée à une immunité contre toute responsabilité.

Le problème juridique consiste à définir les conditions dans lesquelles les informations nécessaires à l’identification peuvent être conservées, demandées et communiquées, en respectant les exigences de nécessité et de proportionnalité.

Limiter le pouvoir des plateformes ne signifie pas nécessairement accroître sans limites leur capacité de surveillance des utilisateurs. Cette réserve illustre une difficulté récurrente de la régulation numérique : la protection d’une liberté ne doit pas conduire à sacrifier de manière disproportionnée les garanties qui rendent possible l’exercice d’autres libertés.

Le principe d’égalité soulève des questions similaires. L’intelligence artificielle permet d’individualiser les traitements à partir de quantités considérables de données. Deux personnes placées dans des situations apparemment comparables peuvent recevoir des offres distinctes, se voir attribuer des scores différents ou accéder à des informations personnalisées.

La différenciation n’est pas, en elle-même, contraire au principe d’égalité. Elle peut répondre à des besoins objectifs ou améliorer l’adaptation d’un service aux circonstances individuelles.

Mais lorsque les critères utilisés demeurent opaques, reposent sur des caractéristiques prohibées ou produisent des désavantages injustifiés, leur légitimité doit pouvoir être examinée.

Dans la tradition constitutionnelle française, le principe d’égalité n’interdit pas toute différence de traitement. Il exige que les distinctions établies reposent sur des justifications juridiquement admissibles, appréciées selon les conditions propres au domaine concerné.

L’individualisation algorithmique oblige à renouveler cette analyse. La difficulté n’est plus seulement d’identifier les catégories expressément retenues par une règle juridique. Elle consiste aussi à comprendre comment des systèmes techniques construisent des classifications, sélectionnent des variables et produisent des différences susceptibles d’affecter les droits des personnes.

Le débat sur la concentration du pouvoir possède enfin une dimension économique et géopolitique.

Dans la conclusion de son ouvrage, Ferry critique la faiblesse relative des investissements européens en intelligence artificielle et s’interroge sur une stratégie qui privilégierait la régulation de technologies principalement développées ailleurs.

Cette préoccupation mérite d’être prise au sérieux. La dépendance à l’égard d’infrastructures technologiques étrangères peut réduire les marges de décision économiques et politiques des États européens.

Il serait toutefois réducteur d’opposer systématiquement innovation et protection des droits fondamentaux.

Une régulation insuffisante peut renforcer des situations de domination privée, tandis qu’un encadrement excessivement rigide peut entraver le développement de technologies susceptibles d’apporter des bénéfices économiques, scientifiques et sociaux. Le défi européen consiste précisément à articuler autonomie technologique, innovation et garanties juridiques.

La complémentarité entre intelligence humaine et intelligence artificielle prend ici une signification nouvelle. Une technologie peut accroître considérablement les capacités d’un individu tout en renforçant sa dépendance à l’égard de l’entreprise qui contrôle son accès, ses mises à jour et ses conditions d’utilisation.

L’augmentation des capacités individuelles ne garantit donc pas une distribution plus équilibrée du pouvoir.

C’est peut-être sur ce point que la réflexion de Ferry peut être prolongée le plus utilement par le droit constitutionnel : la question n’est pas seulement de savoir si l’intelligence artificielle remplacera ou assistera les êtres humains, mais de déterminer les structures de pouvoir dans lesquelles cette relation prendra place.

Conclusion

Le livre de Luc Ferry présente l’intérêt de replacer l’intelligence artificielle dans une interrogation philosophique sur l’avenir de l’humanité. En examinant les perspectives de remplacement et de complémentarité, il refuse de considérer le progrès technologique comme une force dont les conséquences sociales et politiques seraient entièrement prédéterminées.

Sa réflexion ne se limite pas aux performances des machines. Elle interroge les rapports entre intelligence, conscience, liberté et capacité de choisir des valeurs. Sa critique du posthumanisme rappelle que la condition humaine ne peut être réduite à un ensemble de fonctions intellectuelles susceptibles d’être reproduites ou surpassées.

Il n’est pas nécessaire d’adhérer à toutes ses conclusions philosophiques pour reconnaître l’importance juridique du problème.

Même si les progrès scientifiques conduisaient un jour à modifier profondément notre compréhension de la conscience artificielle, il resterait indispensable de déterminer les conditions de légitimité des décisions produites ou médiatisées par des systèmes technologiques.

Trois conséquences peuvent être dégagées. La première concerne la distinction entre performance et légitimité. Une intelligence artificielle peut produire des résultats supérieurs à ceux d’un être humain sans acquérir, pour cette seule raison, le pouvoir juridiquement reconnu de déterminer les droits d’autrui. L’efficacité technique ne dispense ni de la compétence, ni de la procédure, ni de la justification.

La deuxième tient aux exigences de la complémentarité. La collaboration entre humains et systèmes artificiels ne saurait constituer une justification générale de décisions dont les responsables demeurent indéterminés ou dont les conséquences échappent à toute contestation. La supervision humaine doit correspondre à une capacité réelle de compréhension, d’intervention et de responsabilité, adaptée aux risques du système.

La troisième concerne la transformation des rapports de pouvoir. L’intelligence artificielle peut renforcer l’autonomie individuelle tout en favorisant la concentration des infrastructures, des données et des capacités de décision entre les mains d’un nombre limité d’acteurs économiques.

La critique formulée par Ferry à l’égard des décisions discrétionnaires des plateformes numériques constitue, à cet égard, un point de rencontre particulièrement fécond entre sa réflexion philosophique et le constitutionnalisme contemporain.

Il reste néanmoins possible d’aller plus loin. Le pouvoir algorithmique ne s’exerce pas uniquement lorsqu’une plateforme supprime un contenu ou exclut un utilisateur. Il intervient également dans la sélection des informations, la hiérarchisation des comportements, l’attribution des opportunités économiques et la construction de catégories à partir desquelles les individus sont évalués.

Le constitutionnalisme est historiquement associé à la limitation du pouvoir étatique. La société numérique l’oblige à reconsidérer les conditions de protection des droits fondamentaux face à des pouvoirs privés capables d'influencer les possibilités d'action des individus.

Cette évolution ne justifie pas une assimilation générale des plateformes aux autorités publiques. Elle invite plutôt à rechercher les formes de garanties adaptées à la nature des pouvoirs exercés et à la gravité de leurs effets.

L’apport du droit européen est déjà significatif. Le RGPD, le DSA et l’AI Act, chacun dans son champ d’application, contribuent à construire un encadrement juridique des décisions automatisées, des pratiques des plateformes et de certains risques liés à l’intelligence artificielle.

Mais l’existence de ces instruments ne met pas fin à la réflexion constitutionnelle. Elle en déplace les questions vers la définition des responsabilités, la portée des obligations de justification et les conditions d’un contrôle effectif.

Le problème décisif n’est donc plus exclusivement technologique. Il concerne les choix collectifs relatifs aux formes de pouvoir que nous acceptons de créer, aux limites que nous entendons leur imposer et aux garanties dont les individus doivent bénéficier lorsqu’ils y sont soumis.

L’intelligence artificielle remplacera probablement certaines activités humaines et en complétera de nombreuses autres. Aucune de ces perspectives ne permet, à elle seule, de résoudre la question de sa légitimité.

Il convient dès lors d’ajouter une troisième interrogation à l’alternative proposée par Luc Ferry.

Au-delà du remplacement et de la complémentarité, qui contrôlera le pouvoir exercé par l’intermédiaire de l’intelligence artificielle ?

La réponse dépendra de notre capacité à maintenir une distinction fondamentale : le progrès technique peut transformer les moyens de décider, mais il ne saurait se substituer aux raisons qui rendent une décision juridiquement légitime.

L’avenir de l’intelligence artificielle dépendra sans doute des capacités des machines. La légitimité des rapports de pouvoir construits à partir de ces capacités demeurera, quant à elle, une question éminemment constitutionnelle.

Références

Ouvrages

FERRY, Luc, IA : grand remplacement ou complémentarité ?, Paris, Éditions de l’Observatoire, 2025.

SUSSKIND, Richard, How to Think About AI: A Guide for the Perplexed, Oxford, Oxford University Press, 2025.

Textes juridiques

Déclaration des droits de l’homme et du citoyen du 26 août 1789, notamment les articles 11 et 16.

Convention européenne des droits de l’homme, notamment les articles 6, 8 et 10.

Code civil français, article 1104.

Code de procédure civile français, article 455.

Règlement (UE) 2016/679 du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel (RGPD).

Règlement (UE) 2022/2065 du 19 octobre 2022 relatif à un marché unique des services numériques (Digital Services Act).

Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle (AI Act).

Jurisprudence

CJUE, 7 décembre 2023, SCHUFA Holding (Scoring), C-634/21, ECLI:EU:C:2023:957.

CJUE, 27 février 2025, Dun & Bradstreet Austria, C-203/22, ECLI:EU:C:2025:117.