Quem Controla a Inteligência que nos Governa? Luc Ferry e os Limites Constitucionais da Inteligência Artificial

Introdução

A inteligência artificial poderá substituir os seres humanos ou deverá permanecer como instrumento de ampliação de suas capacidades? Essa é a pergunta que orienta o livro IA: grande substituição ou complementaridade?, do filósofo francês Luc Ferry, publicado originalmente em 2025, sob o título IA: grand remplacement ou complémentarité?, e traduzido para o português em 2026, pela Editora Vozes (o livro pode ser comprado na página da editora aqui).

A questão é relevante porque a inteligência artificial ultrapassou, em diversas áreas, a condição de instrumento destinado à execução de atividades repetitivas. Os sistemas algorítmicos produzem textos, elaboram diagnósticos, identificam padrões, classificam pessoas e participam de processos decisórios que anteriormente exigiam a intervenção humana. Algumas dessas capacidades representam avanços importantes, enquanto outras suscitam dúvidas sobre os limites da automação e o futuro das atividades intelectuais.

Ferry procura compreender essa transformação sem reduzi-la ao entusiasmo com o progresso tecnológico ou ao temor de uma substituição generalizada da humanidade (de forma similar à análise feita por Richard Susskind em seu livro How to think about AI: a guide for the perplexed, também publicado em 2025). Ao longo de seis capítulos e na conclusão, o autor examina os avanços inesperados da inteligência artificial, suas capacidades criativas, os possíveis efeitos sobre o trabalho, os conflitos em torno da regulação tecnológica e as promessas transumanistas de superar os limites biológicos da existência humana.

Um dos méritos da obra está em recusar a identificação entre inteligência e consciência. Para Luc Ferry, a capacidade de resolver problemas complexos ou produzir resultados extraordinários não demonstra, necessariamente, que uma máquina possua experiência subjetiva, liberdade ou capacidade de escolher autonomamente os valores que orientam sua atuação.

Essa distinção oferece um ponto de partida relevante para o Direito. Se a inteligência não se confunde com a liberdade de escolher valores, a capacidade de produzir decisões eficientes não pode ser confundida com a legitimidade para determinar seus efeitos sobre outras pessoas.

Porém, a alternativa entre substituição e complementaridade leva a uma questão adicional: mesmo que a inteligência artificial não substitua integralmente os seres humanos, quem estabelecerá os critérios, os limites e as consequências de sua utilização?

A pergunta exige reconhecer que a inteligência artificial não transforma apenas as capacidades individuais, mas modifica as condições de exercício do poder. Empresas e instituições públicas passaram a utilizar sistemas automatizados para decidir quem pode acessar determinados serviços, quais informações devem ser apresentadas aos usuários, como as pessoas serão classificadas e quais comportamentos podem ser considerados relevantes para a concessão de benefícios ou a imposição de restrições.

O próprio Ferry identifica uma dimensão política desse problema, ao questionar o poder das plataformas digitais para determinar quem pode participar dos espaços de comunicação e ao defender que certas decisões não devem permanecer subordinadas exclusivamente à vontade de seus proprietários.

O debate filosófico proposto pelo autor permite desenvolver três problemas jurídicos complementares: a distinção entre capacidade tecnológica e legitimidade das decisões, a necessidade de preservar a responsabilidade humana e os limites da complementaridade diante da concentração de poder nas plataformas digitais.

1. Uma máquina pode decidir melhor, mas isso significa dizer que pode decidir de maneira legítima?

Uma das transformações mais importantes produzidas pela inteligência artificial está na possibilidade de sistemas tecnológicos apresentarem resultados superiores aos humanos em determinadas tarefas intelectuais. Porém, essa superioridade precisa ser examinada à luz de uma distinção fundamental: a diferença entre a capacidade de produzir um resultado e a legitimidade para impor suas consequências a outras pessoas.

No segundo capítulo de seu livro, dedicado à criatividade da inteligência artificial, Ferry examina uma questão que ultrapassa a produção de obras artísticas e literárias: as máquinas poderão substituir também os filósofos e os sistemas de pensamento que orientam a existência humana?

Sua resposta parte de uma distinção entre a utilização da inteligência para resolver problemas e a escolha dos valores que conferem sentido às ações humanas. O autor reconhece as capacidades extraordinárias dos sistemas tecnológicos, mas questiona se uma inteligência desprovida de consciência e liberdade poderia efetivamente escolher entre diferentes concepções éticas, políticas ou espirituais.

Um modelo de inteligência artificial pode ser programado para apresentar argumentos inspirados em Kant, Aristóteles ou em determinada tradição filosófica. Ainda, pode comparar suas posições, identificar contradições e produzir respostas coerentes com os princípios estabelecidos. Contudo, isso não significa que tenha escolhido livremente aqueles princípios ou assumido a responsabilidade moral por suas consequências.

O argumento não demonstra que os sistemas artificiais jamais poderão possuir consciência, mas se trata de uma controvérsia filosófica e científica que permanece aberta. A sua importância para o Direito contemporâneo está em demonstrar que o reconhecimento de determinadas capacidades intelectuais não resolve automaticamente as questões relacionadas à autonomia, à responsabilidade e à legitimidade.

Por exemplo, um sistema de inteligência artificial utilizado por uma instituição financeira para avaliar solicitações de crédito consegue analisar milhares de informações e identificar padrões de inadimplência com precisão superior à dos analistas humanos. Sob a perspectiva estatística, o seu uso pode representar um avanço significativo. Considere, porém, que determinado consumidor tenha seu pedido recusado sem receber informações suficientes sobre os critérios aplicados. A instituição justifica a decisão afirmando que o sistema possui elevado índice de acerto e que seus mecanismos internos são altamente complexos para permitir uma explicação acessível.

A superioridade estatística seria suficiente para justificar a decisão?

A resposta exige distinguir duas dimensões que frequentemente aparecem confundidas no debate tecnológico. A primeira é a dimensão técnica, relacionada à capacidade de um sistema de identificar padrões, elaborar previsões e produzir resultados. A segunda é a dimensão jurídica, que envolve a legitimidade dos critérios utilizados, a possibilidade de conhecer as razões da decisão e os meios disponíveis para questionar seus efeitos.

Essa diferenciação encontra um paralelo na discussão apresentada por Luc Ferry no terceiro capítulo, quando examina o possível desaparecimento do trabalho assalariado. O filósofo distingue expressamente a questão de fato, relativa à possibilidade de a inteligência artificial substituir empregos humanos, da questão de direito, relacionada à avaliação dessa transformação como algo desejável ou indesejável.

Embora Ferry utilize as expressões em sentido filosófico e não como uma categoria técnico-processual, a distinção também é útil para compreender os limites das decisões automatizadas. Saber o que uma tecnologia consegue realizar não equivale a determinar aquilo que juridicamente lhe pode ser permitido realizar.

Uma decisão pode ser estatisticamente eficiente e juridicamente inadequada. O algoritmo pode identificar corretamente uma correlação entre determinadas características pessoais e o risco de inadimplência, mas utilizar critérios discriminatórios ou incompatíveis com os direitos fundamentais. A precisão de um resultado não demonstra, por si só, a legitimidade dos procedimentos empregados para alcançá-lo.

Esse problema também se manifesta na atuação do Estado. Os modelos de inteligência artificial podem auxiliar magistrados na pesquisa de precedentes, na organização de documentos e na identificação de questões jurídicas recorrentes. Porém, a utilização dessas ferramentas não dispensa o dever de fundamentação das decisões judiciais.

A Constituição brasileira, em seu art. 93, IX, exige que as decisões judiciais sejam fundamentadas. O art. 489, § 1º, do Código de Processo Civil estabelece parâmetros para a identificação de fundamentações juridicamente insuficientes. Nenhuma dessas exigências desaparece em razão da utilização de tecnologias capazes de produzir respostas convincentes ou de identificar soluções semelhantes em processos anteriores.

A fundamentação judicial não se confunde com a apresentação de um resultado provável, mas exige a demonstração das razões jurídicas que justificam determinada conclusão, consideradas as circunstâncias relevantes do caso concreto e os argumentos apresentados pelas partes.

É nesse ponto que a distinção filosófica desenvolvida por Luc Ferry adquire relevância constitucional. A atividade jurisdicional não consiste apenas em identificar soluções tecnicamente adequadas, mas abraange interpretar normas, avaliar argumentos, justificar escolhas e exercer uma competência atribuída pelo ordenamento jurídico a uma autoridade responsável.

Mesmo que determinado modelo de inteligência artificial venha a superar consistentemente o desempenho de magistrados em tarefas específicas, essa circunstância não lhe atribuirá, por si só, competência jurisdicional. A superioridade técnica poderá justificar sua utilização como instrumento de apoio, mas não constituirá fundamento suficiente para substituir as condições constitucionais de exercício da jurisdição.

No Estado de Direito, o exercício legítimo do poder não depende exclusivamente da qualidade dos resultados alcançados, mas pressupõe também competências previamente estabelecidas, procedimentos adequados, justificações acessíveis e mecanismos de controle.

Não se trata de defender que a inteligência humana seja sempre superior à artificial, ou que a intervenção de uma pessoa assegure necessariamente decisões melhores. O problema é identificar quais condições jurídicas devem ser respeitadas quando determinada decisão produz consequências sobre direitos e interesses de terceiros.

A inteligência artificial pode ampliar extraordinariamente a capacidade humana de analisar informações, mas não proporciona automaticamente a legitimidade jurídica para determinar como outras pessoas devem ser tratadas.

2. A complementaridade entre humanos e máquinas exige responsabilidade e possibilidade de contestação

A perspectiva de complementaridade desenvolvida por Luc Ferry oferece uma alternativa à ideia de que o futuro tecnológico será necessariamente caracterizado pela substituição da inteligência humana. Porém, essa alternativa não pode ser compreendida apenas como a distribuição de tarefas entre pessoas e sistemas automatizados.

No terceiro capítulo, o filósofo examina a possibilidade de uma transformação profunda do mercado de trabalho, inclusive com a substituição de atividades intelectuais altamente qualificadas. O debate envolve posições divergentes: de um lado, aqueles que consideram que a inteligência artificial destruirá grande parte dos empregos existentes e, de outro, os que acreditam que a inovação produzirá novas atividades e oportunidades.

Ferry não apresenta a complementaridade como uma consequência inevitável do progresso tecnológico. A sua conclusão ressalta a necessidade de repensar a educação, reorientar a formação profissional e preparar as instituições para um mundo no qual determinadas competências humanas poderão perder seu valor econômico.

Há, portanto, uma dimensão política frequentemente negligenciada no discurso sobre a colaboração entre humanos e máquinas: a complementaridade precisa ser construída. Não basta afirmar que ambas as inteligências poderão colaborar, mas é preciso identificar as condições sociais, econômicas e institucionais que permitirão distribuir os benefícios dessa colaboração.

No âmbito jurídico, a complementaridade precisa ser acompanhada de uma definição precisa das responsabilidades envolvidas.

Por exemplo, uma plataforma digital que utiliza inteligência artificial para identificar comportamentos considerados fraudulentos e, para esse fim, analisa padrões de acesso, localização, transações e interações dos usuários; quando identifica uma situação suspeita, suspende automaticamente determinada conta. A empresa pode argumentar que o algoritmo apenas auxilia seus mecanismos de segurança e que a decisão final permanece submetida à supervisão humana. Essa afirmação, isoladamente, não esclarece como ocorre a supervisão, quem possui competência para modificar o resultado ou quais informações são disponibilizadas ao usuário prejudicado.

Assim, a presença formal de um ser humano no procedimento não assegura, necessariamente, um controle efetivo.

O problema se torna relevante diante do chamado viés de automação, que pode levar pessoas a atribuir credibilidade excessiva às recomendações produzidas por sistemas tecnológicos. Quando o agente humano simplesmente confirma a conclusão algorítmica, sem dispor de conhecimento ou condições institucionais para avaliá-la criticamente, a supervisão pode ser apenas uma formalidade.

Nesse cenário, a responsabilidade não desaparece, mas corre o risco de se tornar difusa. O desenvolvedor atribui a decisão ao usuário do sistema; a instituição afirma que apenas utilizou uma ferramenta tecnológica; o profissional responsável sustenta que a recomendação foi produzida por um mecanismo cuja complexidade não domina. Ao final, a pessoa atingida pela decisão encontra dificuldades para identificar quem deve justificá-la.

As normas de proteção de dados pessoais podem fornecer parâmetros importantes para essa discussão. No Brasil, o art. 20 da Lei Geral de Proteção de Dados Pessoais (LGPD) assegura ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses. O dispositivo também prevê o fornecimento de informações claras e adequadas sobre critérios e procedimentos utilizados, observados os limites legais aplicáveis.

No âmbito europeu, o Regulamento Geral sobre a Proteção de Dados (RGPD / GDPR) estabelece garantias relacionadas às decisões individuais automatizadas, especialmente em seu art. 22. A interpretação dessas garantias demonstra que a utilização de sistemas tecnológicos não elimina a necessidade de controle jurídico dos efeitos produzidos sobre os indivíduos.

O Regulamento Europeu de Inteligência Artificial (AI Act) acrescenta outra dimensão à discussão ao estabelecer, para determinados sistemas classificados como de alto risco, exigências relacionadas à supervisão humana e ao gerenciamento dos riscos. A sua lógica regulatória não se limita a exigir a presença simbólica de uma pessoa, mas procura assegurar condições para compreender as limitações do sistema, avaliar resultados e intervir quando necessário.

Porém, é importante evitar a conclusão de que toda decisão automatizada exige necessariamente a participação humana direta. Existem decisões de impacto reduzido que podem ser legitimamente automatizadas. Em outros casos, a intervenção humana constitui uma garantia essencial, sobretudo em casos que envolvem direitos fundamentais ou consequências jurídicas significativas.

O elemento decisivo não é simplesmente a existência de uma pessoa em alguma etapa do procedimento, mas a disponibilidade de mecanismos efetivos de informação, revisão, responsabilização e contestação.

Esse problema permite reconhecer uma dimensão específica do devido processo legal no ambiente digital. Tradicionalmente associado à atuação estatal, o devido processo também fornece padrões relevantes para avaliar as decisões privadas que afetarem o exercício de direitos.

Contudo, a transposição dessas garantias não pode ocorrer de maneira automática. O poder exercido pelo Estado distingue-se juridicamente daquele decorrente de uma relação contratual privada. Ainda assim, a boa-fé objetiva, a proteção de dados pessoais, os direitos dos consumidores e a eficácia dos direitos fundamentais nas relações entre particulares podem fundamentar deveres de justificação e mecanismos de controle proporcionais à natureza e à gravidade da decisão.

Por exemplo, quando uma plataforma suspende a conta de um profissional que depende economicamente daquele serviço, os efeitos ultrapassam uma controvérsia contratual ordinária, pois a decisão pode comprometer a continuidade da atividade profissional e a obtenção de renda.

Isso não significa que toda suspensão seja ilícita ou que o usuário possua um direito irrestrito de permanecer na plataforma, mas sim que a autonomia contratual precisa ser considerada em conjunto com a boa-fé objetiva, os deveres de informação e as garantias jurídicas aplicáveis à relação concreta.

A reflexão de Luc Ferry permite acrescentar uma exigência: o desenvolvimento tecnológico deve permanecer subordinado a escolhas humanas justificáveis e não converter os seus próprios resultados em critérios autossuficientes de legitimidade.

A complementaridade entre humanos e máquinas exige, portanto, uma arquitetura de responsabilidade. Deve-se identificar quem definiu os objetivos do sistema, quem selecionou os critérios de decisão, quem possui condições de revisar seus resultados e quem responde pelos danos eventualmente produzidos.

Sem essa estrutura, a inteligência artificial poderá ser utilizada como um instrumento de transferência ou diluição de responsabilidades.

A complementaridade juridicamente relevante não corresponde apenas à coexistência entre trabalho humano e processamento automatizado, mas pressupõe uma organização institucional na qual seja possível atribuir decisões, exigir justificações e corrigir resultados incompatíveis com o ordenamento.

O desafio jurídico não está apenas em manter o ser humano envolvido nos processos automatizados, mas também em assegurar que o poder decisório permaneça submetido a responsabilidades identificáveis e a mecanismos efetivos de controle.

3. O problema não é apenas a substituição humana, mas a concentração do poder algorítmico

A pergunta de Luc Ferry sobre o futuro da relação entre seres humanos e inteligência artificial admite outro desenvolvimento. Mesmo que as máquinas não substituam integralmente os humanos, a expansão de suas capacidades poderá alterar a distribuição do poder nas sociedades contemporâneas.

Essa questão não é apenas uma consequência indireta de sua reflexão. No quarto capítulo, dedicado ao conflito entre os defensores da desaceleração tecnológica (decels) e os partidários do aceleracionismo (e/acc), Ferry identifica expressamente os riscos associados ao poder exercido pelas plataformas digitais.

Ao examinar possíveis medidas de regulação, o filósofo questiona a legitimidade de empresas privadas decidirem discricionariamente quem pode ou não participar das redes sociais. Sua crítica utiliza como exemplo a exclusão da conta de Donald Trump pelo Twitter em 2021, acompanhada da suspensão de milhares de contas associadas. Ferry esclarece que a discordância com as posições desses usuários não elimina o problema político de permitir que decisões de exclusão sejam determinadas unilateralmente pelos proprietários das plataformas. O seu argumento é que as restrições à participação nos espaços digitais devem observar parâmetros estabelecidos democraticamente e permanecer submetidas ao controle dos tribunais.

Aqui está uma das contribuições mais relevantes da obra para o debate constitucional. O problema não é apenas a identificação de conteúdos ilegais ou prejudiciais, mas a legitimidade da autoridade que estabelece os critérios de exclusão e determina a sua aplicação.

Esse aspecto merece atenção, porque a inteligência artificial não constitui uma tecnologia distribuída de maneira uniforme entre os indivíduos. O seu desenvolvimento a e sua utilização em larga escala dependem de infraestrutura computacional, bases de dados, recursos financeiros e conhecimentos especializados. Essas condições favorecem a concentração de capacidades tecnológicas em determinadas empresas e instituições.

As grandes plataformas digitais ocupam uma posição relevante nesse processo, porque controlam espaços de comunicação, intermediação econômica e circulação de informações que se tornaram essenciais para inúmeras atividades cotidianas.

A incorporação da inteligência artificial amplia a sua capacidade de organizar esses ambientes e de influenciar as possibilidades de atuação dos usuários.

Por exemplo, uma rede social não precisa impedir formalmente a manifestação de determinada opinião para influenciar a sua circulação. Os sistemas de recomendação podem aumentar ou reduzir sua visibilidade, determinar a ordem de apresentação das informações e estabelecer quais conteúdos serão oferecidos prioritariamente a diferentes grupos.

Da mesma forma, uma plataforma de comércio eletrônico pode influenciar as possibilidades econômicas de seus vendedores mediante critérios automatizados de classificação, recomendação e suspensão de contas.

Esses exemplos indicam uma transformação na maneira como o poder é exercido. A crítica de Luc Ferry às decisões de exclusão permite identificar um problema constitucional mais amplo. Tradicionalmente, a censura e a restrição ilegítima da liberdade de expressão são examinadas sobretudo a partir da atuação estatal. Porém, quando empresas privadas controlam espaços relevantes de circulação das informações, as suas decisões também podem condicionar o exercício concreto dessa liberdade.

No constitucionalismo tradicional, a limitação do poder foi construída principalmente em torno das instituições estatais. A separação de poderes, os controles jurisdicionais e as garantias individuais estabeleceram mecanismos destinados a impedir o exercício arbitrário da autoridade pública.

Na sociedade digital, determinadas decisões privadas também possuem capacidade de condicionar significativamente o exercício de direitos.

A plataforma não exerce necessariamente o mesmo tipo de autoridade jurídica que o Estado, pois a sua capacidade de influência decorre de posições econômicas, tecnológicas e informacionais específicas. Em determinadas circunstâncias, porém, essa capacidade produz efeitos que exigem uma análise constitucional.

O ponto principal não está em equiparar as plataformas digitais aos órgãos estatais, mas em reconhecer que a capacidade de restringir direitos não constitui um fenômeno exclusivamente público. A proteção constitucional precisa considerar as diferentes formas pelas quais o poder é exercido, sem ignorar as distinções jurídicas entre autoridade estatal e autonomia privada.

A liberdade de expressão oferece um exemplo significativo. O reconhecimento formal do direito de manifestar opiniões não esclarece, por si só, quais condições são necessárias para a sua circulação em ambientes digitais organizados por sistemas algorítmicos. Isso não significa que a Constituição assegure a todos um direito à mesma visibilidade ou que as plataformas estejam obrigadas a divulgar indiscriminadamente qualquer conteúdo. A organização de serviços digitais envolve escolhas editoriais, comerciais e tecnológicas que também possuem proteção jurídica.

Nesse ponto, a posição de Luc Ferry merece uma ressalva. A sua defesa de que decisões sobre exclusão de usuários sejam reservadas ao legislador e aos tribunais evidencia uma preocupação legítima com a arbitrariedade privada, mas não resolve integralmente os problemas concretos da moderação de conteúdos.

As plataformas também possuem deveres jurídicos relacionados ao enfrentamento de determinadas atividades ilícitas, à proteção de crianças e adolescentes e à segurança de seus serviços, entre outros. Exigir uma decisão judicial prévia para toda medida de suspensão ou remoção poderia comprometer a resposta a situações de risco imediato.

Portanto, a questão mais adequada não consiste em escolher entre a autoridade exclusiva das plataformas e a intervenção judicial obrigatória em todos os casos, mas depende do estabelecimento de critérios normativos para a moderação, deveres proporcionais de informação, procedimentos de contestação e possibilidades efetivas de controle externo.

Outra proposta de Ferry exige apreciação crítica: a sua defesa da eliminação do anonimato nas redes sociais como instrumento de responsabilização. Embora a identificação dos responsáveis por condutas ilícitas seja juridicamente relevante, a exigência generalizada de identificação pode produzir consequências sobre a privacidade, a proteção de dados pessoais e o exercício da liberdade de expressão.

Para esse fim, é preciso distinguir o anonimato absoluto, a pseudonímia, a identificação perante o provedor e a possibilidade de identificação mediante procedimentos legais. Essas situações não são equivalentes. A proteção contra práticas ilícitas não autoriza concluir que todos os usuários devam tornar publicamente conhecida a sua identidade.

No ordenamento jurídico brasileiro, a vedação constitucional ao anonimato deve ser interpretada conjuntamente com a liberdade de expressão, a privacidade, a proteção de dados pessoais e as regras legais de identificação e responsabilização. A instituição de mecanismos de identificação precisa observar finalidade legítima, necessidade e adequação, entre outros princípios de tratamento de dados previstos na LGPD.

A divergência evidencia um aspecto relevante do próprio constitucionalismo: limitar o poder das plataformas não significa necessariamente ampliar sem restrições a capacidade de identificação e vigilância dos usuários. A resposta jurídica deve evitar que a proteção de determinado direito produza sacrifícios desnecessários de outras garantias fundamentais.

A igualdade também enfrenta desafios semelhantes. Os sistemas de inteligência artificial permitem classificar indivíduos a partir de volumes crescentes de dados. Pessoas aparentemente situadas em condições semelhantes podem receber ofertas comerciais distintas, acessar informações diferentes ou ser submetidas a critérios individualizados de avaliação.

A personalização não é necessariamente discriminatória. Em diversas situações, ela permite oferecer serviços mais adequados às necessidades dos usuários. Entretanto, quando os critérios utilizados são opacos ou produzem desvantagens injustificadas, surge a necessidade de verificar a sua compatibilidade com o princípio da igualdade.

Nesse contexto, a questão constitucional deixa de estar limitada à identificação de tratamentos desiguais expressamente estabelecidos por normas jurídicas, e torna-se necessário examinar também os critérios tecnológicos por meio dos quais diferenças são identificadas, produzidas e utilizadas.

O debate sobre a concentração de poder adquire ainda uma dimensão geopolítica na conclusão de Luc Ferry. O filósofo critica a insuficiência dos investimentos europeus em inteligência artificial e questiona uma estratégia que, segundo a sua avaliação, privilegia a regulação de tecnologias desenvolvidas predominantemente fora da Europa.

Essa preocupação revela uma tensão entre dois objetivos que não devem ser tratados como necessariamente incompatíveis: preservar a capacidade de inovação e assegurar a proteção dos direitos fundamentais. A dependência tecnológica pode reduzir a autonomia econômica e institucional das sociedades, mas a ausência de limites jurídicos também pode ampliar poderes privados incompatíveis com uma ordem democrática.

A reflexão permite reconsiderar o próprio significado da complementaridade. Uma inteligência artificial pode complementar satisfatoriamente as capacidades de determinado indivíduo e, simultaneamente, ampliar a sua dependência em relação à empresa responsável pela tecnologia. O usuário passa a produzir mais, comunicar-se melhor e obter informações com maior rapidez. Entretanto, a continuidade dessas possibilidades depende de sistemas sobre os quais exerce controle limitado.

A ampliação das capacidades individuais não implica, necessariamente, uma distribuição mais equilibrada do poder. Esse é, possivelmente, o ponto em que a reflexão filosófica de Ferry pode ser desenvolvida com maior intensidade pelo Direito Constitucional. A alternativa entre substituição e complementaridade precisa ser acompanhada de uma análise das estruturas de poder que tornam possível o desenvolvimento e a utilização da inteligência artificial.

Não basta perguntar se a tecnologia ampliará as capacidades humanas, mas é igualmente necessário saber quem poderá utilizá-la, sob quais condições, mediante quais critérios e com quais possibilidades de contestação.

A proteção dos direitos fundamentais exige identificar quem exerce o poder, quais decisões podem ser tomadas, quais critérios devem ser respeitados e quais mecanismos permitem controlar os efeitos dessas decisões.

A pergunta não é apenas se as máquinas substituirão os humanos, mas se determinados agentes econômicos, mediante o controle da inteligência artificial, passarão a exercer poderes cada vez mais amplos sobre os demais.

Considerações finais

O livro de Luc Ferry apresenta uma contribuição importante, ao deslocar a discussão sobre inteligência artificial para uma reflexão mais ampla sobre o futuro da humanidade. Ao questionar a inevitabilidade da substituição humana e defender a construção de uma relação de complementaridade, o filósofo demonstra que o desenvolvimento tecnológico não determina, por si só, os caminhos que serão percorridos pelas sociedades.

A leitura integral da obra revela uma dimensão adicional de seu argumento. Ferry não discute apenas a capacidade das máquinas de superar desempenhos humanos, mas sua reflexão envolve os pressupostos filosóficos da consciência, da liberdade e da escolha de valores, além das consequências sociais e políticas do desenvolvimento tecnológico.

Sua crítica ao pós-humanismo, especialmente nos capítulos 5 e 6, também permite compreender por que a preservação da humanidade não pode ser reduzida à manutenção de determinadas capacidades intelectuais. Para o autor, a experiência subjetiva, a liberdade e a possibilidade de atribuir sentido à existência ocupam um lugar que não pode ser automaticamente reproduzido pelo processamento de informações.

Essa concepção não precisa ser integralmente acolhida para oferecer uma contribuição relevante ao Direito. Mesmo que futuras tecnologias modifiquem nossa compreensão da consciência artificial, continuará sendo necessário definir as condições jurídicas de exercício do poder, de atribuição de responsabilidades e de proteção das pessoas submetidas a decisões automatizadas.

A perspectiva jurídica permite acrescentar três dimensões ao problema.

A primeira consiste em reconhecer que capacidade tecnológica e legitimidade decisória são conceitos distintos. Um sistema pode apresentar resultados superiores aos humanos sem que isso dispense o respeito às competências, aos procedimentos e às garantias exigidas pelo ordenamento jurídico.

Outra dimensão envolve compreender que a complementaridade não pode servir como justificativa genérica para decisões cujos responsáveis não são identificáveis ou cujas consequências não podem ser contestadas. A participação humana precisa estar associada a condições efetivas de supervisão, revisão e responsabilização, proporcionais aos riscos envolvidos.

Por fim, é preciso considerar que a inteligência artificial também transforma a distribuição do poder. A sua utilização pode ampliar capacidades individuais e, simultaneamente, fortalecer posições de domínio econômico e informacional. Portanto, a proteção dos direitos fundamentais depende não apenas da qualidade dos sistemas tecnológicos, mas também do controle das estruturas institucionais em que são desenvolvidos e utilizados.

A crítica formulada por Ferry ao poder das plataformas demonstra que a preocupação com essa transformação não constitui apenas uma projeção jurídica externa à sua obra. O filósofo reconhece expressamente os riscos de permitir que empresas privadas estabeleçam, de maneira discricionária, os limites de participação nos espaços digitais.

É possível avançar além dessa posição, tendo em vista que o controle do poder algorítmico não se esgota na regulação das decisões de exclusão ou na identificação dos responsáveis por conteúdos ilícitos, mas também envolve os critérios utilizados para classificar pessoas, organizar informações, estabelecer prioridades e condicionar oportunidades econômicas e sociais.

Essas três dimensões demonstram que o constitucionalismo não perdeu a sua relevância diante da inteligência artificial. Ao contrário, a transformação tecnológica renovou algumas de suas questões mais tradicionais: quem pode exercer o poder, com fundamento em quais critérios, mediante quais procedimentos e sujeito a quais limites?

Assim, o principal desafio não está em transportar automaticamente todas as garantias construídas para o Estado às relações entre particulares. As diferenças entre autoridade pública, autonomia privada e poder econômico precisam ser preservadas. Entretanto, essas distinções não impedem o reconhecimento de que o exercício privado do poder também pode produzir consequências relevantes para os direitos fundamentais.

A questão decisiva deixa de ser exclusivamente tecnológica. A definição das capacidades que desejamos desenvolver com a inteligência artificial envolve escolhas econômicas, políticas e jurídicas que não podem ser delegadas integralmente aos agentes responsáveis por sua criação e exploração comercial.

A inteligência artificial poderá substituir determinadas atividades humanas e complementar inúmeras outras. Porém, nenhuma dessas possibilidades resolve, isoladamente, o problema de sua legitimidade.

Por isso, talvez seja necessário acrescentar uma terceira pergunta à alternativa formulada por Luc Ferry.

Além de saber se a inteligência artificial substituirá ou complementará os seres humanos, precisamos perguntar: quem controlará o poder exercido por meio dela?

A resposta exige reconhecer que o progresso tecnológico não substitui a legitimidade democrática, que a eficiência não dispensa a justificação e que a ampliação das capacidades humanas não assegura, por si só, a preservação de sua autonomia.

O futuro da inteligência artificial dependerá das capacidades das máquinas. Porém, a legitimidade das relações de poder construídas a partir delas continuará sendo, fundamentalmente, uma questão constitucional.

Referências bibliográficas

FERRY, Luc. IA: grande substituição ou complementaridade? Petrópolis: Vozes, 2026.

FERRY, Luc. IA: grand remplacement ou complémentarité? Paris: Éditions de l’Observatoire, 2025.