Uma empresa decide como seu assistente deve responder a perguntas sobre política. Outra estabelece quais conteúdos ele pode produzir. Uma terceira escolhe os critérios usados para recomendar candidatos a uma vaga. Cada decisão pode parecer uma etapa normal do desenvolvimento de um produto, mas quando esses sistemas passam a organizar o acesso ao conhecimento, ao trabalho e aos serviços, as escolhas de seus fabricantes adquirem consequências públicas.

É nesse deslocamento que surge uma questão difícil sobre de onde vem a legitimidade para tomar essas decisões. Conhecimento técnico permite construir um sistema, e capital permite colocá-lo em circulação. Nenhum dos dois, isoladamente, oferece uma justificativa suficiente para determinar como outras pessoas deverão viver com suas consequências.

A pergunta sobre quem deveria ter o direito de construir inteligência começa, portanto, por uma distinção: a liberdade de desenvolver uma tecnologia e a autoridade para estabelecer suas condições de uso na sociedade precisam ser discutidas separadamente.

A autoridade que chega como conveniência

Imagine uma escola que adota um tutor de IA. O sistema explica conteúdos, sugere exercícios e acompanha dificuldades. Sua utilidade pode ser real, mas ele também incorpora uma concepção de aprendizagem sobre o que conta como resposta satisfatória, quanto espaço existe para interpretações divergentes, quando insistir e quando simplificar.

A mudança está em onde são tomadas, em que escala se repetem e na capacidade de professores e estudantes para modificá-las. Se a escola pode ajustar apenas detalhes, enquanto os critérios fundamentais permanecem inacessíveis, uma parcela de sua autonomia pedagógica foi transferida ao fornecedor. Isso pode acontecer sem uma discussão explícita, como consequência de uma contratação apresentada principalmente como ganho de eficiência.

A autoridade tecnológica frequentemente cresce assim. Uma ferramenta resolve um problema, torna-se habitual e passa a definir as condições em que o próprio problema será compreendido. É possível consentir com a utilização de um produto sem ter participado das escolhas que ele transforma em rotina.

Quem escolhe o que significa “melhor”?

Um sistema precisa ser avaliado segundo algum critério. Um assistente que sempre concorda pode agradar e informar mal. Um sistema excessivamente cauteloso pode bloquear perguntas legítimas. Uma ferramenta otimizada para produtividade pode transferir aos trabalhadores o custo de acompanhar um ritmo cada vez maior. Há decisões técnicas em todos esses problemas, mas também julgamentos sobre quais perdas são aceitáveis e quem deverá suportá-las.

Isso significa que especialistas precisam distinguir aquilo que conseguem demonstrar daquilo que estão escolhendo em nome de outras pessoas.

Mesmo uma IA hipoteticamente superior em previsão não resolveria essa diferença. Calcular consequências com precisão ajudaria a decidir, porém ainda restaria determinar quais consequências são desejáveis, como distribuir seus custos e quais direitos preservar. Para fundamentar autoridade, é preciso, além de ter competência, explicar a quem ela responde e como pode ser contestada.

A liberdade que depende de infraestrutura

Formalmente, muitas pessoas podem pesquisar IA. Na prática, desenvolver determinados sistemas avançados exige recursos que poucas organizações conseguem reunir. Essa concentração envolve capacidade computacional, serviços de nuvem, acesso a profissionais e canais de distribuição. Uma organização pode desenvolver uma alternativa e continuar dependente da infraestrutura de um concorrente.

Em 2025, a Comissão Federal de Comércio dos Estados Unidos (FTC), órgão responsável pela defesa da concorrência e do consumidor, publicou um relatório sobre parcerias entre grandes provedores de nuvem e desenvolvedores de IA. O documento identificou possíveis efeitos sobre acesso a recursos computacionais, custos de troca de fornecedor e circulação de informações comerciais sensíveis.

Permitir que qualquer pessoa construa IA oferece pouca diversidade quando quase ninguém reúne condições materiais para fazê-lo. Por isso, liberdade de pesquisa também depende de infraestrutura acessível, financiamento independente e instituições capazes de investigar problemas que não prometem retorno comercial imediato.

Caso contrário, necessidades sociais acabam disputando espaço dentro das prioridades de poucos financiadores. Uma língua pouco rentável, uma deficiência negligenciada ou um serviço público sem mercado atraente podem permanecer secundários, mesmo quando sua importância para as pessoas envolvidas é enorme.

Trocar empresas pelo Estado resolve?

O controle público pode financiar pesquisa, ampliar acesso e exigir prestação de contas. Entretanto, governos também podem usar sistemas para vigiar, restringir informação ou tornar decisões administrativas mais difíceis de contestar. Uma tecnologia estatal pode servir a uma população ou fortalecer o poder de quem governa sobre ela.

“Público” não significa automaticamente democrático.

O mesmo cuidado vale para universidades e organizações sem fins lucrativos. Seus objetivos e incentivos diferem dos empresariais, mas elas também dependem de recursos, selecionam prioridades e podem excluir perspectivas.

A busca por um desenvolvedor perfeitamente neutro leva a um impasse. Uma organização convencida de que representa o interesse coletivo ainda pode estar profundamente errada sobre o que outras pessoas precisam.

Uma estrutura mais defensável distribuiria capacidades entre instituições diferentes, sujeitas a fiscalização e oposição. Empresas, universidades, laboratórios públicos e comunidades poderiam desenvolver sistemas sem que qualquer um deles adquirisse controle incontestável sobre sua utilização. Essa diversidade precisa existir tanto na produção quanto na possibilidade de recusar fornecedores e questionar decisões.

Abrir o modelo distribui poder?

Modelos disponíveis para inspeção, adaptação e execução independente podem reduzir dependências porque ermitem investigar comportamentos e construir aplicações que um fornecedor fechado talvez nunca autorizasse. Mas abertura tem graus e disponibilizar os parâmetros de um modelo não necessariamente revela seus dados de treinamento, todas as decisões de desenvolvimento ou os recursos necessários para reproduzi-lo.

Além disso, acesso técnico e capacidade efetiva continuam sendo coisas diferentes. Uma universidade sem infraestrutura pode receber um modelo que não consegue operar. Uma comunidade pode adaptar uma ferramenta sem conseguir distribuí-la fora de plataformas dominantes.

A abertura também envolve riscos, como facilitar adaptações legítimas pode facilitar usos prejudiciais. Esses riscos merecem avaliação concreta, assim como merece avaliação o poder acumulado por quem controla exclusivamente o acesso.

Políticas de segurança precisam enfrentar ambos. Exigências tão caras que apenas os maiores laboratórios conseguem cumpri-las podem proteger posições comerciais, já a ausência de exigências pode deixar os custos dos erros com quem tem menos condições de se defender.

O desafio é estabelecer obrigações proporcionais às capacidades e aos contextos de uso, acompanhadas de condições para pesquisa e fiscalização independentes.

Participar precisa mudar alguma coisa

Convidar pessoas a opinar não garante que elas tenham poder.

Em um experimento divulgado em 2023, a Anthropic, empresa desenvolvedora de modelos de IA, trabalhou com o Collective Intelligence Project, organização dedicada à inteligência coletiva, para reunir contribuições de aproximadamente mil participantes americanos. Essas contribuições ajudaram a elaborar princípios utilizados no treinamento de um modelo experimental.

A iniciativa mostra uma possibilidade de participação. Também revela perguntas sobre quem define os participantes, quais alternativas ficam disponíveis e quem interpreta as respostas. Uma consulta pode registrar preferências enquanto preserva intacto o controle de quem a organizou. Para produzir influência verificável, precisa explicar quais decisões estão abertas, como divergências serão tratadas e o que efetivamente mudou.

Também precisa incluir pessoas que não são clientes. Trabalhadores avaliados por sistemas, comunidades próximas de infraestrutura e cidadãos afetados por decisões automatizadas podem sofrer consequências sem jamais aceitar um termo de uso. Sua condição de afetados oferece uma razão para participar.

A maioria também precisa de limites

Participação pública não elimina conflitos morais e uma maioria pode apoiar vigilância excessiva ou restrições injustas contra uma minoria. Preferências coletivas precisam conviver com direitos que protejam quem perde uma votação.

A Recomendação sobre a Ética da Inteligência Artificial da UNESCO, agência das Nações Unidas dedicada à educação, à ciência e à cultura, articula dignidade humana, diversidade, supervisão e prestação de contas. Esses princípios oferecem referências para avaliar decisões, sem apagar os conflitos de sua aplicação.

Uma governança legítima precisa combinar conhecimento especializado, representação, proteção de direitos e possibilidade de revisão.Isso exige mecanismos concretos, avaliações independentes, justificativas acessíveis, canais de contestação com consequências e autoridades capazes de interromper usos prejudiciais. Exige ainda recursos para que grupos afetados participem sem depender da boa vontade de quem será fiscalizado.

Transparência ajuda quando permite investigar e agir. Publicar milhares de páginas incompreensíveis, sem acesso a evidências ou possibilidade de correção, pode produzir visibilidade sem responsabilidade.

O direito de continuar escolhendo

Existe uma dimensão da autonomia que a discussão sobre inovação frequentemente deixa para depois: a possibilidade de viver sem determinado sistema.

Se estudar, trabalhar ou acessar serviços passa a depender de uma ferramenta, abandonar o produto deixa de ser uma resposta suficiente. Uma pessoa pode estar insatisfeita e permanecer porque a alternativa custa seu emprego, sua formação ou seu acesso a direitos. Por isso, avaliar uma implantação também exige perguntar quais opções continuarão disponíveis. Alternativas viáveis, portabilidade e preservação de competências humanas ajudam a impedir que conveniência se transforme em dependência irreversível.

Nenhum desses mecanismos oferece uma solução definitiva. Seu valor está em manter decisões abertas à correção, inclusive quando os sistemas mudam e seus efeitos se tornam mais claros.

Muitas organizações deveriam poder construir inteligência artificial. O alcance de seu poder, porém, precisa corresponder a obrigações perante aqueles que serão afetados. O futuro pode ser decidido aos poucos, por contratos, padrões técnicos e escolhas comerciais que se acumulam até parecerem inevitáveis. Preservar a participação pública exige perceber esse processo enquanto ainda existem alternativas.

Construir inteligência deveria ampliar a capacidade humana de compreender e escolher.

Uma sociedade que ganha ferramentas poderosas enquanto perde condições de decidir sobre elas precisa perguntar quem, afinal, está se tornando mais capaz.