Já viramos escravos da IA?

Vamos ser francos, a Inteligência Artificial não manda em ninguém. Quem manda é o dono da IA. Porque toda IA tem dono. A gente fica papeando com uma IA, achando que está consultando alguém que entende de determinado assunto, mas as respostas são organizadas por uma engrenagem cheia de chips, fios e programas. O troço responde aquilo que armazenaram nele e faz os cruzamentos de respostas conforme o “treinamento” que recebeu, bem ou mal, de um humano. Como em qualquer adestramento, se o treinador ou o método não tiver qualidade, o resultado idem.

Pior ainda se não houver boa fé no processo de “aprendizado” da máquina em questão. E a culpa não é do chip nem da CPU, mas, sim, da pessoa em algum ponto dessa estrutura toda. O dono da IA e seus empregados vão projetar equipamentos e softwares para armazenarem dados, cruzarem informações, responderem perguntas, produzirem cenários e aprenderem com as próprias respostas. Para que tudo dê certo e as respostas sejam confiáveis o projeto tem que ser bom, o processo de aprendizado da máquina tem que ser consistente e o propósito da resposta tem que ser, digamos, sincero. Essas premissas servem para qualquer mercado de IA, desde o ensino primário de geografia até o planejamento de sistemas de Defesa, passando pelo reconhecimento facial de suspeitos ou pelas simulações de risco e retorno nos mercados.

Opa! Mas, quem gerencia todo esse sistema complicado de obtenção de dados (inclusive pessoais), produção de análises e entrega de respostas? Se for apenas o dono da IA, dificilmente as respostas atenderão aos interesses de quem perguntou, né? É preciso haver instâncias independentes, que façam a regulamentação, a auditagem e o controle das práticas de IA, podendo tomar providências regulatórias. É o que nos aponta a Oficial da ONU para o Sudeste Asiático, Daniela Eilberg: “Tem aspectos legislativos e reguladores, mas é preciso incorporar um ‘código de conduta’ que oriente os comportamentos e os modelos em IA – práticas de auditabilidade e compliance específicas para as fases de design, operação e uso da IA”. Já pensou se não houvesse uma autoridade que obriga automóveis a terem freios?

Estamos muito longe de sermos controlados por uma Matrix ou dominados por algum Exterminador do Futuro, como acontece nos filmes de ficção. Os erros (e as más condutas) ainda ocorrem no nível da operação humana da IA. Outro alerta recente vem de Alexandre Ribas, da prestigiada Falconi Consultoria: ”Não são os robôs que conspiram contra as organizações, mas, sim, a complacência com dados mal governados que compromete sua estratégia… Decisões estratégicas são tomadas com base em dados pouco estruturados, métricas conflitantes e interpretações enviesadas” (Valor, 17/02/26).

Eilberg do UNODC está preocupada com a capacidade do Estado e da sociedade de manter o controle sobre a propriedade e o uso dos dados, cuidando inclusive do impacto da IA sobre as diferentes formas de desigualdade social. Ribas da Falconi, por sua vez, chama a atenção para a confiabilidade das análises na estratégia dos negócios desde o marketing até o investimento. Contudo, os dois pontos de vista convergem no que se refere à questão fundamental dos avanços da IA: a governança. Quem está no comando, afinal? São os garotos do Vale do Silício? É a velha guarda do Pentágono e do Kremlin? São os governos dos países ricos? É o crime organizado? Seja como for, pode crer, nosso algoz não o computador tirano de Stanley Kubrick. Continua valendo uma máxima mais antiga – “O homem é o lobo do homem” (Thomas Hobbes – séc XVII).

Felipe Sampaio: Cofundador do Centro Soberania e Clima; sócio da Terra Consultoria; atua com grandes empresas, organismos multilaterais e terceiro setor; dirigiu a área de estatísticas no Ministério da Justiça; foi Secretário-Executivo substituto no Ministério da Micro e Pequena Empresa; chefiou a assessoria especial do Ministro da Defesa; foi empreendedor em mineração.