Lula e a Inteligência Artificial
#Lula defende #InteligênciaArtificial genuinamente #nacional, mas #Brasil segue #entregando #dados para aperfeiçoamento de IAs de empresas norte-americanas
#SérgioAmadeu
Opera Mundi https://operamundi.uol.com.br/opiniao/lula-e-a-inteligencia-artificial/
São Paulo
17 de março de 2024,
às 13:45
Poucas pessoas têm uma #intuição tão aguçada e profunda sobre as questões cruciais do seu tempo como o presidente #Lula. Em uma recente reunião do Conselho Nacional de #Ciência e #Tecnologia, o presidente brasileiro declarou de modo contundente querer “uma #IA (Inteligência Artificial) genuinamente #guarani” ou “ #yanomami ”. Cobrou dos pesquisadores que fizessem algo “nosso”.
É impressionante que Lula tenha dito uma frase tão certeira nesse momento crucial do desenvolvimento das tecnologias chamadas de “inteligentes”. Com sua sentença, Lula deixou evidente que a IA não é neutra, que ela porta as cosmovisões de uma #sociedade, que é desenvolvida conforme os traços culturais de uma #população. A IA atual é concebida e elaborada a partir de um universo cosmotécnico que não é o nosso, nem o dos yanomamis. O filósofo honconguês Yuk Hui parece ter conversado antes com Lula. Mas, sei que não.
Lula também reforçou o #pensamento de várias pesquisadoras, como a #matemática Cathy O’Neil, que nos alerta que as tecnologias digitais, apesar de sua reputação de #imparcialidade, refletem #objetivos político-econômicos e ideológicos. O’Neil escreveu que “os modelos (inclusive de IA) são #opiniões embutidas em matemática”. Cheguei a considerar que o presidente poderia ter lido e se inspirado na ideia de que as tecnologias informacionais expressam aquilo que Richard Barbrook e Andy Cameron nomearam como a “Ideologia Californiana” no título de seu livro de 1995.
O presidente também acertou em cheio ao cobrar dos cientistas brasileiros uma abordagem original da IA. Talvez alguém tenha alertado Lula de que aquilo que o mercado chama de “inteligência artificial” são na realidade sistemas algoritmos que extraem padrões de variadas e gigantescas base de dados para criar modelos que serão acessados a partir de interfaces digitais. A IA realmente existente é a dos sistemas automatizados que utilizam muitos dados e cada vez mais poder computacional, ou seja, infraestruturas com milhares de servidores. Por isso, Lula esboçou uma reclamação ao falar que temos tanta gente inteligente no Brasil, como se quisesse advertir alguns desavisados de que a IA realmente existente está muito longe de superar nossa inteligência orgânica.
Há um texto muito importante para mostrar que aquilo que naturalizamos nas tecnologias, em geral, são perspectivas e ideários que guardam cosmovisões. Um grupo internacional de #tecnólogos #indígenas, em 2021, utilizando a metodologia chamada design centrado no território – criada pelos povos indígenas da #Austrália – buscou criar protocolos de um sistema de parentesco para desenvolver uma estrutura algorítmica com base na chamada #computação #genética. Os algoritmos criados sob a orientação dos anciões receberam uma elevada pontuação em #diversidade e #complexidade, mas fracassavam em velocidade e eficiência. Esse relato presente no livro Out of the Black Box: Indigenous Protocols for AI (Saindo da caixa preta: protocolos indígenas para a AI, em tradução literal) evidencia que “fazer mais com menos” nem sempre é algo prioritário para uma #cultura. A velocidade algorítmica não interessava aos aborígenes. Interessa ao #capital. O acúmulo de dados é vital para os paradigmas dominantes na IA realmente existente.
Não é por menos que os Estados Unidos detém mais da metade dos #Data Centers do planeta. O insumo essencial da IA nas abordagens atualmente dominantes são os dados. Mas, eles não são como o petróleo, naturais; não brotam do chão. Dados são criados por #humanos, #empresas, #instituições, #indivíduos ou por #máquinas inventadas por humanos. As grandes empresas de tecnologia, as Big Techs, querem que acreditemos na sua #ideologia sobre dados para continuar a extraí-los como algo disponível na natureza. Por isso, mais uma vez Lula acertou ao pedir que os cientistas daqui façam algo. Para isso, teremos que estancar a coleta de dados absurda que é feita em nosso país para alimentar e treinar os sistemas algoritmos dos Estados Unidos.
O que Lula, apesar de sua intuição, não tratou, foi da colossal transferência de dados públicos que fazemos para as Big Techs. Também não se pronunciou sobre o fato de que o seu governo continua treinando os algoritmos da #IBM com dados dos servidores públicos, civis e militares, quando esses acessam o serviço de chat do #SouGov. Essa derrama de dados começou com Bolsonaro e continua no atual governo. Lula certamente não leu os Termos de Uso do SouGov. Nele, está justificado o envio de dados dos brasileiros para os Estados Unidos: “… tal armazenamento tem o objetivo de prover o aprendizado de máquina da ferramenta de chat denominada ‘Watson’, onde as interações dos usuários no chat são utilizadas para ‘aprendizado’ pelo computador que envia as respostas automáticas quando o usuário está sendo atendido por meio do chat do serviço SouGov.”
Tão grave quanto a entrega de dados dos servidores públicos brasileiros para um sistema que opera em solo norte-americano, longe da nossa jurisdição, é o fato de que mais de 70% das universidades brasileiras entregaram seus e-mails e listas de discussão, bem como seus repositórios para o armazenamento de arquivos para o Google e para a Microsoft. Lula poderia sugerir que o #MEC fizesse um consórcio com as universidades para construir data centers que mantenham nossos dados sobre nossa governança, servindo ao treinamento de sistemas algorítmicos desenvolvidos pela nossa inteligência coletiva. Seria um primeiro grande passo para proteger os nossos dados e desenvolver nossa IA.
(*) Sérgio Amadeu da Silveira é sociólogo e Doutor em Ciência Política pela Universidade de São Paulo. É professor-adjunto da Universidade Federal do ABC (UFABC). Foi presidente do Instituto Nacional de Tecnologia da Informação e membro do Comitê Gestor da Internet no Brasil.
