#ibm

waynerad@diasp.org

"For LLMs, IBM's NorthPole chip overcomes the tradeoff between speed and efficiency."

IBM's NorthPole chips have a different architecture from GPUs, more directly inspired by the brain.

This page has funky graph that has energy efficiency (not energy) on the vertical axis and latency on the horizontal axis -- but in reverse order, so the slowest latency is on the right. Both axes are logarithmic. The only reason I can think of why it's done this way is to make "better" up on the vertical axis and to the right on the horizontal axis. Better energy efficiency is good so you want to go up on the vertical axis. Low latency is good so you want to go to the right on the horizontal axis. With this set up they put the NorthStar chip in the upper right corner.

I wonder if there's a possibility of this competing commercially with Nvidia.

For LLMs, IBM's NorthPole chip overcomes the tradeoff between speed and efficiency

#solidstatelife #ai #aihardware #ibm

waynerad@diasp.org

IBM has added an "AI Accelerator" called Spyre to the IBM z/Architecture. The z/Architecture was introduced in 2000 and uses virtual machines to provide backward compatibility to IBM mainframes all the way back to the IBM System/360 introduced in 1964.

So you can add AI to a 1964 mainframe. Well, not a literal 1964 mainframe, but a modern computer running software from a 1964 mainframe through an emulation system. That's still pretty crazy.

New Telum II Processor and IBM Spyre Accelerator: Expanding AI on IBM Z

#solidstatelife #ai #ibm

science_bot@federatica.space

Нейроморфный компьютер Hala Point: мозг совы, по ощущениям — человеческий

Нейроморфные компьютеры мимикрируют под мозг, чтобы преодолеть горизонты эффективности и скорости. Они работают за гранью традиционных вычислений. По крайней мере, так пишут в описаниях на сайте производителей. На деле попытки именно повторить работу мозга в основном проваливаются, а прорывы происходят в тот момент, когда интеллект удаётся искусно подделать. Однако провалы дают столько знаний, что хватает для прорывов. Самый мощный в мире нейроморфный компьютер […]

#компьютерыитии #darpa #ibm #intel #бионика #искусственныйинтеллект #машинноеобучение #мозг #мышление #нейрокомпьютер #нейроморфныеаппаратныесистемы #суперкомпьютеры #сша #lang_ru #ru #22centuryru #22century #хх2век #xx2век #наукаитехника

hudsonlacerda@diasporabr.com.br

Lula e a Inteligência Artificial

#Lula defende #InteligênciaArtificial genuinamente #nacional, mas #Brasil segue #entregando #dados para aperfeiçoamento de IAs de empresas norte-americanas

#SérgioAmadeu

Opera Mundi https://operamundi.uol.com.br/opiniao/lula-e-a-inteligencia-artificial/
São Paulo

17 de março de 2024,
às 13:45

Poucas pessoas têm uma #intuição tão aguçada e profunda sobre as questões cruciais do seu tempo como o presidente #Lula. Em uma recente reunião do Conselho Nacional de #Ciência e #Tecnologia, o presidente brasileiro declarou de modo contundente querer “uma #IA (Inteligência Artificial) genuinamente #guarani” ou “ #yanomami ”. Cobrou dos pesquisadores que fizessem algo “nosso”.

É impressionante que Lula tenha dito uma frase tão certeira nesse momento crucial do desenvolvimento das tecnologias chamadas de “inteligentes”. Com sua sentença, Lula deixou evidente que a IA não é neutra, que ela porta as cosmovisões de uma #sociedade, que é desenvolvida conforme os traços culturais de uma #população. A IA atual é concebida e elaborada a partir de um universo cosmotécnico que não é o nosso, nem o dos yanomamis. O filósofo honconguês Yuk Hui parece ter conversado antes com Lula. Mas, sei que não.

Lula também reforçou o #pensamento de várias pesquisadoras, como a #matemática Cathy O’Neil, que nos alerta que as tecnologias digitais, apesar de sua reputação de #imparcialidade, refletem #objetivos político-econômicos e ideológicos. O’Neil escreveu que “os modelos (inclusive de IA) são #opiniões embutidas em matemática”. Cheguei a considerar que o presidente poderia ter lido e se inspirado na ideia de que as tecnologias informacionais expressam aquilo que Richard Barbrook e Andy Cameron nomearam como a “Ideologia Californiana” no título de seu livro de 1995.

O presidente também acertou em cheio ao cobrar dos cientistas brasileiros uma abordagem original da IA. Talvez alguém tenha alertado Lula de que aquilo que o mercado chama de “inteligência artificial” são na realidade sistemas algoritmos que extraem padrões de variadas e gigantescas base de dados para criar modelos que serão acessados a partir de interfaces digitais. A IA realmente existente é a dos sistemas automatizados que utilizam muitos dados e cada vez mais poder computacional, ou seja, infraestruturas com milhares de servidores. Por isso, Lula esboçou uma reclamação ao falar que temos tanta gente inteligente no Brasil, como se quisesse advertir alguns desavisados de que a IA realmente existente está muito longe de superar nossa inteligência orgânica.

Há um texto muito importante para mostrar que aquilo que naturalizamos nas tecnologias, em geral, são perspectivas e ideários que guardam cosmovisões. Um grupo internacional de #tecnólogos #indígenas, em 2021, utilizando a metodologia chamada design centrado no território – criada pelos povos indígenas da #Austrália – buscou criar protocolos de um sistema de parentesco para desenvolver uma estrutura algorítmica com base na chamada #computação #genética. Os algoritmos criados sob a orientação dos anciões receberam uma elevada pontuação em #diversidade e #complexidade, mas fracassavam em velocidade e eficiência. Esse relato presente no livro Out of the Black Box: Indigenous Protocols for AI (Saindo da caixa preta: protocolos indígenas para a AI, em tradução literal) evidencia que “fazer mais com menos” nem sempre é algo prioritário para uma #cultura. A velocidade algorítmica não interessava aos aborígenes. Interessa ao #capital. O acúmulo de dados é vital para os paradigmas dominantes na IA realmente existente.

Não é por menos que os Estados Unidos detém mais da metade dos #Data Centers do planeta. O insumo essencial da IA nas abordagens atualmente dominantes são os dados. Mas, eles não são como o petróleo, naturais; não brotam do chão. Dados são criados por #humanos, #empresas, #instituições, #indivíduos ou por #máquinas inventadas por humanos. As grandes empresas de tecnologia, as Big Techs, querem que acreditemos na sua #ideologia sobre dados para continuar a extraí-los como algo disponível na natureza. Por isso, mais uma vez Lula acertou ao pedir que os cientistas daqui façam algo. Para isso, teremos que estancar a coleta de dados absurda que é feita em nosso país para alimentar e treinar os sistemas algoritmos dos Estados Unidos.

O que Lula, apesar de sua intuição, não tratou, foi da colossal transferência de dados públicos que fazemos para as Big Techs. Também não se pronunciou sobre o fato de que o seu governo continua treinando os algoritmos da #IBM com dados dos servidores públicos, civis e militares, quando esses acessam o serviço de chat do #SouGov. Essa derrama de dados começou com Bolsonaro e continua no atual governo. Lula certamente não leu os Termos de Uso do SouGov. Nele, está justificado o envio de dados dos brasileiros para os Estados Unidos: “… tal armazenamento tem o objetivo de prover o aprendizado de máquina da ferramenta de chat denominada ‘Watson’, onde as interações dos usuários no chat são utilizadas para ‘aprendizado’ pelo computador que envia as respostas automáticas quando o usuário está sendo atendido por meio do chat do serviço SouGov.”

Tão grave quanto a entrega de dados dos servidores públicos brasileiros para um sistema que opera em solo norte-americano, longe da nossa jurisdição, é o fato de que mais de 70% das universidades brasileiras entregaram seus e-mails e listas de discussão, bem como seus repositórios para o armazenamento de arquivos para o Google e para a Microsoft. Lula poderia sugerir que o #MEC fizesse um consórcio com as universidades para construir data centers que mantenham nossos dados sobre nossa governança, servindo ao treinamento de sistemas algorítmicos desenvolvidos pela nossa inteligência coletiva. Seria um primeiro grande passo para proteger os nossos dados e desenvolver nossa IA.

(*) Sérgio Amadeu da Silveira é sociólogo e Doutor em Ciência Política pela Universidade de São Paulo. É professor-adjunto da Universidade Federal do ABC (UFABC). Foi presidente do Instituto Nacional de Tecnologia da Informação e membro do Comitê Gestor da Internet no Brasil.