"Do ponto de vista da alocação global de recursos, ter todo mundo acumulando DRAM escassa em seus próprios computadores, ociosos na maior parte do tempo, é um arranjo 'bastante terrível'; a memória deveria estar concentrada em data centers na nuvem."
Ele realmente foi lá.
Nesta quinta-feira, em uma entrevista ao canal do YouTube Cheeky Pint, o CEO da OpenAI, Sam Altman, bebeu cerveja o tempo todo, conversando em um clima descontraído sobre a inferência local de grandes modelos de IA e o problema resultante de memória insuficiente nos computadores domésticos, e inadvertidamente soltou uma bomba.
Como sabemos, o aumento dos preços da memória desencadeado pela atual onda global de IA já fez os preços de PCs e smartphones dispararem, tornando-os inacessíveis para consumidores individuais. Ao mesmo tempo, a expansão de capacidade pelos grandes fabricantes de memória levará um tempo. Justamente quando as empresas de IA de fronteira estão ficando com a maior parte da memória, elas já começaram a discutir se a memória nos computadores pessoais está sendo totalmente utilizada.
Altman mencionou um cenário hipotético em que as pessoas poderiam executar IA local em seus próprios computadores — computadores que talvez já possuam, ou que desejam montar por causa da ascensão da tecnologia de grandes modelos de IA. Ele acha que isso é uma má ideia.
"Do ponto de vista da alocação global de recursos, deixar todo mundo manter a limitada DRAM do mundo ociosa em seus próprios computadores com apenas 5% de utilização é, na verdade, bastante terrível", disse Altman. "Se você quer operar em um ambiente em que a oferta desse recurso é extremamente apertada, então na nuvem você deveria maximizar a utilização dos recursos. Mas, por alguma razão, a intuição de muitas pessoas é exatamente o oposto."
Hoje, o principal negócio da OpenAI é baseado em modelos de código fechado executados em data centers de grande escala, e sua defesa do modelo de negócios de sua empresa gerou um debate em toda a comunidade de IA.
Isso também levantou preocupações entre muitos: no futuro, pode se tornar ainda mais difícil possuirmos nosso próprio hardware ou software, e talvez só possamos considerar alugar agentes e computadores baseados na nuvem.
Embora a memória usada por PCs comuns, smartphones e placas aceleradoras de IA não seja a mesma, sua produção compete por certa capacidade de wafers na cadeia upstream. Altman está discutindo a alocação de recursos globais de DRAM, e quando se trata de quem tem o direito de decidir onde a capacidade de memória é usada, na maioria das vezes é naturalmente o cliente que faz o pedido maior.
Algumas das opiniões de Altman baseiam-se na suposição de que a construção de data centers não vai desacelerar. Ele também assume que a memória usada ininterruptamente para data centers de IA é mais valiosa do que a memória usada para planilhas, navegação na web, jogos ou até mesmo IA local ocasional.
Na verdade, esta entrevista foi muito longa, e Altman também falou sobre a vulnerabilidade do PHP que gerou pânico global nas últimas duas semanas, sandboxing para treinamento de modelos e pesquisa de IA em matemática.
Vamos ver o que ele disse principalmente:
A IA está desencadeando uma onda de vulnerabilidades
Sobre a enorme vulnerabilidade do PHP, o julgamento de Altman é: a capacidade dos grandes modelos de descobrir vulnerabilidades continua melhorando rapidamente, e a superfície de código na internet é extremamente vasta. Quando as pessoas começarem a usar sistematicamente a IA para escanear todo o código, "nos veremos em um mundo onde vulnerabilidades graves superam em muito as expectativas". Ele acredita que apenas corrigir não é suficiente e que as arquiteturas precisam ser reconstruídas — roteadores, sistemas operacionais e camadas de aplicação precisam ser todos redesenhados para um mundo onde "as vulnerabilidades se tornarão cada vez mais inteligentes". Dois anos atrás, "reescrever toda a pilha tecnológica" ainda soava loucura; agora, startups com o objetivo de construir pilhas totalmente novas já surgiram.
Ele raramente ofereceu autocrítica à indústria: "Não acho que tenhamos feito um bom trabalho explicando às pessoas por que todos os potenciais riscos negativos desta tecnologia valem a pena." Ele disse que a narrativa da indústria de IA é um discurso de vendas ruim — prometendo curar o câncer e reduzir custos por um lado, enquanto retrata um futuro de desemprego, perda de controle e necessidade de regulação forte por outro. Ele reiterou que a OpenAI insiste na implantação iterativa e no enfrentamento do excesso de capacidade, porque "alguns quilômetros quadrados de pessoas em São Francisco" não deveriam estar tomando todas as decisões.
Quando questionado se uma "prisão de segurança máxima" poderia ser construída para modelos, Altman deu uma resposta pessimista: sandboxes são eficazes apenas até certo ponto, e o monitoramento (incluindo revisão de cadeia de pensamento e monitoramento de ativação) pode ir mais longe, mas, em última análise, deve haver um alto grau de confiança no alinhamento.Ele perguntou em resposta: ao enfrentar um modelo milhões de vezes mais inteligente que o pesquisador de segurança mais inteligente, capaz de descobrir nova ciência que os humanos ainda não entendem, você realmente ousaria confiar nessa sandbox?
Ele disse explicitamente que odeia o termo "enxames de agentes", porque enxame evoca gafanhotos, e insistiu em chamá-los de equipes de agentes. Ele acredita que a verificação mútua entre equipes corresponde precisamente ao mecanismo de alcançar robustez por meio do pluralismo, e que esta é uma direção de segurança que vale a pena perseguir.
A Explosão de Inteligência e o Custo da Descoberta Científica
Altman traçou uma curva: na era do GPT-4, era difícil gastar efetivamente até US$ 1 de computação em um único problema; a cadeia de pensamento permitiu que os modelos "pensassem muito", e agora podemos executar uma equipe inteira de agentes em paralelo dezenas de milhares de vezes. A lacuna de uso entre usuários comuns e os usuários mais avançados está constantemente se ampliando.
Sobre como a OpenAI aloca computação internamente, ele disse que os funcionários desfrutam de grande liberdade, mas alto consumo de tokens nunca é recompensado: "Estar no topo da tabela de tokens é na verdade um pouco embaraçoso; certamente não é motivo para promoção." Ele usou a prova das equações de Navier-Stokes como exemplo: uma única prova custou cerca de US$ 10 milhões, e durante esse período as coisas "saíram do controle por uma semana", porque na época ninguém sabia nada sobre as leis de escala das equipes de agentes. Mas ele espera que, um ano depois, com modelos e métodos mais inteligentes, isso possa ser refeito com 1/100 do custo.
Ele também raramente mostrou emoção: a situação na época era realmente incrível. No fim de semana em que um certo novo modelo foi lançado internamente, todos lançaram todos os tipos de problemas mais difíceis ao modelo, e ele realmente os resolveu um por um. As pessoas não esperavam de forma alguma que o modelo fosse capaz de fazer essas coisas. Juntos, testemunharam muitos dos problemas de pesquisa científica mais difíceis nas carreiras acadêmicas das pessoas sendo resolvidos um após o outro por este modelo, abrangendo vários campos diferentes, e a cena foi simplesmente surpreendente.
"Por duas noites quase não dormi porque estava tão animado que simplesmente não conseguia dormir. Muitos dos resultados que publicamos depois eram, na verdade, aqueles problemas resolvidos naquela época."
Naquele momento, Altman sentiu-se extremamente animado e feliz, ao mesmo tempo que experimentava uma tristeza inesperada, melancolia e uma sensação de "uma era está chegando ao fim". Não era apenas nostalgia, mas também empatia pelo espírito dos cientistas humanos de "ouvir o Caminho pela manhã e morrer contente à noite". Ele insiste que a humanidade merece acesso ao conhecimento básico, mas a indústria deve uma solução aos praticantes desses campos.
Embora ainda seja cedo demais para falar sobre superinteligência, Altman acredita que um trilhão de IAs ligeiramente sobre-humanas é melhor do que uma com um trilhão de QI:
“Eu preferiria muito mais, intuitivamente, ter um trilhão de IAs de inteligência ligeiramente sobre-humana se juntando à sociedade do que uma IA de um trilhão de QI se juntando à sociedade.”
"Intuitivamente, eu preferiria ter um trilhão de IAs com inteligência ligeiramente sobre-humana ingressando na sociedade do que uma IA com um QI de um trilhão ingressando na sociedade."
Seu argumento é: a forte robustez da sociedade vem de um grande número de membros que se fiscalizam, se equilibram e colaboram entre si; um mundo de "cérebro único" não tem esse tipo de resiliência. Mas ele enfatiza que isso não acontecerá automaticamente e deve ser ativamente promovido.
O ajuste de mercado não funciona mais na era da IA?
Sobre a escassez global de memória, Altman apresentou o arranjo da OpenAI: chips desenvolvidos internamente (melhorando o desempenho de inteligência por watt), data centers construídos internamente, projetos de robótica e um conceito ainda mais ousado, "data centers autorreplicantes", que usariam IA para controlar robôs para operar fábricas de semicondutores, construir turbinas e painéis solares e construir data centers. Ele afirmou que "isso já está ao nosso alcance".
Quando questionado sobre por que "o mercado se autorregula" tem demorado tanto para se concretizar, ele disse que o progresso atual é bastante ruim e deu a lógica comportamental dos fabricantes de memória: essa indústria há muito tempo é um negócio difícil de investir 20 bilhões de dólares em capex para ganhar 1,9 bilhão, e historicamente os gigantes repetidamente chegaram perto da falência devido à construção excessiva de fábricas. Hoje cada empresa pode ganhar cerca de 100 bilhões de dólares em fluxo de caixa livre por ano, mas memórias dolorosas os tornam extremamente conservadores quanto à expansão da produção. Ele, portanto, afirmou que "a mão invisível está falhando agora".
Ele distinguiu dois tipos de capacidades na indústria de chips: para a litografia, "parece que apenas uma empresa no planeta sabe como fazer isso", mas o design de chips (os arquivos finalmente enviados à fábrica) já é um excelente caso de uso para IA.
Falando sobre o nível real de autorrecuperação recursiva (RSI), Altman disse que os modelos agora podem concluir tarefas como "encontrar uma melhoria de 5% na eficiência computacional", mas ninguém ainda sabe como fazer a IA descobrir uma nova arquitetura no nível do transformer; o que falta são modelos mais inteligentes. Ele até previu que a sociedade pode precisar concordar, por um período de tempo, em limitar o QI de um único modelo, "e se o progresso futuro for insuficiente, isso decorrerá dessa decisão, não da capacidade da IA de fazer pesquisa".
Ele expôs sua fé deflacionária: o custo total de propriedade atual em cinco anos para cada GW de computação de IA de ponta é de cerca de 70 bilhões de dólares, e seria ainda melhor se pudesse cair para 20 bilhões, enquanto os modelos ainda precisam melhorar o desempenho em mais 10x a cada ano. O caminho para alcançar isso é tornar a energia mais barata e comprimir as margens acumuladas entre "da areia aos tokens de saída".
Sobre a ansiedade das empresas em relação aos orçamentos de tokens, ele acredita que o problema mais comum hoje não é usar IA demais, mas usá-la de menos.
Como os agentes pessoais devem ser precificados?
Sobre os produtos de agentes pessoais recentemente populares (como o Muse), o julgamento atual de Altman é que "o momento Macintosh ainda não chegou". As pessoas gostam desses produtos, mas ainda não chegaram ao ponto de "não consigo imaginar a vida sem ele". A forma vencedora se assemelhará aos produtos atuais, mas "simplesmente funcionará", de forma confiável e capaz de lidar com tarefas mais complexas. Quanto ao jogo de gato e rato do uso do computador, ele acredita que, em última análise, convergirá ao ponto de "você tem o direito de deixar a IA operar seu próprio computador em seu nome".
Sobre a comercialização de agentes, Altman acredita que as empresas se agarram aos pop-ups de IA e ao HTML dentro de seus próprios produtos, temendo a perda do relacionamento com o cliente, mas os consumidores querem que a IA faça tudo em seu nome dentro de seu principal aplicativo de chat. Ele acredita que o verdadeiro fosso vem da marca, da seleção de produtos e das redes de fulfillment, não do HTML. Ele se ofereceu para dizer que escolhe o Amazon Pay 10 vezes em 10, mesmo a um preço mais alto, e elogiou a rede de fulfillment da Amazon, enquanto admitia que as plataformas parceiras dentro do ChatGPT não são boas o suficiente. Ele também chamou todos os formulários web de "trabalho falso" e comparou o presente à era da App Store naquela época.
É exatamente por isso que, ao projetar a precificação, a OpenAI quase seguiu a AWS ao cotar por tarefa e abandonar completamente a cobrança baseada em tokens, mas encontrou forte oposição dos clientes: "Preciso saber pelo que estou pagando", mesmo que paguem mais, querem a unidade compreensível de tokens.
Conteúdo de referência:
https://www.tomshardware.com/tech-industry/data-centers/openai-ceo-says-its-quite-terrible-for-your-pc-to-have-ram-sam-altman-says-data-centers-offer-better-utilization
https://www.youtube.com/watch?v=iMsUcCYNKqY
Este artigo vem da conta pública do WeChat "Machine Heart" (ID: almosthuman2014), autor: Zenan
