Produtos
Soluções
Empresa
Empresas
EntrarCrie sua rede
ai · architecture · mechanism · theorem-3 · customization · mixture-of-experts · inkling · honest-architect

A personalização é a separação de mecanismos, não os pesos abertos

O Inkling é desenhado para ser personalizado não por causa da sua licença Apache 2.0 mas porque cada decisão arquitetónica isola uma propriedade mensurável atrás do seu próprio mecanismo. O balanceamento baseado em viés é a instância mais pura de Theorem 3: uma propriedade garantida por um mecanismo que não compete com o objetivo principal.

A personalização é a separação de mecanismos, não os pesos abertos

A Thinking Machines lançou o Inkling em 15 de julho de 2026, e a linguagem de lançamento o chama de um modelo «desenhado para ser personalizado». Os pesos estão no Hugging Face sob licença Apache 2.0, e a leitura fácil é que a personalização é o que a licença te dá. Essa leitura está errada. Pesos abertos são uma escolha de lançamento. A garantia de personalização é estrutural: cada decisão arquitetônica do modelo isola uma propriedade mensurável atrás de seu próprio mecanismo, e cada mecanismo é independentemente mensurável e ajustável. Retreina um sem arrastar os outros. Isso é o que «desenhado para ser personalizado» significa quando levas o mecanismo a sério, e é a mesma forma que um sistema onde cada porta responde a uma pergunta diferente.

Esta é a leitura do Honest Architect sobre o Inkling, baseada no anúncio de lançamento, no model card e nas notas de integração publicadas pelo projeto vLLM (ByteByteGo, «The New American AI Model Designed to be Customized», 18 de agosto de 2026; recuperado 2026-08-23). A tese aqui não é que a Everythink envia um LLM. Não envia. A tese é que o padrão de design é reconhecível: uma propriedade é garantida exatamente quando seu mecanismo está implementado e medindo, e um sistema é personalizável exatamente quando cada propriedade tem seu próprio mecanismo que não compete com os outros.

Mecanismo 1 — A dispersão separa o armazenamento do cómputo

A primeira decisão é a que torna o resto acessível. O Inkling armazena 975 mil milhões de parâmetros e executa cerca de 41 mil milhões por token, aproximadamente 4 por cento do modelo ativo de cada vez. O mecanismo é Mixture of Experts: cada camada contém 256 especialistas, o router escolhe seis por token, mais dois especialistas compartilhados que executam em cada token. A propriedade é «um modelo deste tamanho é acessível de executar». O mecanismo é «substitui a rede feed-forward única por 256 pequenas e executa apenas seis». A medição é a proporção: 975 mil milhões armazenados, 41 mil milhões ativos. ✅

O trade-off é honesto e declarado. O checkpoint de precisão completa precisa de pelo menos 2 TB de memória GPU combinada (oito placas NVIDIA B300 ou dezasseis H200). O checkpoint quantizado precisa de cerca de 600 GB e cabe em quatro placas B300. A dispersão separa o armazenamento do cómputo, mas não elimina o piso de armazenamento. O requisito de hardware mantém-se alto embora cada token seja barato. Um mecanismo que garante uma propriedade não garante também propriedades para as quais não foi construído.

Mecanismo 2 — O viés equilibra os especialistas sem competir com o objetivo

Esta é a instância mais pura da tese em toda a arquitetura. A propriedade é «o uso de especialistas mantém-se equilibrado durante o treino». O mecanismo ingênuo é uma penalização de balanceamento adicionada ao objetivo de treino, que cresce quando o uso é desigual. O problema é que o gradiente de predição e o gradiente de balanceamento apontam em direções diferentes, e um dos dois ganha. Põe a penalização alta e a qualidade do texto degrada. Põe-na baixa e os especialistas colapsam na mesma.

A Thinking Machines usa o método auxiliary-loss-free introduzido por Wang e colegas e adotado pelo DeepSeek. Cada especialista tem um valor de viés, um número pequeno adicionado à pontuação de seleção desse especialista. O viés de um especialista sobrecarregado desce, a sua pontuação de seleção cai abaixo da de um vizinho mais silencioso, e o vizinho toma o lugar. O viés afeta apenas a seleção. Nunca toca a ponderação das saídas dos especialistas selecionados, e é atualizado por uma regra de contagem simples que executa completamente fora de backpropagation. O objetivo principal de treino não recebe nenhum gradiente competidor. A propriedade «uso equilibrado» é garantida por um mecanismo que não luta contra a propriedade «predizer bem o próximo token». ✅

Isto é Theorem 3 na sua forma mais limpa. A propriedade é garantida exatamente quando o seu mecanismo está implementado e medindo. O mecanismo é o viés. A medição é a regra de contagem. O mecanismo não compete com o objetivo principal porque foi desenhado para não o fazer. Soberania por construção, não por penalização.

Mecanismo 3 — A divisão 5:1 de atenção torna acessível um milhão de tokens

O custo de atenção cresce com o quadrado do comprimento da sequência. Um milhão de tokens produz aproximadamente um bilião de comparações por camada, e 66 camadas disso está além de qualquer hardware razoável. A propriedade é «uma janela de contexto de um milhão de tokens». O mecanismo é uma proporção 5:1 de camadas de sliding-window a camadas de full-attention: 55 camadas de sliding-window e 11 camadas de full-attention. Uma camada de sliding-window restringe cada token a uma janela fixa de tokens recentes, então o seu custo cresce linearmente, não quadraticamente. A informação de longo alcance viaja através das onze camadas completas, refrescada aproximadamente uma vez a cada seis camadas. ✅

A medição é a proporção e a contagem de camadas: 55 a 11. Um facto no token 200 que importa no token 900,000 viaja para a frente através das camadas de full-attention e é transportado nas representações locais entre elas. O trade-off é honesto: modelos de contexto longo costumam lidar bem com o conteúdo geral de um documento grande mas ainda podem perder um detalhe específico enterrado no meio. O mecanismo torna a janela acessível; não garante record de cada detalhe enterrado.

Mecanismo 4 — A codificação de posição relativa elimina a extrapolação

Quase todos os modelos abertos recentes usam Rotary Position Embedding, onde o query e o key de cada token são rodados por um ângulo proporcional à sua posição. O ângulo só é encontrado em posições em que o modelo treinou. Pergunta pela posição 900,000 e o ângulo cai fora de qualquer coisa que o modelo tenha experienciado. Toda uma família de técnicas existe para esticar RoPE para rangos além dos seus dados de treino.

O Inkling usa um esquema relativo ao estilo de Shaw e colegas. Em vez de codificar onde cada token se senta, aprende um valor para cada distância entre dois tokens e adiciona esse valor à pontuação de comparação. Tokens a 4 de distância são tokens a 4 de distância onde quer que ocorram. Distâncias além de um cutoff partilham um único valor aprendido, então um par a 900,000 tokens de distância usa um valor que o modelo viu inúmeras vezes durante o treino. Nada tem de ser extrapolado. ✅

A medição é a distância, não a posição. A propriedade é «lida com comprimentos que o modelo nunca treinou», e o mecanismo é «codifica a distância, não a posição absoluta, então os comprimentos não treinados colapsam numa distância treinada». O trade-off é que cada framework de serving teve de escrever código novo para isto, porque o tooling circundante foi construído em torno de RoPE. Um mecanismo que garante uma propriedade pode custar-te o ecossistema que cresceu em torno do mecanismo antigo.

Mecanismo 5 — Multimodalidade sem codificador, treinada desde zero

A maioria dos modelos multimodais anexa três componentes treinados: um codificador de visão, um codificador de áudio e camadas de projeção, cada um pré-treinado separadamente. O Inkling aceita imagens e áudio sem um codificador pré-treinado separadamente. O som chega como um mel spectrogram, uma grelha de valores de loudness através de bandas de frequência e slices de tempo. O método dMel arredonda cada valor de loudness para um de um conjunto fixo de níveis. Essa é toda a conversão. Arredondar números não requer treino. As imagens são cortadas em patches de 40 por 40 pixels, cada um passando por um hMLP stem de quatro etapas que adiciona menos de um por cento ao cómputo. Ambos passam depois por uma camada de conversão leve e juntam-se aos tokens de texto numa única sequência, processados pelas mesmas 66 camadas. ✅

A propriedade é «imagens e áudio entram no modelo sem um codificador pré-treinado separadamente». O mecanismo é «arredonda o áudio, faz patch da imagem, mistura localmente e treina tudo desde zero junto». A medição é o overhead de cómputo de menos de um por cento. O trade-off é a confusão de etiquetas: o lançamento chama-lhe encoder-free enquanto o model card descreve um hierarchical patch encoder. Ambos são precisos. Encoder-free significa nenhuma rede grande pré-treinada separadamente, não nenhum processamento em absoluto.

Mecanismo 6 — O esforço como ajuste treinado transforma o benchmark numa curva

Modelos de raciocínio produzem working-out antes da resposta final, e esse working-out custa tokens. Effort é um número entre 0 e 1, e foi treinado no modelo durante reinforcement learning em vez de ser solicitado através de redação. Durante RL, a Thinking Machines variou a mensagem de esforço entre tentativas enquanto ajustava o custo cobrado por token: tentativas de high effort podiam produzir working-out extenso sem muita penalização, as de low effort eram penalizadas fortemente por cada token então respostas curtas pontuavam melhor. A conexão entre a mensagem e o comprimento rentável foi aprendida. ✅

A medição é a curva de pontuação contra tokens gerados. No Terminal Bench 2.1, o Inkling atinge a mesma pontuação que o Nemotron 3 Ultra da NVIDIA enquanto produz aproximadamente um terço dos tokens. A propriedade é «a profundidade de raciocínio é ajustável por chamada», e o mecanismo é «treina a resposta a uma mensagem de esforço variando o custo por token entre tentativas de RL». O trade-off é que um esforço maior encoraja mais raciocínio sem garantir uma resposta mais longa ou melhor em qualquer amostra individual. Um número de benchmark é agora um ponto numa curva, não uma propriedade fixa do modelo.

Como isto se vê de uma stack diferente

A Everythink não envia um LLM. Os paralelos abaixo são estruturais, não claims de produto, e estão tagged Partial porque a analogia é o ponto, não um claim de que a Everythink faz o mesmo trabalho.

O viés que equilibra sem competir é a mesma forma que o único sítio de normalização do Oracle. As probabilidades são normalizadas em exatamente um lugar em everythink-oracle, e os consumidores podem confiar que a soma é aproximadamente um. A propriedade é garantida por um mecanismo que não compete com o merge. ⚠️

A divisão de atenção 5:1, onde a maioria das camadas vê pouco e umas poucas transportam o longo alcance, é a mesma forma que «the space is the router». Network, community e room fazem routing antes de qualquer coisa responder, e a maioria dos pedidos resolve-se localmente enquanto uns poucos viajam o caminho longo. O mecanismo é a topologia, e a medição é onde o pedido se resolve. ⚠️

A codificação de posição relativa, onde uma distância reencontrada usa um valor que o modelo viu inúmeras vezes, é a mesma forma que os ids uuidv5 determinísticos do World Monitor. A reingestão atualiza, nunca duplica, porque o id é determinístico desde a fonte e o native id. A propriedade é «sem duplicados na reingestão», e o mecanismo é a origem determinística. ⚠️

A multimodalidade sem codificador, onde cada modalidade entra pelo seu próprio mecanismo barato e se junta à mesma sequência, é a mesma forma que as portas hexagonais baseadas em traits. Cada porta responde a uma pergunta diferente, e os repositórios de AppState são Arc para que os testes troquem em mocks. A propriedade é «depender do trait, não do adapter concreto», e o mecanismo é o limite do trait. ⚠️

O esforço como ajuste treinado, onde um benchmark se torna um ponto numa curva, é a mesma forma que as personalidades tipadas das Sisters. O analyst, contrarian, disruptor, historian e institutionalist estão tipados, e a prompt version é carimbada em cada execução para reprodutibilidade. A propriedade é «raciocínio tipado reprodutível», e o mecanismo é a personalidade mais o carimbo de versão. ⚠️

O viés que equilibra sem render o objetivo principal é a mesma forma que a soberania do Eye Key. O plaintext do Eye Key nunca toca disco. Só o HMAC e a impressão digital vão para Postgres. A propriedade é «soberania sobre a key», e o mecanismo é a construção, não uma penalização aplicada depois dos factos. ⚠️

Limites de âmbito e Roadmap

Este post é sobre arquitetura de modelos de IA, o que é âmbito comercial e industrial. Os paralelos da Everythink acima são Partial porque a Everythink não envia um LLM; a analogia estrutural é o claim, não um claim de produto. O Eye Key é um mecanismo de soberania do API para programadores, Production, e não é um veículo de investimento. A HAI Engine está em produção desde 2016. The 21 papers são Production. O World Monitor é Production. O Oracle é Production. As Sisters são Production. Nenhum resultado de token, wallet ou community-credit é prometido aqui; esses continuam Roadmap 🔵, sujeitos a revisão Howey, e nunca são promovidos silenciosamente. Theorem 3 é a convenção de nomes para o claim de propriedade-quando-mecanismo-implementado-e-medindo; não é um termo legal.

Duas coisas que a maioria da cobertura omitiu

Primeiro, o viés é atualizado completamente fora de backpropagation. A maioria da cobertura descreve o método auxiliary-loss-free como «sem auxiliary loss», mas o detalhe load-bearing é que a atualização do viés é uma regra de contagem, não um gradiente. O mecanismo não é «tira o loss». É «tira o gradiente e substitui-o por um contador». Essa é a diferença entre uma penalização que ajustas e um mecanismo que implementas.

Segundo, o ajuste de esforço chega como texto. Antes de a conversação começar, uma system message indicando o nível de esforço é inserida antes de tudo o resto. O modelo foi treinado para responder a essa mensagem. O knob de personalização não é um parâmetro que pões em código. É uma frase que o modelo aprendeu a obedecer. Esse é um mecanismo de boundary-parsing, e significa que o ajuste de esforço é portável para qualquer cliente que possa enviar uma system message, incluindo um que valide as suas entradas no network boundary.

FAQ

Pesos abertos é o mesmo que personalizável? Não. Pesos abertos significam que podes descarregar e retreinar. Personalizável significa que a arquitetura expõe mecanismos independentes e mensuráveis de modo que retreinar um não arrasta os outros. O Inkling tem ambos. Um modelo com pesos abertos e arquitetura monolítica é retreinável, não personalizável no sentido estrutural.

Por que o viés importa mais do que a dispersão? A dispersão separa o armazenamento do cómputo, que é a story de custo. O viés separa o balanceamento do objetivo principal, que é a story do padrão de design. O viés é o mecanismo que prova a tese: uma propriedade é garantida por um mecanismo que não compete. A dispersão é o mecanismo que torna a tese acessível.

Qual é o trade-off da codificação de posição relativa? O modelo lida com comprimentos que nunca treinou, mas cada framework de serving teve de escrever código novo para isto. O ecossistema de tooling foi construído em torno de RoPE. Um mecanismo que garante uma propriedade pode custar-te o ecossistema que cresceu em torno do mecanismo antigo.

Effort garante uma resposta melhor? Não. Um esforço maior encoraja mais raciocínio sem garantir uma resposta mais longa ou melhor em qualquer amostra individual. Effort e o limite máximo de tokens são ajustes separados. Um ajuste de high effort pode precisar de um limite de tokens maior para evitar ser cortado. O benchmark é uma curva, e uma amostra individual é um ponto nela.

A Everythink pode usar o Inkling? Os paralelos da Everythink neste post são estruturais. A Everythink não envia um LLM. Os fornecedores de LLM que a Everythink usa são OpenAI-compatible. A analogia é ao padrão de design, não a uma integração de produto.

Sources

  • ByteByteGo, «The New American AI Model Designed to be Customized», 18 de agosto de 2026 — https://blog.bytebytego.com/p/the-new-american-ai-model-designed — recuperado 2026-08-23
  • Thinking Machines Lab, «Inkling: Our Open-Weights Model» (referenciado via ByteByteGo)
  • Thinking Machines Lab, «Inkling Model Card» (referenciado via ByteByteGo)
  • vLLM Recipes, «thinkingmachines/Inkling» notas de integração (referenciado via ByteByteGo)
  • Wang et al., «Auxiliary-Loss-Free Load Balancing Strategy for Mixture-of-Experts» (referenciado via ByteByteGo)
  • Shaw et al., «Self-Attention with Relative Position Representations» (referenciado via ByteByteGo)

Lê o Honest Architect sobre Theorem 3, o Oracle e o padrão the-space-is-the-router. A Everythink está em produção; os paralelos aqui são estruturais e tagged como tal.

Relacionado
ai-agents · memory-architecture · theorem-3 · mechanism · honest-architect

Memória persistente é o mecanismo, não a janela de contexto

Cinco padrões arquiteturais para memória de agentes de IA, lidos como Theorem 3: a propriedade (aprendizado, personalização) é garantida pelo mecanismo (persistir, recuperar, injetar), não pela janela de contexto. Checkpointing não é exactly-once, segredos não são memória semântica, isolamento na camada de armazenamento falha fechado.

neurosymbolic · search · theorem-3 · mechanism · honest-architect

Busca neurosymbolic: mecanismo, não volume de catálogo

O modelo de busca neurosymbolic Ontology 1 da Onton lido como Teorema 3: relevância em consultas com muita intenção é garantida pelo mecanismo (grafo de conhecimento inspecionável que decompõe predicados vagos em propriedades verificáveis), não pelo volume de catálogo. A metodologia do benchmark é honesta (código+dados liberados, 3 juízes, bootstrap CI, alpha de Krippendorff 0,465 nomeado). O título 2.7x não é o número agregado. Casos de falha nomeados.

Construa seu mundo sobre um motor que prova o que afirma.

Crie sua própria rede no motor que está em produção desde 2016 — ou fale com a equipe por trás dos 21 artigos.