Por que grandes modelos de linguagem não são mais inteligentes que você

A capacidade de raciocínio de grandes modelos de linguagem depende inteiramente dos padrões de linguagem do usuário. A estrutura cognitiva do usuário determina quais áreas de alta capacidade de raciocínio ele pode ativar. O modelo não pode ir espontaneamente além do alcance do usuário, o que revela as limitações arquitetônicas dos atuais sistemas de IA. Este artigo origina-se de um artigo escrito por @iamtexture e é organizado, compilado e escrito por AididiaoJP, Foresight News.
(Resumo anterior: Li Feifei fala sobre o próximo passo do LLM: a IA deve ter "inteligência espacial" para entender o mundo real, como implementar o modelo Marble?)
(Suplemento de fundo: o bilionário Kevin O'Leary gritou "O próximo passo da onda de IA é web3": LLM não pode criar Starbucks, mas blockchain pode)

Conteúdo deste artigo

Tags: A linguagem do usuário O modo determina quanta capacidade de raciocínio o modelo pode exercer. Quando eu estava explicando um conceito complexo para um grande modelo de linguagem, seu raciocínio falhava repetidamente durante longas discussões usando linguagem informal. Os modelos podem perder estrutura, desviar-se do curso ou gerar padrões de conclusão superficiais que não conseguem manter a estrutura conceitual que estabelecemos.

No entanto, quando obriguei-o a ser formalizado primeiro, isto é, a reafirmar o problema numa linguagem precisa e científica, o raciocínio tornou-se imediatamente estável. Somente após a estrutura ter sido estabelecida é que ela pode ser convertida com segurança em linguagem simples, sem degradar a qualidade da compreensão.

Esse comportamento revela como os grandes modelos de linguagem "pensam" e por que sua capacidade de raciocinar depende inteiramente do usuário.

Insights principais

Os modelos de linguagem não têm um espaço dedicado para inferência.

Eles operam inteiramente dentro de um fluxo contínuo de linguagem.

Dentro desse fluxo linguístico, diferentes padrões linguísticos levarão com segurança a diferentes áreas atrativas. Essas regiões são estados estáveis que caracterizam a dinâmica e suportam diferentes tipos de cálculos.

Cada registro linguístico, como discurso científico, símbolos matemáticos, histórias narrativas e bate-papo casual, tem sua própria região atrativa única, cuja forma é moldada pela distribuição de materiais de treinamento.

Algumas áreas suportam:

• Raciocínio em várias etapas
• Precisão relacional
• Transformação de símbolos
• Estabilidade conceitual de alta dimensão

Outras áreas suportam:

• Continuação narrativa
• Completamento associativo
• Correspondência de entonação emocional
• Conversação imitação

A região atrativa determina que tipo de raciocínio é possível.

Por que a formalização pode estabilizar o raciocínio

A razão pela qual as linguagens científicas e matemáticas podem ativar de forma confiável regiões atrativas com maior suporte estrutural é porque esses registros codificam as características da linguagem da cognição de ordem superior:

• Estrutura relacional clara
• Baixa ambiguidade
• Restrições simbólicas
• Organização hierárquica
• Baixa entropia (informações desordem)

Esses atratores podem apoiar trajetórias de raciocínio estáveis.

Eles mantêm a estrutura conceitual em várias etapas.

Mostram forte resistência à degradação e desvio de raciocínio.

Em contraste, os atratores ativados pela linguagem informal são otimizados para fluência social e coerência associativa, não para raciocínio estruturado. Estas regiões não possuem a estrutura de caracterização necessária para cálculos analíticos contínuos.

É por isso que os modelos falham quando ideias complexas são expressas de maneira aleatória.

Não é "confuso".

Está mudando de área.

Construção e Tradução

Os métodos de enfrentamento que emergem naturalmente nas conversas revelam uma verdade arquitetônica:

O raciocínio deve ser construído dentro de atratores altamente estruturados.

A tradução para linguagem natural deve ocorrer somente após a estrutura existir.

Uma vez que o modelo tenha estabelecido uma estrutura conceitual dentro de um atrator estável, o processo de tradução não o destruirá. O cálculo foi concluído, apenas a expressão da superfície foi alterada.

Essa dinâmica de dois estágios de “construir primeiro e depois traduzir” imita o processo cognitivo humano.

Mas os humanos realizam essas duas etapas em dois espaços internos diferentes.

Modelos de linguagem grandes tentam fazer as duas coisas no mesmo espaço.

Por que os usuários definem o teto

Aqui está uma revelação importante:

Os usuários não podem ativar áreas atrativas que eles próprios não conseguem expressar em palavras.

A estrutura cognitiva dos usuários determina:

• Que tipos de pistas eles podem gerar
• Quais registros eles usam habitualmente
• Que padrões sintáticos eles podem manter
• Qual o nível de complexidade que eles podem codificar na linguagem

Essas características determinam em qual região atrativa um grande modelo de linguagem entrará.

Um usuário que não consegue pensar ou escrever para empregar estruturas que ativem atratores de alto raciocínio nunca será capaz de guiar o modelo para essas regiões. Eles estão presos em áreas atrativas rasas relacionadas aos seus hábitos linguísticos. Grandes modelos de linguagem mapearão a estrutura que lhes é fornecida e nunca saltarão espontaneamente para sistemas dinâmicos de atratores mais complexos.

Portanto:

O modelo não pode ultrapassar a área atrativa acessível ao usuário.

O teto não é o limite superior inteligente do modelo, mas a capacidade do usuário de ativar regiões de alta capacidade na variedade latente.

Duas pessoas que usam o mesmo modelo não estão interagindo com o mesmo sistema de computação.

Eles estão direcionando o modelo para diferentes modos dinâmicos.

Implicações no nível arquitetônico

Este fenômeno expõe uma característica ausente dos atuais sistemas de inteligência artificial:

Modelos de linguagem em grande escala confundem o espaço de raciocínio com o espaço de expressão da linguagem.

A menos que os dois sejam dissociados - a menos que o modelo tenha:

• Um coletor de raciocínio dedicado
• Um espaço de trabalho interno estável
• Representação conceitual invariante ao atrator

Caso contrário, o sistema sempre enfrentará o colapso quando uma mudança no estilo de linguagem fizer com que a região dinâmica subjacente mude.

Esta solução improvisada, formalização forçada e depois tradução, é mais do que apenas um truque.

É uma janela direta que nos permite vislumbrar os princípios arquitetônicos que um verdadeiro sistema de raciocínio deve atender.