O que é um LLM? Modelos de linguagem de grande dimensão explicados de forma simples

Um LLM, ou modelo de linguagem de grande dimensão (large language model), é um tipo de IA treinado com quantidades enormes de texto para conseguir compreender e gerar linguagem. Dado um texto, prevê o que deve vir a seguir, um pequeno bocado de cada vez, e essa capacidade simples revela-se suficiente para responder a perguntas, escrever, resumir, traduzir e escrever código. Os modelos por trás do ChatGPT, do Claude e do Gemini são todos LLMs.

Porque é importante quando constrói com IA

Se constrói com um construtor de apps com IA, está a trabalhar com um LLM de duas formas. Primeiro, um LLM é quem constrói: lê o seu pedido, planeia alterações e escreve o código. Segundo, pode querer um LLM dentro da sua app — um chatbot, um botão de resumo, um assistente de escrita.

Perceber o básico ajuda nos dois casos. Explica porque é que a IA por vezes interpreta mal um pedido vago, porque é que pode produzir com confiança algo errado, porque é que conversas longas a podem levar a perder o fio aos detalhes anteriores e porque é que acrescentar funcionalidades de IA à sua app custa dinheiro por cada utilização. Não precisa de matemática — apenas de um bom modelo mental.

Uma analogia do dia a dia

Imagine alguém que leu uma biblioteca inimaginavelmente grande — livros, sites, manuais, código, fóruns — e que se tornou extraordinariamente bom a continuar qualquer texto de forma que encaixe. Dê-lhe o início de um email e ele acaba-o no seu tom. Faça uma pergunta e ele escreve o tipo de resposta que normalmente se segue a essa pergunta.

Mas essa pessoa não tem apontamentos para consultar, e a biblioteca fechou numa certa data. Está a recordar padrões, não a procurar coisas. Na maioria das vezes os padrões estão certos. Por vezes preenche uma lacuna com algo que apenas soa certo, com exatamente a mesma confiança.

Esse é um LLM: um escritor muito culto e muito fluente, com uma memória imperfeita e sem nenhum verificador de factos incorporado.

Como funciona um LLM, em termos simples

Treino. O modelo é exposto a enormes quantidades de texto e aprende, ajustando milhares de milhões de números internos (os seus parâmetros), a prever o texto seguinte. O desenho que a maioria dos LLMs usa chama-se transformer, introduzido por investigadores da Google em 2017.
Ajuste fino. O modelo em bruto é depois refinado para seguir instruções, manter uma conversa e evitar respostas nocivas, muitas vezes com feedback humano.
Utilização (inferência). Quando envia um prompt, o modelo lê-o e gera uma resposta um token de cada vez, escolhendo em cada momento o token seguinte mais provável dado tudo o que veio antes.

Não tem uma base de dados de factos dentro de si, e não continua a aprender com o seu chat. Tudo o que «sabe» numa conversa vem do treino ou daquilo que está à sua frente neste momento — a sua janela de contexto.

Um exemplo prático: uma resposta de apoio ao cliente

Digamos que tem uma loja online de plantas e cola isto num LLM:

Um cliente escreve: «A minha encomenda #4412 chegou com um vaso partido. O que podem fazer?» A nossa política: substituímos gratuitamente artigos danificados no prazo de 14 dias, se o cliente enviar uma fotografia. Escreve uma resposta simpática.

Eis o que acontece:

O texto é dividido em tokens, talvez uma centena.
O modelo lê tudo: a mensagem do cliente, a sua política e a sua instrução.
Gera uma resposta token a token: «Olá! Lamentamos muito que o vaso tenha chegado partido…» e pede uma fotografia, mencionando a substituição gratuita.

Agora tente o mesmo pedido sem a política. O modelo continua a escrever uma resposta simpática e confiante — mas pode prometer um reembolso, ou uma janela de 30 dias, porque são padrões comuns em emails de apoio que já viu. Isso é uma alucinação, e mostra a lição mais prática sobre os LLMs: são tão precisos quanto a informação que lhes dá. As apps que precisam de respostas fiáveis dão ao modelo o material de origem certo em cada pedido, uma técnica chamada RAG.

Termos-chave explicados

Termo	O que significa
Token	Um bloco de texto — muitas vezes uma palavra ou parte de uma. Os limites e os preços são contados em tokens.
Janela de contexto	Quanto texto o modelo consegue considerar de uma vez: o seu prompt, a conversa e quaisquer documentos.
Prompt	O input que dá ao modelo. Veja o que é a engenharia de prompts.
Parâmetros	Os números internos aprendidos durante o treino. Mais não é automaticamente melhor.
Dados de treino	O texto com que o modelo aprendeu.
Data de corte de conhecimento	A data a partir da qual o modelo não tem dados de treino, por isso não conhece acontecimentos recentes, a não ser que lhe sejam dados.
Alucinação	Resultado fluente e confiante, mas falso.
Temperatura	Uma definição para o grau de variação ou previsibilidade do resultado.
Inferência	Executar o modelo para obter uma resposta. É isto que se paga por utilização.
Multimodal	Modelos que também conseguem lidar com imagens, áudio ou outros inputs, e não apenas texto.
API	A forma como uma app envia prompts a um LLM de forma programática. Veja como usar APIs de LLM.

Erros comuns e ideias erradas

«Ele vai procurar a informação.» Um LLM simples não o faz. Algumas apps acrescentam pesquisa na web ou recuperação de documentos, mas o modelo em si gera a partir de padrões.
«Se soa seguro, está certo.» Confiança e exatidão não têm relação. Verifique nomes, números, datas, preços e tudo o que seja jurídico ou médico.
«Ele lembra-se de tudo o que eu disse.» Só do que cabe na janela de contexto. Em conversas muito longas, detalhes antigos podem cair ou receber menos atenção. Repita o que é importante.
«Pensa como uma pessoa.» Consegue raciocinar sobre problemas de forma impressionante, mas não tem objetivos, crenças nem consciência das consequências. Trate o resultado como um rascunho a rever.
«Maior ou mais recente é sempre melhor.» Para uma tarefa simples e de grande volume, um modelo mais pequeno, mais barato e mais rápido é muitas vezes a escolha certa.
Enviar dados privados sem verificar. Antes de colar dados de clientes em qualquer serviço de IA ou de os integrar numa app, verifique as condições de utilização de dados e de retenção do fornecedor.

O que pedir ao seu construtor de IA

Quando o LLM está a construir a sua app:

«Antes de alterares alguma coisa, diz-me o que percebeste e o que vais fazer.»
«Aqui está o texto exato da política; usa-o palavra por palavra em vez de inventar detalhes.»
«Não adivinhes factos como preços ou datas. Deixa um marcador e lista-os para mim.»

Quando quer um LLM dentro da sua app:

«Acrescenta um botão [resumir] que chama a API de [fornecedor] a partir do servidor. Guarda a chave de API num segredo, nunca no navegador.»
«Coloca as nossas políticas no prompt para que as respostas se mantenham dentro delas, e que diga “não sei” quando não tiver certeza.»
«Limita o tamanho das respostas e o número de pedidos que um utilizador pode fazer por dia.»
«Regista o custo de cada pedido para eu ver a utilização.»

Para um passo a passo, veja como acrescentar funcionalidades de IA à sua app.

LLMs e o Mythex

O agente de construção do Mythex funciona com um LLM. Todos recebem o mesmo agente Standard — não há seletor de modelo — e a construção usa créditos do Mythex. As funcionalidades de IA dentro da app que constrói são separadas: traz a sua própria chave de API de um fornecedor como a OpenAI ou a Anthropic, guarda-a como segredo do projeto, e é o fornecedor que lhe cobra diretamente essa utilização. A receita da documentação adicionar IA à sua app mostra o prompt a usar.

Perguntas

O que significa LLM?

LLM significa large language model, ou modelo de linguagem de grande dimensão: um modelo de IA treinado com quantidades muito grandes de texto para compreender e gerar linguagem. Os modelos por trás do ChatGPT, do Claude e do Gemini são LLMs.

O ChatGPT é um LLM?

O ChatGPT é uma app de chat construída sobre os LLMs da OpenAI. O LLM é o modelo subjacente que gera o texto; a app acrescenta a interface de chat, funcionalidades de memória, ferramentas e camadas de segurança em torno dele.

Porque é que os LLMs inventam coisas?

Um LLM gera as palavras seguintes mais plausíveis com base em padrões que aprendeu, e não ao consultar factos numa base de dados. Quando não tem a informação certa, pode produzir texto fluente e confiante que está errado, o que se chama alucinação. Dar-lhe material de origem e verificar as respostas reduz o risco.

Os LLMs aprendem com as minhas conversas?

Um modelo não muda durante uma conversa; apenas vê o que está na sua janela de contexto. Se as suas conversas são depois usadas para treinar modelos futuros depende da política do fornecedor e das suas definições, por isso verifique os termos do serviço que usa.

O que é um token num LLM?

Um token é um bloco de texto que o modelo lê e escreve — muitas vezes uma palavra ou parte de uma palavra. Os limites de contexto e os preços das APIs são medidos em tokens, por isso prompts e respostas mais longos custam mais.