LLM이란? 대규모 언어 모델을 쉽게 설명합니다

LLM, 즉 대규모 언어 모델은 언어를 이해하고 생성할 수 있도록 엄청난 양의 텍스트로 학습한 AI의 한 종류입니다. 어떤 텍스트가 주어지면, 한 번에 작은 조각씩 그다음에 올 것을 예측합니다. 이 단순한 능력만으로도 질문에 답하고, 글을 쓰고, 요약하고, 번역하고, 코드를 작성하기에 충분하다는 것이 드러났습니다. ChatGPT, Claude, Gemini 뒤에 있는 모델은 모두 LLM입니다.

AI로 만들 때 이것이 중요한 이유

AI 앱 빌더로 만든다면 여러분은 LLM과 두 가지 방식으로 함께 일하는 것입니다. 첫째, 만드는 일을 LLM이 합니다. 요청을 읽고, 변경을 계획하고, 코드를 씁니다. 둘째, 여러분의 앱 안에도 LLM을 넣고 싶을 수 있습니다. 챗봇, 요약 버튼, 글쓰기 도우미 같은 것들입니다.

기본을 이해하면 두 경우 모두에 도움이 됩니다. 모호한 요청을 AI가 가끔 잘못 이해하는 이유, 틀린 내용을 자신 있게 만들어 내는 이유, 긴 대화에서 앞의 세부 내용을 놓치는 이유, 그리고 앱에 AI 기능을 넣으면 사용할 때마다 비용이 드는 이유를 설명해 줍니다. 수학까지 알 필요는 없고, 올바른 머릿속 모델 하나면 충분합니다.

일상적인 비유

상상할 수 없을 만큼 큰 도서관을 읽은 사람을 떠올려 보세요. 책, 웹사이트, 매뉴얼, 코드, 포럼을 모두 읽었고, 어떤 글이든 그 흐름에 맞게 이어서 쓰는 데 아주 능숙해졌습니다. 이메일의 첫 줄을 주면 여러분의 말투로 끝까지 써 줍니다. 질문을 하면 그런 질문 뒤에 보통 따라오는 종류의 답을 씁니다.

하지만 이 사람에게는 확인할 메모가 없고, 도서관은 특정 날짜에 문을 닫았습니다. 이 사람은 사실을 찾아보는 것이 아니라 패턴을 떠올리고 있습니다. 대부분의 경우 패턴은 맞습니다. 하지만 가끔은 빈틈을 그럴듯하게 들리는 무언가로 채우면서, 똑같이 자신 있는 태도를 보입니다.

이것이 LLM입니다. 아주 많이 읽고 매우 유창하게 쓰지만, 기억이 완벽하지 않고 내장된 사실 확인기도 없는 작가입니다.

LLM은 쉽게 말해 어떻게 작동하나요

1. 학습. 모델은 방대한 텍스트를 보고, 수십억 개의 내부 숫자(매개변수)를 조정하면서 다음 텍스트 조각을 예측하는 법을 배웁니다. 대부분의 LLM이 쓰는 설계는 트랜스포머라고 하며, 2017년 구글 연구자들이 소개했습니다.
2. 튜닝. 원시 모델은 지시를 따르고, 대화를 이어 가고, 해로운 출력을 피하도록 다듬어집니다. 흔히 사람의 피드백을 사용합니다.
3. 사용(추론). 프롬프트를 보내면 모델이 이를 읽고, 한 번에 토큰 하나씩 답을 생성합니다. 그때까지의 모든 내용을 바탕으로 다음 토큰을 그럴듯하게 고릅니다.

모델 안에는 사실 데이터베이스가 없고, 여러분과의 대화로부터 계속 학습하지도 않습니다. 대화 중에 모델이 "아는" 모든 것은 학습에서 온 것이거나, 지금 눈앞에 있는 것, 즉 컨텍스트 창에서 온 것입니다.

실제 예: 고객 지원 답변

온라인 식물 가게를 운영한다고 해 봅시다. LLM에 다음을 붙여 넣습니다.

고객이 이렇게 씁니다. "주문 #4412가 화분이 깨진 채로 도착했어요. 어떻게 해 주실 수 있나요?" 우리 정책: 손상된 상품은 고객이 사진을 보내면 14일 이내에 무상으로 교환해 드립니다. 친절한 답장을 써 주세요.

이때 일어나는 일은 다음과 같습니다.

• 텍스트가 토큰으로 나뉩니다. 대략 백 개쯤 될 것입니다.
• 모델이 전체를 읽습니다. 고객의 메시지, 여러분의 정책, 여러분의 지시입니다.
• 모델이 토큰 단위로 답장을 생성합니다. "안녕하세요! 화분이 깨져서 도착했다니 정말 죄송합니다…"와 같이 쓰고, 사진을 요청하며 무상 교환을 언급합니다.

이제 같은 요청을 정책 없이 해 보세요. 모델은 여전히 자신 있고 친절한 답장을 쓰지만, 환불이나 30일 기간을 약속할 수도 있습니다. 지원 이메일에서 그런 패턴을 본 적이 많기 때문입니다. 이것이 환각이며, LLM에 대한 가장 실용적인 교훈을 보여 줍니다. LLM은 여러분이 준 정보만큼만 정확합니다. 안정적인 답이 필요한 앱은 매번 올바른 출처 자료를 모델에 넣어 줍니다. 이 기법을 RAG라고 합니다.

핵심 용어 설명

흔한 실수와 오해

• "모델이 무언가를 찾아본다." 순수한 LLM은 그렇지 않습니다. 일부 앱은 웹 검색이나 문서 검색을 추가하지만, 모델 자체는 패턴에서 생성하고 있습니다.
• "확신에 찬 말투면 맞는 것이다." 자신감과 정확성은 관련이 없습니다. 이름, 숫자, 날짜, 가격, 법률이나 의료 관련 내용은 반드시 확인하세요.
• "내가 한 말을 전부 기억한다." 컨텍스트 창에 들어가는 것만 기억합니다. 아주 긴 대화에서는 앞의 세부 내용이 빠지거나 주의를 덜 받을 수 있습니다. 중요한 내용은 다시 말해 주세요.
• "사람처럼 생각한다." 문제를 인상적으로 추론할 수 있지만, 목표, 믿음, 결과에 대한 인식은 없습니다. 출력은 검토할 초안으로 다루세요.
• "크거나 최신일수록 항상 낫다." 단순하고 대량으로 처리하는 작업에서는 더 작고, 저렴하고, 빠른 모델이 종종 올바른 선택입니다.
• 확인 없이 민감한 데이터 보내기. 고객 데이터를 어떤 AI 서비스에 붙여 넣거나 앱에 넣기 전에, 제공업체의 데이터 사용 및 보관 약관을 확인하세요.

AI 빌더에게 무엇을 요청할까요

LLM이 여러분의 앱을 만들고 있을 때는 다음과 같이 요청하세요.

• "무엇이든 바꾸기 전에, 내가 무엇을 이해했고 무엇을 할 것인지 먼저 말해 줘."
• "정확한 정책 문구가 여기 있어. 세부 내용을 지어내지 말고 한 글자도 바꾸지 말고 그대로 써 줘."
• "가격이나 날짜 같은 사실은 추측하지 마. 자리 표시자를 두고 나에게 목록으로 알려 줘."

앱 안에 LLM을 넣고 싶을 때는 다음과 같이 요청하세요.

• "[요약] 버튼을 추가하고, 서버에서 [제공업체]의 API를 호출하게 해 줘. API 키는 시크릿에 두고, 브라우저에는 절대 두지 마."
• "답변이 정책에서 벗어나지 않도록 우리 정책을 프롬프트에 넣고, 확신이 없으면 '모르겠습니다'라고 말하게 해 줘."
• "답변 길이를 제한하고, 한 사용자가 하루에 보낼 수 있는 요청 수를 상한으로 정해 줘."
• "각 요청의 비용을 기록해서 사용량을 볼 수 있게 해 줘."

단계별 안내는 앱에 AI 기능을 추가하는 방법을 참고하세요.

LLM과 Mythex

Mythex의 빌딩 에이전트는 LLM으로 작동합니다. 모두가 같은 Standard 에이전트를 쓰며 모델 선택기는 없고, 만드는 데는 Mythex 크레딧이 사용됩니다. 만든 앱 안의 AI 기능은 별개입니다. OpenAI나 Anthropic 같은 제공업체의 API 키를 직접 가져와 프로젝트 시크릿으로 저장하면, 그 사용량에 대해 제공업체가 여러분에게 직접 청구합니다. 문서의 앱에 AI 추가하기 레시피에 사용할 프롬프트가 나와 있습니다.

자주 묻는 질문