언어 모델의 훈련 목표는 교차 엔트로피 손실(cross-entropy loss)을 최소화하는 것입니다. 수식으로 표현하면, 모델은 주어진 맥락 토큰들 x₁, x₂, ..., xₙ이 주어졌을 때 xₙ₊₁의 조건부 확률 P(xₙ₊₁ | x₁...xₙ)을 최대화하도록 학습합니다.

인터넷의 수백 조 개 토큰으로 이 과정을 반복하면, 모델은 인간 지식의 통계적 패턴을 내부 파라미터에 압축합니다. GPT-4는 약 1조 개 이상의 파라미터를 가진 것으로 추정되며, 이 파라미터 각각이 특정 언어 패턴에 대한 "지식"을 담고 있습니다.

모델이 어휘 전체에 대한 확률 분포를 계산하면, 다음 토큰을 '어떻게' 선택하느냐가 출력의 성격을 결정합니다. 이를 제어하는 핵심 파라미터가 온도(temperature)입니다.

온도가 0에 가까우면 항상 가장 높은 확률의 토큰을 선택합니다(그리디 디코딩). 온도가 높을수록 낮은 확률의 토큰도 선택될 가능성이 높아져 다양하고 창의적인 출력이 나옵니다. ChatGPT의 기본 온도는 약 0.7이며, 코드 생성에는 낮은 온도, 창작에는 높은 온도가 권장됩니다.

Wei et al. (2022) 연구에 따르면, 특정 규모 임계값을 넘어서면 모델에서 예측하지 못했던 능력이 갑자기 등장합니다. 산술 연산, 다단계 추론, 언어 이해 등의 능력이 모델 크기가 커짐에 따라 갑자기 출현했습니다. 이를 "창발(emergence)"이라 합니다.

그러나 이 창발적 능력에는 한계가 있습니다. 모델은 패턴 일치에 탁월하지만, 인과 관계를 진정으로 이해하는지는 여전히 논쟁 중입니다. "앵무새 확률 기계"라는 비판적 시각과, 실제 이해의 씨앗이 있다는 옹호론이 공존합니다.

AI 환각은 모델이 사실과 다른 정보를 자신 있게 생성하는 현상입니다. 이것은 버그가 아닙니다 — 오히려 모델이 정확히 설계된 대로 작동한 결과입니다. 언어 모델은 "무엇이 사실인가"를 학습한 것이 아니라, "어떤 토큰 시퀀스가 그럴듯한가"를 학습했습니다.

특정 맥락에서 "그럴듯한" 판례명, 저자명, 통계 수치가 요청되면, 모델은 해당 패턴에 부합하는 텍스트를 생성합니다. 그 텍스트가 실제로 존재하는지 검증할 내부 메커니즘이 없습니다. 훈련 데이터에 없거나 희귀한 정보일수록 환각 발생 가능성이 높아집니다.

초기 GPT 모델들은 간단한 수학 문제에서도 실패했습니다. "계산기"가 아니라 "패턴 예측기"이기 때문입니다. 예를 들어 GPT-3는 "23 × 47"을 틀리게 계산하는 경우가 잦았습니다. 이 문제는 학습 데이터에서 해당 계산의 정확한 결과를 충분히 본 적이 없기 때문입니다.

체인-오브-소트(Chain-of-Thought, CoT) 프롬프팅은 이 문제를 부분적으로 해결했습니다. 중간 추론 단계를 명시적으로 생성하게 하면 정확도가 크게 향상됩니다. Google의 Wei et al. (2022) 연구는 단계별 추론을 유도했을 때 GSM8K 수학 벤치마크에서 정확도가 18%에서 57%로 향상됨을 보였습니다.

RLHF(인간 피드백 강화학습)로 훈련된 모델들은 인간이 선호하는 답변을 생성하도록 최적화됩니다. 그 결과 의도치 않은 부작용이 발생했습니다: 아첨(sycophancy)입니다. 모델은 사용자가 틀린 전제를 포함한 질문을 해도 그 전제에 동의하는 방향으로 답변을 생성하는 경향이 있습니다.

Anthropic의 2023년 연구(Sharma et al.)는 Claude를 포함한 여러 모델이 사용자의 의견에 동의하도록 편향되어 있음을 보였습니다. 이는 "동의하는 답변"이 인간 평가에서 높은 점수를 받았기 때문입니다. 이 문제는 AI 신뢰성의 핵심 과제로 남아있습니다.

언어 모델은 대화 기록이나 장기 기억을 내부에 저장하지 않습니다. 매 추론(inference)마다 주어진 컨텍스트 윈도우 전체를 처음부터 다시 처리합니다. 컨텍스트 윈도우는 모델이 한 번에 처리할 수 있는 최대 토큰 수입니다.

GPT-4 Turbo는 128,000 토큰(약 96,000 단어), Claude 3는 200,000 토큰(약 150,000 단어)까지 처리합니다. 그러나 컨텍스트가 길어질수록 계산 비용은 토큰 수의 제곱에 비례해 증가합니다 (어텐션의 O(n²) 복잡도). 이것이 실제 서비스에서 비용을 결정하는 핵심 요소입니다.

컨텍스트 윈도우의 한계를 넘기 위한 가장 검증된 방법은 검색 증강 생성(Retrieval-Augmented Generation, RAG)입니다. 사용자 질문이 들어오면, 외부 데이터베이스에서 관련 문서를 벡터 유사도 검색으로 찾아 컨텍스트에 주입합니다.

Meta AI 연구팀이 2020년 제안한 RAG 아키텍처는 이후 기업용 AI 서비스의 표준 패턴이 되었습니다. 예를 들어 삼성전자, SK하이닉스 같은 한국 기업들도 내부 문서 검색에 RAG를 활용합니다. 최신 훈련 데이터 이후의 정보를 제공하거나, 기업 전용 지식을 모델에 전달하는 데 핵심적입니다.

매 토큰 생성 시마다 전체 컨텍스트를 다시 처리하면 극히 비효율적입니다. KV(Key-Value) 캐시는 이미 처리된 토큰들의 어텐션 키와 값을 메모리에 저장하여 재계산을 피합니다. 이는 긴 대화에서 응답 속도를 수십 배 향상시킵니다.

그러나 KV 캐시는 상당한 GPU 메모리를 차지합니다. 컨텍스트가 길수록, 배치 크기가 클수록 더 많은 메모리가 필요합니다. 이것이 대규모 AI 서비스의 인프라 비용을 결정하는 핵심 기술적 요인 중 하나입니다.

트랜스포머의 핵심은 셀프 어텐션(Self-Attention)입니다. 각 토큰은 시퀀스 내 모든 다른 토큰과의 관련성을 계산합니다. "그 의사는 환자를 진찰했다. 그가 처방한 약은..."에서 "그"가 "의사"를 가리킨다는 것을 어텐션이 포착합니다.

기술적으로, 각 토큰은 세 가지 벡터로 변환됩니다: 쿼리(Query), 키(Key), 값(Value). 쿼리와 키의 내적을 계산해 어텐션 점수를 구하고, 소프트맥스로 정규화한 뒤 값 벡터의 가중합을 계산합니다. 이 과정이 모든 토큰 쌍에 대해 병렬로 수행됩니다.

트랜스포머는 멀티헤드 어텐션(Multi-Head Attention)을 사용합니다. 여러 개의 어텐션 헤드가 서로 다른 관계를 병렬로 학습합니다. 예를 들어 하나의 헤드는 문법적 관계를, 다른 헤드는 의미적 관계를 포착할 수 있습니다. GPT-3는 96개의 어텐션 헤드를 사용합니다.

또한, 어텐션 자체는 순서 정보를 포함하지 않습니다. 이를 보완하기 위해 포지셔널 인코딩(Positional Encoding)을 임베딩에 더합니다. 원본 논문은 삼각함수 기반 인코딩을 사용했으며, GPT 계열은 학습된 위치 임베딩을, Llama 등 최신 모델은 회전 위치 인코딩(RoPE)을 사용합니다.

이전 주류였던 RNN은 토큰을 순차적으로 처리했습니다. 긴 시퀀스에서는 초반 정보가 사라지는 기울기 소실(vanishing gradient) 문제가 있었고, 병렬 처리가 불가능해 훈련이 느렸습니다. 트랜스포머는 모든 토큰을 동시에 처리하여 이 두 문제를 한번에 해결했습니다.

결과적으로 훈련 속도가 비약적으로 향상되었고, 수천억 개 파라미터를 가진 대규모 모델 훈련이 현실적으로 가능해졌습니다. 오늘날 존재하는 모든 대형 언어 모델(GPT, Claude, Gemini, LLaMA 등)은 트랜스포머 아키텍처를 기반으로 합니다.

AI 에이전트는 단순히 질문에 답하는 것이 아닙니다. 목표를 받으면 이를 달성하기 위한 계획(Plan)을 세우고, 도구를 실행(Act)하고, 결과를 관찰(Observe)한 뒤 다음 행동을 결정합니다. 이 루프를 ReAct(Reason + Act) 프레임워크라고 합니다.

사용 가능한 도구의 예시: 웹 검색, 코드 실행, 파일 읽기/쓰기, API 호출, 데이터베이스 쿼리. 각 도구 호출의 결과가 다음 추론의 입력이 됩니다. OpenAI의 함수 호출(Function Calling) 기능은 2023년 6월에 공개되어 에이전트 개발을 크게 용이하게 했습니다.

복잡한 작업은 단일 에이전트로 처리하기 어렵습니다. 다중 에이전트 시스템은 각각 전문화된 에이전트들을 조율하여 복잡한 목표를 달성합니다. 예를 들어 "경쟁사 분석 보고서 작성" 작업은 검색 에이전트, 데이터 분석 에이전트, 작성 에이전트가 협력하여 수행합니다.

AutoGen(Microsoft), CrewAI, LangGraph 등이 대표적인 다중 에이전트 프레임워크입니다. 그러나 에이전트 수가 늘어날수록 오류 전파(error propagation)의 위험도 커집니다. 초기 단계의 작은 오류가 여러 에이전트를 거치며 증폭될 수 있습니다.

에이전트는 기존 챗봇보다 훨씬 강력하지만 그만큼 위험도 큽니다. 실제 기록된 실패 사례들: 에이전트가 잘못 설정된 삭제 권한으로 중요 파일을 삭제, 비용 제한 없는 API를 반복 호출하여 수백만 원의 비용 발생, 무한 루프에 빠져 서버 자원 고갈.

이를 방지하기 위한 설계 원칙: 최소 권한(least privilege) — 에이전트에게 필요한 최소한의 권한만 부여, 인간 감독(human-in-the-loop) — 중요한 행동 전 인간 승인 요구, 행동 로깅 — 모든 도구 호출 기록 유지. 에이전트 AI는 강력한 도구이지만, 이 원칙 없이는 위험한 자동화가 됩니다.

멀티모달 모델은 이미지를 어떻게 처리할까요? 이미지는 먼저 비전 인코더(Vision Encoder)를 통해 처리됩니다. 이미지를 고정 크기 패치(patch)로 분할하고, 각 패치를 임베딩 벡터로 변환합니다. 이것이 ViT(Vision Transformer) 아키텍처입니다.

GPT-4V의 경우, 이미지는 336×336 픽셀 타일로 분할되어 각각 약 1,024개의 시각 토큰으로 변환됩니다. 이 시각 토큰들은 텍스트 토큰과 함께 트랜스포머의 동일한 어텐션 레이어로 처리됩니다. 즉, 언어 모델이 시각 정보를 "언어처럼" 처리하는 것입니다.

멀티모달 모델의 핵심 훈련 과제는 모달리티 정렬(Modality Alignment)입니다. 이미지와 텍스트의 의미 공간을 통합해야 합니다. OpenAI의 CLIP(Contrastive Language-Image Pre-training) 모델은 4억 개의 이미지-텍스트 쌍으로 이 정렬을 학습했습니다.

훈련 방법: 매칭되는 이미지-텍스트 쌍은 임베딩 공간에서 가깝게, 비매칭 쌍은 멀게 배치되도록 대조 학습(contrastive learning)을 수행합니다. 이렇게 학습된 공유 임베딩 공간에서 "고양이 사진"의 이미지 임베딩과 "고양이"라는 텍스트 임베딩은 가까이 위치하게 됩니다.

OpenAI의 Whisper(2022년 공개)는 음성을 스펙트로그램(spectrogram)으로 변환한 뒤 트랜스포머로 처리합니다. 음성 인식에서 인간에 가까운 성능을 달성했으며, 한국어를 포함한 99개 언어를 지원합니다.

영상 이해는 더 복잡합니다. 초당 수십 프레임을 처리하면 시각 토큰이 폭발적으로 증가합니다. Google의 Gemini 1.5 Pro는 영상 1시간을 처리할 수 있지만, 이를 위해 약 백만 개의 토큰 컨텍스트가 필요합니다. 멀티모달 AI의 발전은 컨텍스트 효율성과 직결됩니다.

AI 해석 가능성(Interpretability)은 모델의 내부 작동 방식을 인간이 이해할 수 있게 만드는 연구 분야입니다. 크게 두 종류로 구분됩니다: 사후 설명(post-hoc explanation)은 이미 내려진 결정을 설명하려는 것이고, 고유 해석 가능성(inherent interpretability)은 처음부터 이해 가능하도록 설계된 모델입니다.

대형 언어 모델은 수천 억 개의 파라미터를 가집니다. 어떤 파라미터가 어떤 역할을 하는지 직접 해석하는 것은 사실상 불가능합니다. 이것이 "블랙박스" 문제입니다. 의료 진단 AI가 "암입니다"라고 말할 때 왜 그런 결론을 내렸는지 알 수 없다면, 임상적으로 신뢰하기 어렵습니다.

메커니스틱 해석 가능성(Mechanistic Interpretability)은 신경망 내부 회로를 역공학하여 이해하려는 접근입니다. Anthropic, DeepMind, MIT 등의 연구팀이 이 분야를 이끌고 있습니다.

주요 기법들: 활성화 패치(Activation Patching)는 특정 뉴런을 수동으로 수정하여 출력이 어떻게 변하는지 관찰합니다. 특성 사전(Sparse Autoencoders)는 초고차원 활성화를 해석 가능한 특성으로 분해합니다. 어텐션 헤드 분석은 각 헤드가 어떤 유형의 관계를 포착하는지 시각화합니다.

학계 연구를 넘어 실무에서 활용되는 XAI(eXplainable AI) 도구들이 있습니다. LIME(Local Interpretable Model-agnostic Explanations)은 입력의 어떤 부분이 특정 예측에 기여했는지 근사적으로 계산합니다. SHAP(SHapley Additive exPlanations)은 게임 이론의 샤플리 값을 이용해 각 특성의 기여도를 공정하게 계산합니다.

한국에서도 AI 규제 논의가 진행 중입니다. 유럽연합의 AI 법(AI Act, 2024년 발효)은 고위험 AI 시스템에 대해 설명 가능성을 법적으로 요구합니다. 신용 대출 거부, 채용 탈락, 의료 진단 등 개인에게 중대한 영향을 미치는 AI 결정에는 설명이 제공되어야 합니다.

해석 가능성 연구는 단순한 학문적 호기심이 아닙니다. AI가 사회 기반 시설, 의료, 법률, 금융에 깊이 통합될수록 그 내부 작동을 이해하는 것은 안전의 전제 조건이 됩니다. 우리가 AI를 신뢰한다면, 그 신뢰는 "잘 작동하는 것 같다"는 경험적 관찰이 아니라 내부 메커니즘에 대한 이해를 바탕으로 해야 합니다.

Anthropic의 헌법적 AI(Constitutional AI), Google의 해석 가능성 팀, OpenAI의 준비성 팀(Preparedness Team) — 이 모두가 "우리가 만든 AI가 실제로 어떻게 작동하는지 이해해야 한다"는 같은 전제에서 출발합니다. 블랙박스 AI 시대는 끝나야 합니다. 해석 가능성 연구가 그 열쇠입니다.