AI가 답을 만드는 기술의 이해
AI는 인터넷에서 답을 찾아서 말해주는 걸까?
AI를 처음 사용하다 보면 이런 생각이 듭니다.
“이것도 인터넷에서 찾아서 알려주는 거겠지?”
우리는 오랫동안 검색엔진에 익숙해져 있습니다.
궁금한 것이 생기면 네이버나 구글에 검색어를 입력합니다. 그러면 관련된 홈페이지, 기사, 블로그, 논문 같은 자료가 나타납니다.
그래서 ChatGPT 같은 생성형 AI에게 질문을 했을 때도 비슷하게 생각하기 쉽습니다.
내가 질문한다.
AI가 인터넷에서 찾아본다.
찾은 답을 나에게 알려준다.
그런데 생성형 AI의 기본적인 작동 방식은 검색엔진과 다릅니다.
이 차이를 이해하지 못하면 AI가 말하는 내용을 실제 자료에서 찾아온 정보라고 착각하기 쉽습니다.
검색엔진은 ‘있는 자료’를 찾는다
먼저 우리가 익숙한 검색부터 생각해보겠습니다.
예를 들어 검색창에
“2026년 한국 인구”
라고 입력했다고 해보겠습니다.
검색엔진은 웹에 존재하는 문서 가운데 이 질문과 관련성이 높은 자료를 찾아 보여줍니다.
통계청 자료가 나올 수도 있고, 뉴스 기사나 연구보고서가 나올 수도 있습니다.
중요한 점은 검색엔진의 기본 역할이 이미 존재하는 자료를 찾아 연결해주는 것이라는 점입니다.
검색 결과가 정확한지, 자료가 믿을 만한지는 또 별개의 문제지만 최소한 우리는 이렇게 확인할 수 있습니다.
“이 정보는 어디에 있었지?”
그리고 해당 사이트로 들어가 원문을 확인할 수 있습니다.
그런데 생성형 AI는 ‘찾는 것’보다 ‘만드는 것’이 먼저다
생성형 AI에게 같은 질문을 하면 모습이 조금 다릅니다.
AI는 관련 홈페이지 목록을 먼저 보여주는 대신 자연스러운 문장으로 바로 대답합니다.
예를 들면,
“한국의 인구는 최근 감소 추세에 있으며…”
와 같은 식입니다.
그래서 우리는 AI가 어디선가 이 문장을 찾아왔을 것이라고 생각하기 쉽습니다.
하지만 앞의 글에서 살펴본 것처럼 언어모델은 기본적으로 현재 입력과 학습된 패턴을 바탕으로 다음에 올 토큰을 예측하면서 문장을 생성합니다.
즉 생성형 AI의 기본 작동은
자료 찾기 → 복사해서 전달하기
보다는
질문과 문맥 처리 → 다음 내용 예측 → 문장 생성
에 가깝습니다.
여기서 검색과 생성의 첫 번째 차이가 생깁니다.
검색은 이미 존재하는 자료를 찾고, 생성은 그 자리에서 새로운 문장 배열을 만들어냅니다.
그러면 AI가 말하는 내용은 어디에서 나온 걸까?
여기서 다시 궁금해집니다.
“인터넷에서 찾은 것도 아니라면 AI는 어떻게 그런 내용을 알고 있을까?”
생성형 AI는 학습 과정에서 매우 많은 텍스트의 패턴과 관계를 학습합니다.
하지만 이것을 거대한 문서창고에 책이나 홈페이지를 그대로 보관해놓고 필요할 때 꺼내 읽는 것처럼 생각하면 정확하지 않습니다.
학습을 통해 언어와 개념 사이의 관계가 모델의 가중치에 반영됩니다.
그래서 질문을 받으면 그 학습된 관계와 현재 문맥을 이용해 답을 만들어냅니다.
이에 대해서는 뒤의 글 **「AI는 어떻게 이렇게 많은 것을 알고 있을까? — 가중치는 AI의 답변에 어떻게 작용하는가」**에서 좀 더 자세히 살펴보겠습니다.
지금은 이렇게만 구분하면 충분합니다.
검색은 외부의 자료를 찾아오고, 생성은 학습된 패턴과 현재 문맥을 이용해 답을 만들어냅니다.
그런데 요즘 AI는 인터넷 검색도 하잖아?
맞습니다.
여기서 이야기가 조금 복잡해집니다.
요즘의 AI 서비스는 생성 기능만 사용하는 것이 아니라 웹 검색 기능을 함께 사용할 수 있습니다.
예를 들어 현재 ChatGPT는 질문에 최신 웹 정보가 도움이 된다고 판단하면 웹을 검색할 수 있고, 검색을 사용한 답변에는 관련 웹 출처가 표시될 수 있습니다. OpenAI는 검색 과정에서 사용자의 질문을 보다 적절한 검색어로 다시 구성해 검색 제공업체에 전달하는 경우도 있다고 설명합니다.
그러면 과정이 이렇게 달라집니다.
질문
↓
웹에서 관련 자료 검색
↓
검색된 정보 가져오기
↓
AI가 내용을 읽고 관계를 정리
↓
새로운 문장으로 답변 생성
즉 요즘의 AI에서는 검색과 생성이 결합될 수 있습니다.
이 때문에 사용자 입장에서는 두 기능의 경계가 잘 보이지 않습니다.
검색한 것을 그대로 보여주는 것도 아니다
여기서 아주 중요한 차이가 하나 더 있습니다.
AI가 웹을 검색했다고 해서 검색 결과를 그대로 복사해 보여주는 것은 아닙니다.
검색된 자료는 AI가 답을 만드는 데 사용하는 참조자료가 됩니다.
예를 들어 세 개의 기사에서 이런 내용을 찾았다고 해보겠습니다.
기사 A
올해 관광객이 증가했다.
기사 B
외국인 관광객 증가폭이 컸다.
기사 C
일부 지역에서는 관광객 감소가 나타났다.
AI는 이 자료들을 바탕으로
“전체적으로 관광객은 증가했지만 지역별 차이가 있으며 특히 외국인 관광객 증가가 두드러졌습니다.”
라는 새로운 문장을 만들 수 있습니다.
이 문장은 어느 기사에도 정확히 똑같이 쓰여 있지 않을 수 있습니다.
검색은 자료를 가져왔지만 최종 문장은 다시 생성된 것입니다.
이 차이를 기억하는 것이 중요합니다.
검색했다면 그 답은 사실일까?
여기서 또 하나의 함정이 생깁니다.
AI의 답변에 출처가 붙어 있으면 우리는 훨씬 안심하게 됩니다.
“출처까지 있으니까 맞겠지.”
하지만 검색을 했다는 것과 답변 전체가 사실이라는 것은 같은 말이 아닙니다.
검색 과정에서도 문제가 생길 수 있습니다.
관련성이 낮은 자료가 선택될 수도 있고, 오래된 자료가 포함될 수도 있습니다.
자료 자체가 틀렸을 수도 있습니다.
더 중요한 것은 자료 자체에는 맞는 내용이 있었더라도 AI가 여러 자료를 요약하고 연결하는 과정에서 의미를 다르게 해석할 수도 있다는 점입니다.
그래서 검색을 사용한 AI 답변에는 최소한 두 단계의 확인이 필요합니다.
자료가 믿을 만한가?
그리고
AI가 그 자료를 제대로 읽어 전달했는가?
입니다.
한 가지 예를 들어보자
AI에게 이렇게 물어본다고 해보겠습니다.
“오늘 삼성전자 주가는 얼마야?”
이것은 시점에 따라 계속 변하는 정보입니다.
AI가 검색하지 않고 기존 학습 내용만을 이용한다면 현재 가격을 정확하게 알 수 없습니다.
이 질문에서는 웹 검색이나 실시간 데이터가 필요합니다.
반대로 이렇게 묻는다면 어떨까요?
“주가가 오르면 기업에는 어떤 이점이 있어?”
이 질문은 반드시 오늘의 인터넷 정보를 검색해야만 답할 수 있는 것은 아닙니다.
학습된 경제 개념과 현재 질문의 문맥을 바탕으로 설명할 수 있습니다.
따라서 겉으로는 똑같이 AI가 답하지만 내부적으로는
외부 정보를 가져와야 하는 질문과
학습된 패턴을 이용해 생성할 수 있는 질문
이 섞여 있습니다.
실제로 현재 ChatGPT도 질문에 웹상의 최신 정보가 도움이 될 경우 검색을 사용할 수 있도록 설계되어 있습니다.
검색과 생성의 차이를 아주 간단하게 보면
검색
질문
↓
외부 자료 탐색
↓
관련 자료 발견
↓
“어디에 있는가?”
생성
질문
↓
현재 문맥과 학습된 관계 처리
↓
다음 내용을 예측
↓
새로운 문장 생성
↓
“어떻게 말할 것인가?”
검색 + 생성
요즘 AI에서는 이 두 가지가 함께 작동할 수 있습니다.
질문
↓
필요한 외부 자료 검색
↓
자료를 AI의 문맥에 넣음
↓
여러 정보의 관계를 처리
↓
새로운 답변 생성
↓
출처와 함께 제시
OpenAI도 ChatGPT 검색을 웹의 최신 정보를 가져오는 기능과 언어모델의 요약·추론 능력을 결합하는 방식으로 설명하고 있습니다.
그래서 AI를 사용할 때 질문 하나를 더 해보자
AI가 아주 자연스럽게 대답하면 우리는 내용부터 읽습니다.
하지만 이제는 한 가지를 더 볼 수 있습니다.
“이 정보는 어디에서 왔을까?”
현재 웹에서 가져온 정보인지,
모델이 이미 학습한 패턴을 바탕으로 생성한 것인지,
검색된 자료와 생성이 함께 작동한 것인지 살펴보는 것입니다.
특히 날짜, 가격, 법률, 정책, 통계, 최신 뉴스처럼 시간에 따라 달라질 수 있는 정보라면 이 구분은 더욱 중요합니다.
그때는 AI가 얼마나 그럴듯하게 말하는가보다
검색했는가?
출처가 있는가?
출처에는 실제로 그렇게 쓰여 있는가?
를 확인하는 편이 안전합니다.
그런데 AI는 검색된 여러 문장 가운데 무엇을 중요하게 볼까?
여기서 다시 새로운 질문이 생깁니다.
우리는 AI에게 아주 긴 글을 넣어줄 수도 있습니다.
한 문단 안에도 여러 사람, 사건, 숫자, 조건이 들어 있을 수 있습니다.
그런데 AI는 어떻게 어떤 부분과 어떤 부분이 서로 관련되어 있는지를 찾아내는 것일까요?
예를 들어
“철수는 어제 우산을 샀다. 오늘 아침 하늘에 먹구름이 끼었다. 철수는 현관을 나서다가 다시 방으로 들어갔다.”
라는 문장이 있을 때
AI는 어떻게 ‘우산’, ‘먹구름’, ‘다시 들어갔다’ 사이의 관계를 계산할까요?
여기서 또 하나의 낯선 기술이 등장합니다.
어텐션(attention)입니다.
다음 글에서는 어려운 이름부터 외우지 않고 이런 질문에서 시작해보겠습니다.
“긴 질문을 해도 AI는 어떻게 중요한 부분을 찾아낼까?”
다음 글 — 어텐션은 AI에게 무엇을 보게 하는가
댓글
댓글 쓰기