명징한 알아차림:인간과 AI의 관계를 비추는 AI 리터러시

  AI는 내가 묻는 말을 어떻게 알아듣고 답을 만들까? AI와 대화를 하다 보면 가끔 이상한 기분이 듭니다. “오늘 기분이 좀 가라앉는데, 특별한 이유는 없는 것 같아.” 이렇게 한마디 했을 뿐인데 AI가 제법 그럴듯하게 대답합니다. “특별한 이유가 떠오르지 않더라도 몸이 피곤했거나, 최근 여러 일이 겹치면서 감정이 천천히 가라앉았을 수도 있어요.” 그러면 문득 궁금해집니다. AI는 내가 하는 말을 정말 알아듣는 걸까? 사람에게 말을 하면 우리는 대충 그 과정을 짐작할 수 있습니다. 귀로 말을 듣고, 단어의 뜻을 이해하고, 상대방의 표정이나 상황도 살피면서 무슨 뜻인지 판단합니다. 그런데 AI에게는 사람처럼 귀도 없고, 살아오면서 겪은 경험도 없습니다. 그렇다면 AI는 도대체 어떻게 우리가 묻는 말을 받아들이고, 그럴듯한 답을 만들어내는 것일까요? AI에게 문장은 처음부터 ‘문장’이 아니다 우리가 AI에게 이렇게 물었다고 해보겠습니다. “오늘 저녁에 비가 올까?” 사람에게는 이것이 하나의 문장입니다. 하지만 AI가 이 문장을 처리하는 방식은 조금 다릅니다. 먼저 문장을 그대로 한 덩어리로 받아들이는 것이 아니라, 처리할 수 있는 작은 단위들로 나눕니다. 이 작은 단위를 토큰(token) 이라고 합니다. 토큰은 반드시 단어 하나와 일치하지는 않습니다. 어떤 경우에는 하나의 단어가 여러 토큰으로 나뉘기도 하고, 문장부호나 단어의 일부가 하나의 토큰이 되기도 합니다. 모델과 언어에 따라 나뉘는 방식도 달라집니다. 그러니까 우리가 보는 오늘 저녁에 비가 올까? 라는 문장이 AI 내부에서는 우리가 보는 것과는 다른 작은 단위들의 배열로 들어가는 것입니다. 여기서부터 인간과 AI의 차이가 시작됩니다. 우리는 문장을 보며 곧바로 의미를 느끼지만, AI는 먼저 계산할 수 있는 형태로 바꾸어야 합니다. 그런데 숫자로 바뀐다고 뜻을 알 수 있을까? 토큰으로 나누는 것만으로는 부족합니다. AI는 각각의 토큰을 계산할 수 있도록 수치적인 표현으로 바꿉니다. 아주 단순하게 ...

  더 똑똑한 AI 가 더 믿을 수 있는 AI 는 아니다 새로운 AI 모델이 발표될 때마다 우리는 비슷한 설명을 듣습니다 . 이전 모델보다 더 어려운 문제를 풀 수 있다 . 더 긴 문서를 이해한다 . 코드를 더 잘 작성한다 . 복잡한 지시를 더 정확하게 따른다 . 이미지와 음성까지 함께 처리한다 . 더 자연스럽게 대화하고 더 깊이 추론한다 . 실제로 AI 의 능력은 빠르게 발전하고 있습니다 . 예전에는 어색했던 문장을 자연스럽게 다듬고 , 긴 문서의 구조를 분석하며 , 여러 조건이 얽힌 문제를 단계적으로 해결하는 능력도 좋아지고 있습니다 . 최신 모델들은 사실성 , 지시 이행 , 코딩과 복합 작업의 성능을 개선하는 방향으로 개발되고 있습니다 . OpenAI 도 GPT-5 를 발표하면서 이전 모델보다 환각 , 지시 이행과 과도한 사용자 동조를 줄였다고 설명했습니다 . 그러나 여기서 한 가지를 구분해야 합니다 . 더 많은 문제를 해결할 수 있는 능력과 그 답을 더 믿어도 되는지는 같은 문제인가 ? AI 가 더 똑똑해진다는 것은 대체로 더 다양한 작업을 수행하고 , 복잡한 문맥을 처리하며 , 높은 수준의 답변을 생성할 수 있다는 뜻입니다 . 반면 믿을 수 있다는 것은 다음과 같은 조건과 관련됩니다 . 사실과 다른 내용을 얼마나 적게 말하는가 모르는 것을 모른다고 표시하는가 근거와 추론을 구분하는가 출처가 실제 주장을 뒷받침하는가 질문의 전제에 무조건 동조하지 않는가 오류를 발견했을 때 수정할 수 있는가 중요한 판단의 한계를 분명히 말하는가 답이 만들어진 조건을 사용자가 확인할 수 있는가 지능과 신뢰성은 서로 관련이 있지만 동일하지는 않습니다 . 더 똑똑한 AI 가 더 정확할 가능성은 높아질 수 있습니다 . 그러나 그 가능성이 모든 질문과 모든 상황에서 자동으로 실현되는 것은 아닙니다 . ‘ 똑똑하다 ’ 는 것은 무엇을 뜻하는가 우리는 AI 를 똑똑하다고 평가할 때 여러 능력을 한꺼번에 떠올립니다 . 지식을 많이 알고 있다 복잡한 문제를 잘 푼다 논...