명징한 알아차림:인간과 AI의 관계를 비추는 AI 리터러시

  AI는 인터넷에서 답을 찾아서 말해주는 걸까? AI를 처음 사용하다 보면 이런 생각이 듭니다. “이것도 인터넷에서 찾아서 알려주는 거겠지?” 우리는 오랫동안 검색엔진에 익숙해져 있습니다. 궁금한 것이 생기면 네이버나 구글에 검색어를 입력합니다. 그러면 관련된 홈페이지, 기사, 블로그, 논문 같은 자료가 나타납니다. 그래서 ChatGPT 같은 생성형 AI에게 질문을 했을 때도 비슷하게 생각하기 쉽습니다. 내가 질문한다. AI가 인터넷에서 찾아본다. 찾은 답을 나에게 알려준다. 그런데 생성형 AI의 기본적인 작동 방식은 검색엔진과 다릅니다. 이 차이를 이해하지 못하면 AI가 말하는 내용을 실제 자료에서 찾아온 정보라고 착각하기 쉽습니다. 검색엔진은 ‘있는 자료’를 찾는다 먼저 우리가 익숙한 검색부터 생각해보겠습니다. 예를 들어 검색창에 “2026년 한국 인구” 라고 입력했다고 해보겠습니다. 검색엔진은 웹에 존재하는 문서 가운데 이 질문과 관련성이 높은 자료를 찾아 보여줍니다. 통계청 자료가 나올 수도 있고, 뉴스 기사나 연구보고서가 나올 수도 있습니다. 중요한 점은 검색엔진의 기본 역할이 이미 존재하는 자료를 찾아 연결해주는 것 이라는 점입니다. 검색 결과가 정확한지, 자료가 믿을 만한지는 또 별개의 문제지만 최소한 우리는 이렇게 확인할 수 있습니다. “이 정보는 어디에 있었지?” 그리고 해당 사이트로 들어가 원문을 확인할 수 있습니다. 그런데 생성형 AI는 ‘찾는 것’보다 ‘만드는 것’이 먼저다 생성형 AI에게 같은 질문을 하면 모습이 조금 다릅니다. AI는 관련 홈페이지 목록을 먼저 보여주는 대신 자연스러운 문장으로 바로 대답합니다. 예를 들면, “한국의 인구는 최근 감소 추세에 있으며…” 와 같은 식입니다. 그래서 우리는 AI가 어디선가 이 문장을 찾아왔을 것이라고 생각하기 쉽습니다. 하지만 앞의 글에서 살펴본 것처럼 언어모델은 기본적으로 현재 입력과 학습된 패턴을 바탕으로 다음에 올 토큰을 예측하면서 문장을 생성합니다. 즉 생성형 AI의 기본 작...

  더 똑똑한 AI 가 더 믿을 수 있는 AI 는 아니다 새로운 AI 모델이 발표될 때마다 우리는 비슷한 설명을 듣습니다 . 이전 모델보다 더 어려운 문제를 풀 수 있다 . 더 긴 문서를 이해한다 . 코드를 더 잘 작성한다 . 복잡한 지시를 더 정확하게 따른다 . 이미지와 음성까지 함께 처리한다 . 더 자연스럽게 대화하고 더 깊이 추론한다 . 실제로 AI 의 능력은 빠르게 발전하고 있습니다 . 예전에는 어색했던 문장을 자연스럽게 다듬고 , 긴 문서의 구조를 분석하며 , 여러 조건이 얽힌 문제를 단계적으로 해결하는 능력도 좋아지고 있습니다 . 최신 모델들은 사실성 , 지시 이행 , 코딩과 복합 작업의 성능을 개선하는 방향으로 개발되고 있습니다 . OpenAI 도 GPT-5 를 발표하면서 이전 모델보다 환각 , 지시 이행과 과도한 사용자 동조를 줄였다고 설명했습니다 . 그러나 여기서 한 가지를 구분해야 합니다 . 더 많은 문제를 해결할 수 있는 능력과 그 답을 더 믿어도 되는지는 같은 문제인가 ? AI 가 더 똑똑해진다는 것은 대체로 더 다양한 작업을 수행하고 , 복잡한 문맥을 처리하며 , 높은 수준의 답변을 생성할 수 있다는 뜻입니다 . 반면 믿을 수 있다는 것은 다음과 같은 조건과 관련됩니다 . 사실과 다른 내용을 얼마나 적게 말하는가 모르는 것을 모른다고 표시하는가 근거와 추론을 구분하는가 출처가 실제 주장을 뒷받침하는가 질문의 전제에 무조건 동조하지 않는가 오류를 발견했을 때 수정할 수 있는가 중요한 판단의 한계를 분명히 말하는가 답이 만들어진 조건을 사용자가 확인할 수 있는가 지능과 신뢰성은 서로 관련이 있지만 동일하지는 않습니다 . 더 똑똑한 AI 가 더 정확할 가능성은 높아질 수 있습니다 . 그러나 그 가능성이 모든 질문과 모든 상황에서 자동으로 실현되는 것은 아닙니다 . ‘ 똑똑하다 ’ 는 것은 무엇을 뜻하는가 우리는 AI 를 똑똑하다고 평가할 때 여러 능력을 한꺼번에 떠올립니다 . 지식을 많이 알고 있다 복잡한 문제를 잘 푼다 논...