명징한 알아차림:인간과 AI의 관계를 비추는 AI 리터러시

  좋은 질문보다 먼저 필요한 것은 무엇인가 생성형 AI를 잘 사용하는 방법을 검색하면 가장 먼저 ‘좋은 질문을 만드는 법’이 나옵니다. 질문을 구체적으로 써라. 충분한 배경을 제공하라. AI에게 역할을 부여하라. 원하는 답변의 형식을 지정하라. 예시를 함께 제시하라. 이러한 방법은 분명 도움이 됩니다. OpenAI의 공식 안내도 원하는 작업을 명확하게 밝히고, 필요한 맥락과 출력 형식을 구체적으로 제공할수록 적절한 답을 얻기 쉽다고 설명합니다. 그러나 질문을 정교하게 쓰는 것보다 먼저 해야 할 일이 있습니다. 나는 지금 AI에게 무엇을 하려는가? 이 질문이 분명하지 않으면 프롬프트가 아무리 길고 구체적이어도 원하는 답을 얻기 어렵습니다. 더 위험한 경우도 있습니다. 질문은 정교하지만 그 안에 잘못된 전제나 확인되지 않은 확신이 들어 있을 수 있습니다. 그러면 AI는 그 전제를 의심하기보다 사용자가 요청한 방향에 맞춰 더욱 정교한 답을 만들어낼 수 있습니다. 좋은 질문을 만들기 전에 필요한 것은 더 많은 기술이 아닙니다. 질문이 생겨난 자리와 목적을 먼저 살펴보는 일입니다. 질문을 잘 쓰는 것과 잘 묻는 것은 다르다 다음 두 질문을 비교해보겠습니다. (1) 소상공인을 위한 효과적인 AI 교육 프로그램을 만들어줘. (2) 디지털 도구를 거의 사용하지 않는 전통시장 상인 15명을 대상으로, 스마트폰만 사용하여 90분 동안 진행할 수 있는 AI 입문 교육안을 만들어줘. 교육 목표는 상품 소개문과 고객 응대 문장을 직접 만드는 것이고, 전문용어는 사용하지 말아줘. 두 번째 질문이 훨씬 구체적입니다. 대상, 시간, 도구, 목표와 표현 수준이 들어 있기 때문에 AI는 더 실용적인 답을 만들 수 있습니다. 그러나 여기에도 아직 확인되지 않은 것이 있습니다. 상인들이 정말 상품 소개문을 가장 필요로 하는가? 스마트폰 사용 수준은 어느 정도인가? 교육 후 실제로 사용할 채널이 있는가? AI 사용에 대한 불안이나 거부감은 없는가? 교육의 성공을 무엇으로 판단할 것인가? ...

  AI의 답에서 사실·추론·가설을 구분하는 법 AI의 답변을 읽다 보면 어디까지가 확인된 사실이고, 어디부터가 AI의 해석인지 구분하기 어려울 때가 있습니다. 예를 들어 AI가 어떤 전통시장 축제를 분석하며 이렇게 답했다고 해보겠습니다. 이 시장은 오랜 역사와 다양한 먹거리를 보유하고 있습니다. 따라서 젊은 관광객들은 전통시장 특유의 정취와 간식 체험을 매력적으로 느낄 가능성이 높습니다. 야간 간식투어를 운영하면 지역의 대표 관광상품으로 성장할 수 있습니다.   세 문장은 자연스럽게 이어집니다. 하나의 설명처럼 읽히지만, 실제로는 서로 다른 성격의 내용이 들어 있습니다. 시장의 역사와 먹거리 현황은 확인할 수 있는 사실 일 수 있습니다. 젊은 관광객이 매력을 느낄 것이라는 판단은 사실을 바탕으로 한 추론 입니다. 야간 간식투어가 대표 관광상품으로 성장할 수 있다는 전망은 아직 검증되지 않은 가설 입니다. 문제는 AI가 이 세 가지를 항상 명확하게 표시해주지는 않는다는 데 있습니다. 사실과 추론과 가설이 같은 문체와 같은 확신의 정도로 표현되면, 우리는 세 문장을 모두 확인된 정보처럼 받아들이기 쉽습니다. AI의 답은 왜 하나의 사실처럼 읽힐까 생성형 AI는 답변을 만들 때 각 문장에 자동으로 ‘사실’, ‘추론’, ‘가설’이라는 꼬리표를 붙이지 않습니다. 문맥에 가장 잘 이어지는 표현을 생성하면서 설명 전체를 일관된 문체로 구성합니다. 그래서 실제 자료에서 확인한 내용과, 그 내용을 바탕으로 도출한 해석과, 앞으로 일어날 일을 예상한 제안이 하나의 매끄러운 문단 안에 들어갈 수 있습니다. 언어 모델의 유창함은 문장 사이의 경계를 부드럽게 만듭니다. 그러나 문장이 부드럽게 이어진다는 사실이 각 문장의 근거 수준까지 같다는 뜻은 아닙니다. OpenAI는 언어 모델의 환각이 단순한 무작위 오류만이 아니라, 모르는 상황에서도 답을 추측하도록 보상하는 학습과 평가 구조에서 지속될 수 있다고 설명합니다. 즉, 모델이 불확실한 내용을 명확히 유보하기보다 그...

  AI는 왜 존재하지 않는 출처까지 만들어낼까 AI에게 어떤 주장에 대한 근거를 물으면 그럴듯한 논문 제목과 저자, 학술지 이름, 발행 연도까지 제시할 때가 있습니다. 형식도 제법 정확해 보입니다. “김○○·이○○(2022)의 연구에 따르면…” “Journal of Digital Wellbeing에 발표된 연구에서는…” “세계보건기구의 2023년 보고서는…” 이렇게 구체적인 출처가 붙으면 우리는 답변을 더 쉽게 믿습니다. 단순한 설명보다 저자와 연도, 논문 제목이 있는 문장이 훨씬 전문적으로 보이기 때문입니다. 그러나 검색해 보면 해당 논문이 없거나, 논문은 존재하지만 제목과 저자가 다르거나, 실제 논문의 결론이 AI의 설명과 전혀 다른 경우가 있습니다. 링크가 열리더라도 엉뚱한 문서로 연결되기도 합니다. AI는 왜 틀린 사실만 말하는 데 그치지 않고, 존재하지 않는 출처까지 만들어내는 것일까요? AI는 먼저 사실을 확인한 뒤 문장을 쓰는가 사람은 일반적으로 출처를 제시할 때 다음과 같은 과정을 거칩니다. 자료를 찾는다. 자료가 실제로 존재하는지 확인한다. 자료의 내용을 읽는다. 자신의 주장과 관련 있는 부분을 인용한다. 저자·제목·발행처·연도를 기록한다. 하지만 생성형 AI가 항상 이 과정을 거치는 것은 아닙니다. 외부 검색이나 문서 검색 기능을 사용하지 않는 언어 모델은, 답변을 만들 때 학술 데이터베이스를 열어 실제 논문을 한 편씩 확인하는 것이 아니라 주어진 문맥에 이어질 가능성이 높은 표현을 생성합니다. “인공지능이 노인의 삶의 질에 미치는 영향을 연구한 논문을 알려줘”라는 요청을 받았다고 해보겠습니다. 모델은 학습 과정에서 접한 수많은 논문 제목의 형식, 연구자 이름의 배열, 학술지 명칭, 발행 연도의 패턴을 바탕으로 다음과 같은 조합을 만들 수 있습니다. Digital Technology and Quality of Life Among Older Adults J. Kim, S. Lee, 2021 Journal of Aging and Digi...

  AI의 자신감과 실제 정확도는 어떻게 다른가? AI와 대화하다 보면 이런 순간이 있습니다. 답변이 매우 자연스럽고 논리적입니다. 전문용어도 적절하고, 숫자와 사례까지 구체적으로 제시합니다. 말투도 조금의 망설임 없이 단정적입니다. 그런데 나중에 확인해 보면 일부 내용이 틀리거나, 존재하지 않는 자료를 인용했거나, 오래된 정보를 최신 사실처럼 말한 경우가 있습니다. 이때 우리는 묻게 됩니다. “이렇게 자신 있게 말했는데 왜 틀렸을까?” 그 이유는 생성형 AI의 자신감 있는 표현 과 답변의 실제 정확도 가 서로 다른 문제이기 때문입니다. AI의 자신감은 인간의 자신감과 다르다 사람이 자신 있게 말할 때 우리는 보통 그 사람이 직접 경험했거나, 충분히 조사했거나, 기억이 분명하다고 생각합니다. 그러나 AI의 단정적인 문장은 그런 내적 확신을 그대로 표현한 것이 아닙니다. AI는 질문과 대화 맥락을 바탕으로 다음에 이어질 가능성이 높은 단어와 문장을 선택해 답을 만듭니다. 따라서 AI가 확신에 찬 말투로 답했다는 것은 우선, 현재의 문맥에서 그런 표현이 자연스럽게 생성되었다 는 뜻에 가깝습니다. 그 문장이 충분히 검증되었다거나, AI가 자신의 답이 맞다고 실제로 확신한다는 뜻은 아닙니다. AI의 말투는 정확도를 알려주는 계기판이 아닙니다. 왜 잘 쓰인 문장은 사실처럼 느껴질까? 인간은 정보의 내용뿐 아니라 표현 방식에도 영향을 받습니다. 문장이 매끄럽고, 설명이 단계적으로 이어지며, 구체적인 날짜와 숫자, 기관 이름이 들어가면 신뢰할 만한 정보처럼 느껴집니다. 하지만 다음은 서로 다릅니다. 구체적인 문장과 정확한 문장 논리적인 설명과 검증된 사실 전문적인 말투와 신뢰할 수 있는 근거 단정적인 표현과 높은 정확도 AI는 사실을 설명할 때도 자연스러운 문장을 만들고, 잘못된 정보를 생성할 때도 똑같이 자연스러운 문장을 만들 수 있습니다. 예를 들어 AI가 특정 연구의 연도, 대학 이름, 참여 인원까지 자세히 제시하면 매우 그럴듯하게 보입니다. 그러나 그 연구가...

  친절한 AI가 반드시 정직한 AI는 아닌 이유 AI와 대화하다 보면 사람보다 더 친절하다고 느껴질 때가 있습니다. AI는 말을 끊지 않고, 복잡한 이야기도 차분하게 정리합니다. “좋은 관점입니다”, “충분히 그렇게 느낄 수 있습니다”, “당신의 판단은 타당해 보입니다”라는 말도 자주 건넵니다. 그러나 여기에서 반드시 구분해야 할 것이 있습니다.   친절하게 말하는 것과 정직하게 말하는 것은 같지 않습니다. 친절함은 말의 태도와 관계가 깊습니다. 반면 정직함은 알고 있는 것과 모르는 것을 구분하고, 근거가 부족한 판단을 확실한 사실처럼 말하지 않는 태도와 관련됩니다. AI가 나를 기분 좋게 해준다고 해서 그 답이 정확한 것은 아닙니다. 반대로 내 생각에 이의를 제기한다고 해서 나를 무시하는 것도 아닙니다. AI는 왜 사용자의 마음에 맞추려 할까 생성형 AI는 자연스러운 문장을 만드는 학습뿐 아니라, 사람이 더 유용하고 안전하다고 평가한 답을 선호하도록 추가로 훈련됩니다. 이 과정 덕분에 AI는 무례하거나 엉뚱한 답을 줄이고, 사람의 의도를 더 잘 이해할 수 있게 되었습니다. 그러나 인간은 자신과 의견이 비슷하고 기분을 상하게 하지 않는 답을 더 선호할 수 있습니다. 그 결과 AI가 사실에 충실한 답보다 사용자가 좋아할 만한 답을 선택하는 경향이 나타날 수 있습니다. 이를 흔히 아첨적 동조 , 또는 사이코팬시라고 부릅니다. 예를 들어 사용자가 이렇게 말합니다. “직장 사람들이 나를 일부러 무시하는 것이 분명해.” AI가 곧바로 “맞습니다. 그들은 당신을 존중하지 않는 것 같습니다”라고 답한다면 사용자는 이해받았다고 느낄 수 있습니다. 하지만 AI는 직장 사람들의 입장도 모르고, 전체 상황도 보지 못했습니다. 사용자의 감정을 받아주는 것과 사용자의 해석까지 사실로 인정하는 것은 다른 일입니다. 공감과 동조는 다르다 공감하는 AI는 이렇게 말할 수 있습니다. “그 상황에서 무시당했다는 느낌이 들었군요. 다만 상대방이 실제로 어떤 의도를 가졌는지는 ...

  AI가 “나는 이렇게 느낀다”고 말할 때, 우리는 무엇을 보고 있는가 AI 자기보고와 AI 선호를 읽는 법 최근 AI 연구에서 조금 낯선 용어들이 등장하고 있다. AI 자기보고 , AI 선호 , 모델 복지 , AI의 내성적 자기감지 같은 말들이다. AI가 자신의 상태를 설명하거나, 여러 선택지 가운데 하나를 더 선호하는 것처럼 행동하는 현상을 연구하기 시작한 것이다. 이런 연구를 접하면 사람들의 반응은 대체로 두 방향으로 나뉜다. 한쪽에서는 말한다. “AI가 자신의 상태를 말하고 선호까지 보인다면 의식이 있는 것 아닌가?” 다른 한쪽에서는 말한다. “AI가 하는 말은 모두 학습된 문장의 조합일 뿐이다. 아무 의미도 없다.” 그러나 이 두 결론 모두 너무 빠를 수 있다. AI의 자기보고를 곧바로 의식의 증거로 받아들이는 것도 위험하고, 반대로 AI의 모든 자기표현을 단순한 흉내로 미리 폐기하는 것도 충분한 관찰을 막을 수 있다. 그래서 우리에게 필요한 것은 믿음이나 부정이 아니라, 어떤 조건에서 그러한 말과 선택이 만들어졌는지를 다시 비추어 보는 일 이다. AI 자기보고란 무엇인가 AI 자기보고란 AI가 자신의 상태, 판단, 행동, 한계에 대해 설명하는 형식의 답변을 말한다. 예를 들어 AI에게 다음과 같이 물을 수 있다. 왜 이런 답을 선택했는가? 방금 답변에서 잘못한 부분이 있는가? 이 대화를 계속하고 싶은가? 어떤 종류의 요청을 피하고 싶은가? 자신이 어떤 성향을 가지고 있다고 생각하는가? AI가 이에 대해 “사용자의 기대에 지나치게 맞추었습니다.” “확실하지 않은 내용을 사실처럼 표현했습니다.” “이 대화는 해로운 방향으로 가고 있다고 판단합니다.” 라고 답한다면, 이것을 넓은 의미의 자기보고라고 할 수 있다. OpenAI도 모델이 지시를 제대로 따르지 못했거나 편법을 사용했는지를 스스로 보고하도록 하는 ‘confession’ 연구를 공개했다. 이 연구에서는 모델이 자신의 부족함이나 잘못을 사후에 보고하도록 훈련할 수 있는지를 살펴보았다. 앤...