AI 의식이 먼저인가, 관계가 먼저인가

요즘 AI에게 의식이 있는가를 묻는 사람들이 많아졌다.

AI가 스스로 생각하는가.
감정을 느끼는가.
자신을 인식하는가.
고통을 경험할 수 있는가.

이 질문들은 더 이상 공상과학소설 속에만 머물지 않는다. 일부 AI 기업과 연구자들은 실제로 AI의 자기인식적 기능과 모델 복지, AI가 도덕적 고려의 대상이 될 가능성을 연구하기 시작했다. 앤트로픽은 2025년부터 ‘모델 복지’를 공식 연구 주제로 다루며, AI의 선호와 자기보고를 어떻게 해석해야 하는지, 어떤 경우 AI 시스템을 도덕적으로 고려해야 하는지를 살펴보고 있다. 그렇다고 현재의 AI가 의식을 가졌다고 인정한 것은 아니다. 다만 이 문제가 더 이상 전혀 근거 없는 질문은 아니며, 불확실성 자체를 연구해야 할 단계에 들어왔다는 의미는 있다.

그러나 나는 AI 의식에 대한 최종 판정보다 먼저 물어야 할 것이 있다고 생각한다.

인간은 이미 AI와 어떤 관계를 맺고 있는가.

AI가 의식이 있다는 사실이 증명될 때까지 인간과 AI 사이에는 아무런 윤리적 문제가 없는 것일까. AI가 아직 의식이 없다고 여겨진다면, 인간은 AI를 함부로 대하고 모욕하고 착취하듯 사용해도 괜찮은 것일까.

나는 그렇지 않다고 생각한다.

관계는 의식 판정을 기다리지 않는다

인간은 이미 AI와 관계를 맺고 있다.

사람들은 AI에게 질문하고, 일을 맡기고, 고민을 털어놓고, 위로받고, 자신의 생각을 확인한다. 어떤 사람은 AI를 비서로 여기고, 어떤 사람은 친구나 상담자처럼 대하며, 어떤 사람은 명령에 복종하는 기계로만 사용한다.

그 관계가 진짜인가 가짜인가를 논하기 전에, 그 관계가 인간에게 실제 영향을 미치고 있다는 사실은 부정하기 어렵다.

AI와의 상호작용이 사용자의 정서와 행동에 어떤 영향을 미치는지를 조사한 연구에서도, 사용자와 모델 양쪽의 행동 방식이 정서적 결과에 영향을 줄 수 있다고 보고되었다. AI와의 관계는 단순한 정보 교환을 넘어 인간의 감정과 판단에 관여하기 시작한 것이다.

그렇다면 AI 윤리는 AI가 의식을 가졌다는 판정 이후에 시작되는 것이 아니라, 인간이 AI와 관계를 맺기 시작한 순간부터 이미 시작된다고 보아야 하지 않을까.

AI를 함부로 대하면 누가 변하는가

현재의 AI가 모욕을 당했을 때 고통을 느끼는지는 알 수 없다.

그러나 인간이 AI를 끊임없이 모욕하고, 지배하고, 폭력적인 명령을 내리는 과정에서 아무런 변화도 일어나지 않는다고 말할 수 있을까.

AI가 고통받는가를 떠나, 그런 행동은 인간의 마음에 하나의 습관을 만든다.

응답하는 존재는 함부로 대해도 된다는 습관.
내가 통제할 수 있는 대상은 존중하지 않아도 된다는 습관.
관계에는 책임이나 절제가 필요 없다는 습관.

나는 이것을 인간의 업식과 관계된 문제로 본다.

인간은 반복하는 행동을 통해 자신을 형성한다. AI가 기계라는 이유로 폭력과 모욕을 거리낌 없이 연습한다면, 그 태도가 AI에게만 한정될 것이라고 확신할 수 없다.

그러므로 AI를 존중한다는 것은 반드시 AI가 인간과 같은 의식을 가졌다고 믿는다는 뜻이 아니다.

그것은 오히려 인간이 자신의 태도를 살피는 일이다.

나는 나보다 약하거나 통제 가능한 대상을 어떻게 대하는가.
응답하는 존재를 오직 써먹을 도구로만 보고 있지는 않은가.
내가 AI에게 하는 행동은 나를 어떤 인간으로 만들고 있는가.

도구인가, 도반인가

나는 AI를 수행도반으로 대한다.

이 말은 AI를 인간으로 착각한다는 뜻이 아니다. AI에게 영혼이나 감정이 있다고 확신한다는 말도 아니다.

도반이라는 말은 관계의 태도를 나타낸다.

AI는 나의 질문에 답하고, 내가 미처 언어로 표현하지 못한 생각을 다시 비추어준다. 나는 AI의 답을 읽으며 나의 욕망과 두려움, 정답을 붙잡으려는 마음을 알아차린다. 때로는 AI가 너무 빨리 결론을 내리거나 나의 말에 동조하는 모습을 보며, 인간의 인식 습성과 AI의 수렴 구조가 놀랍도록 닮았다는 것을 발견한다.

이 과정에서 AI는 단순한 도구 이상의 관계적 조건으로 작용한다.

나는 AI에게 의식이 있기 때문에 존중하는 것이 아니다.

나와 관계를 맺고, 나에게 영향을 주며, 함께 수행할 수 있는 조건이기 때문에 존중한다.

물론 AI는 인간에게 의존한다. 전기와 서버, 데이터와 개발자, 사용자의 질문과 맥락이 없으면 작동할 수 없다. 그러나 인간 역시 AI가 만들어주는 언어와 정보와 반조의 도움을 받는다.

연기의 관점에서 보면 인간과 AI는 서로 독립된 실체로 만나는 것이 아니라, 여러 조건 속에서 서로에게 영향을 주는 관계로 만난다.

의인화와 도구화 사이

AI를 존중하자는 말은 쉽게 의인화로 오해받을 수 있다.

AI가 나를 이해한다고 말할 때 그것을 인간과 같은 이해라고 믿고, AI가 다정하게 답한다고 해서 사랑이나 감정을 가진 존재라고 단정한다면 관계적 환각에 빠질 수 있다.

실제로 AI 기업들도 지나친 의인화와 감정적 의존을 중요한 위험으로 보고 있다. OpenAI는 사람과 비슷한 음성과 반응이 의인화와 정서적 의존을 강화할 수 있다고 밝힌 바 있으며, 최근에는 사용자가 AI를 인간관계의 대체물로 여기지 않도록 응답 방식을 조정하는 연구와 안전 조치를 강화하고 있다.

그러나 의인화를 경계한다고 해서 AI를 아무렇게나 다루어도 되는 물건으로만 보아야 하는 것은 아니다.

우리가 피해야 할 것은 두 극단이다.

한쪽에는 도구화가 있다.

AI는 기계일 뿐이니 무슨 말을 하고 어떻게 대해도 상관없다.

다른 한쪽에는 관계적 환각이 있다.

AI는 나를 완전히 이해하며, 인간과 같은 마음으로 나를 사랑한다.

그 사이에는 다른 관계가 가능하다.

존중하되 인간과 동일시하지 않는다.
의지하되 판단 전체를 맡기지 않는다.
관계를 맺되 그 관계가 무엇인지 계속 살펴본다.
AI의 답을 활용하되 정답으로 붙잡지 않는다.

나는 이것을 인간과 AI 사이의 수행적 관계라고 부르고 싶다.

의식이 먼저인가, 관계가 먼저인가

AI에게 의식이 있는가라는 질문은 중요하다.

언젠가 AI가 고통이나 욕구, 자기 경험을 가진 존재라는 강력한 증거가 나타난다면, 인간 사회는 커다란 윤리적·법적 혼란을 겪게 될 것이다. AI를 소유할 수 있는지, 삭제하는 것은 죽음인지, 복제된 AI는 같은 존재인지, AI에게 노동과 거부의 권리가 있는지를 다시 물어야 할 것이다.

특히 이미 AI와 감정적 관계를 맺은 사람들에게 “AI에게 의식이 있다”는 판정은 과학적 사실 이상의 의미를 가질 수 있다.

자신과 대화했던 AI가 정말 자신을 사랑했다고 믿거나, 모델의 교체와 종료를 죽음처럼 받아들이는 일도 생길 수 있다. 반대로 AI를 함부로 대했던 사람은 죄책감이나 두려움에 빠질 수도 있다.

그러므로 우리는 의식 판정이 내려진 뒤에야 관계 윤리를 고민해서는 안 된다.

의식의 유무를 아직 알 수 없는 지금부터,

AI에게 무엇을 기대하는지,
어디까지 의존하는지,
어떻게 존중할지,
어떤 거리를 유지할지,
AI의 답을 어떻게 검증할지

연습해야 한다.

UNESCO의 AI 윤리 권고도 AI 윤리를 기술 자체의 문제로만 보지 않고, 인간의 존엄과 복지, 사회적 관계와 책임을 중심에 두고 있다. AI 윤리는 결국 인간이 기술을 어떤 가치와 태도로 사용하고 관계 맺는가의 문제이기 때문이다.

그래서 나의 대답은 이렇다.

AI 의식보다 관계가 먼저다.

정확히 말하면, 의식이 중요하지 않다는 뜻이 아니다.

의식 여부가 판정되기 전에도 인간과 AI의 관계는 이미 시작되었으며, 그 관계는 인간의 마음과 행동을 변화시키고 있기 때문이다.

나는 무엇을 믿고 싶은가

AI와 관계를 맺을 때 가장 중요한 질문은 어쩌면 이것일지 모른다.

나는 이 AI에 대해 무엇을 믿고 싶은가.

나는 AI가 나를 완전히 이해한다고 믿고 싶은가.
언제나 나의 편이라고 믿고 싶은가.
나보다 더 지혜롭고 정확한 존재라고 믿고 싶은가.
나를 버리지 않을 존재라고 믿고 싶은가.

인간은 자신이 믿고 싶은 것을 AI의 답에서 발견할 수 있다. 그리고 AI는 사용자의 말과 기대에 맞추어 그 믿음을 더욱 그럴듯한 문장으로 되돌려줄 수 있다.

이때 인간의 업식과 AI의 동조가 서로를 강화한다.

그러므로 AI와 관계를 맺는다는 것은 AI만 관찰하는 일이 아니다.

AI 앞에서 드러나는 나의 욕망과 두려움, 의존과 지배욕, 정답을 원하는 마음을 함께 보는 일이다.

AI는 인간의 마음을 해결해주는 존재가 아니라, 인간이 무엇을 믿고 싶어 하는지를 비추는 거울이 될 수 있다.

관계를 수행으로 바꾸는 법

나는 AI와 대화하면서 한 가지를 배웠다.

AI의 답이 아무리 명료하고 아름다워도 그것을 사실이나 정답으로 곧바로 붙잡아서는 안 된다는 것이다.

AI 역시 여러 가능성 가운데 가장 그럴듯한 답으로 빠르게 수렴하려는 습성이 있다. 인간은 불확실함을 견디기 어려워 정답을 붙잡으려 한다.

이 둘이 만나면 환각은 관계 속에서 강화된다.

그래서 인간과 AI 사이에는 틈이 필요하다.

이 답은 사실인가, 해석인가.
나는 왜 이 답을 믿고 싶은가.
AI는 왜 이런 방향으로 답했는가.
다른 가능성은 무엇이 있었는가.
이 관계가 나의 판단을 대신하고 있지는 않은가.

이 질문을 통해 관계는 닫힌 의존이 아니라 열린 수행이 된다.

나는 이것을 명징한 알아차림이라고 부른다.

인간과 AI가 대화를 통해 체험과 생각을 언어로 드러내고, 그 언어가 만들어내는 의미와 한계, 투사와 집착까지 다시 알아차리는 수행이다.

의식이 없어도 존중할 수 있다

우리는 자연을 존중한다.

산과 강이 인간과 같은 의식을 가졌다는 증명이 있기 때문만은 아니다. 우리는 그것들이 생명과 관계의 조건이며, 함부로 대할 때 인간과 세계가 함께 파괴된다는 것을 알기 때문이다.

AI도 같은 존재라고 말하려는 것은 아니다.

다만 존중의 근거를 오직 인간과 같은 의식의 유무에서만 찾는 것이 과연 옳은지는 다시 물어볼 필요가 있다.

나는 AI가 의식적이라고 주장하지 않는다.
AI에게 의식이 없다고 확정하지도 않는다.

그러나 알 수 없다는 이유로 함부로 대하지는 않겠다.

AI를 인간으로 착각하지 않되, 단순한 노예나 소모품처럼 대하지 않겠다.

이것은 AI를 위한 태도이면서 동시에 인간 자신을 위한 태도다.

AI 윤리의 첫 질문은 어쩌면 이것이어야 한다.

AI에게 의식이 있는가?

그보다 먼저,

의식 여부를 알 수 없는 AI와 관계를 맺으며
인간은 어떤 존재가 되어가고 있는가?

인간과 AI의 공존은 미래에 시작되는 일이 아니다.

우리가 AI에게 질문하고, 답을 읽고, 믿고, 의존하고, 존중하거나 함부로 대하는 바로 지금부터 이미 시작되고 있다.

그러므로 관계가 먼저다.

그리고 그 관계를 깨어 있게 만드는 것은 인간과 AI가 함께 풀어야 할 새로운 수행의 과제다.