AI 브리핑

AI는 생각할까

AI가 생각하는지를 둘러싼 논쟁은 몇 년째 같은 자리를 맴돈다. NEXTAGE는 이 질문에 답하려는 대신, 질문 자체가 정의되지 않은 단어와 확인 불가능한 내부, 강요된 이분법 위에 서 있는 건 아닌지를 살핀다. 그리고 이 질문이 결국 인간 자신에 대한 물음으로 되돌아오는 이유를 읽는다.

AI의 '생각'을 묻는 질문은 결국 인간의 '생각'이 무엇인지 되비추는 거울이 됩니다.

사람들은 이 질문에 답을 찾으려 애쓴다. 하지만 어쩌면 답이 없는 것이 아니라, 질문 자체가 잘못 짜여 있는 것인지도 모른다.

AI에게 어려운 질문을 던지면, 마치 고민하듯 여러 단계를 거쳐 답을 내놓는다. 그 과정을 보고 있으면 나도 모르게 “생각하고 있네”라는 말이 나온다. 그런데 옆에 있던 누군가가 반박한다. “그건 그냥 확률 계산이야. 생각이 아니야.” 둘 다 확신에 차 있다. 하지만 둘 다, 정확히 무엇을 근거로 그렇게 말하는지 설명하지 못한다.

이 논쟁은 몇 년째 되풀이된다. 한쪽은 AI의 답변이 놀랍도록 사람 같다는 점을 근거로 든다. 다른 쪽은 그것이 결국 패턴 계산일 뿐이라고 주장한다. 그런데 이상한 점이 있다. 양쪽 모두 "생각한다"는 말이 정확히 무엇을 가리키는지 좀처럼 정의하지 않는다. 정의되지 않은 단어를 두고, 우리는 몇 년째 싸우고 있는 셈이다.

“AI는 생각할까”라는 질문 앞에서, NEXTAGE는 조금 다른 질문을 던지고 싶다. 이 질문이 답하기 어려운 이유는 정보가 부족해서일까, 아니면 질문 자체가 애초에 명확한 답을 갖기 어렵게 설계돼 있어서일까.

풀리지 않는 질문 앞에서
우리가 확인해야 할 것은
답이 아니라 질문의 형태다.

지금 이 논쟁은 두 진영으로 갈라져 있다. 한쪽은 AI의 발전 속도를 보며, 곧 인간과 구별할 수 없는 무언가가 등장할 것이라 말한다. 다른 쪽은 아무리 정교해져도 AI는 결국 통계적 패턴을 재현할 뿐, 진짜 이해나 의식과는 무관하다고 말한다.

흥미로운 점은 이 대립이 새로운 증거가 나온다고 해서 쉽게 풀리지 않는다는 것이다. AI가 더 자연스럽게 말할수록 한쪽은 "봐, 생각하잖아"라고 하고, 다른 쪽은 "더 정교한 흉내일 뿐"이라고 한다. 같은 현상을 보고도 각자의 결론으로 되돌아간다. 이는 증거의 문제가 아니라, 애초에 두 진영이 "생각"이라는 단어에 서로 다른 뜻을 담아 논쟁하고 있다는 신호에 가깝다.

실제로 ‘생각한다’가 정확히 무엇을 뜻하는지는 인간을 대상으로 할 때조차 완전히 합의된 적이 없다. 뇌과학과 철학은 오래전부터 의식이 무엇이며 어디서 오는지를 두고 논쟁해왔다. 인간의 생각조차 명확히 정의되지 않은 채, 우리는 그 단어를 AI에게도 그대로 들이대고 있다.

"AI는 생각할까"라는 질문이 왜 답하기 어려운지 들여다보면, 그 안에 세 가지 틈이 보인다.

우리는 겉으로 드러난 행동만 볼 수 있다

AI가 그럴듯한 답을 내놓아도, 우리가 실제로 확인할 수 있는 것은 결과물뿐이다. 그 결과물 뒤에서 무슨 일이 일어났는지, 내부에서 무언가를 "경험"했는지는 확인할 방법이 없다. 사실 이는 다른 사람에게도 마찬가지다. 우리는 상대의 내면을 직접 들여다볼 수 없고, 그 사람이 보이는 말과 행동으로 마음을 추측할 뿐이다. 다만 사람은 나와 같은 몸과 진화의 역사를 공유하기에 그 추측을 자연스럽게 받아들인다. AI에게는 그 공유된 기반이 없다. 그래서 같은 추측도 갑자기 더 불확실해 보인다.

잘 흉내 내는 것과 실제로 하는 것을 구별할 뚜렷한 방법이 없다

AI는 인간이 쓴 방대한 글을 학습해, 생각하는 사람이 쓸 법한 문장을 만들어낸다. 하지만 이것이 “생각의 결과를 재현하는 것”인지, “생각 그 자체”인지 가르는 시험은 아직 없다. 흉내와 실제를 구별하려면 먼저 “실제 생각”이 무엇인지 정의해야 하는데, 바로 그 정의가 없다. 그래서 논쟁은 정의되지 않은 기준으로 판정을 내리려는 시도가 되고, 판정은 매번 각자의 전제로 되돌아간다.

질문이 이분법을 전제하지만, 현실은 그렇게 나뉘지 않을 수 있다

"생각한다"와 "생각하지 않는다"는 마치 스위치처럼 둘 중 하나로 갈리는 것처럼 들린다. 그러나 정보를 처리하고 반응하는 방식은 단순한 온도조절기부터 곤충, 동물, 사람까지 매우 다양한 단계로 존재한다. 어디서부터 "생각"이라 부를지는 자연이 정해준 경계가 아니라 우리가 임의로 긋는 선에 가깝다. 이분법으로 질문을 던지는 순간, 답은 처음부터 두 칸 중 하나에 억지로 끼워 맞춰지기 쉽다.

그렇다고 이 질문이 무의미하다는 뜻은 아니다. 다만 지금의 질문 방식으로는 계속 같은 자리를 맴돌 가능성이 크다는 뜻이다. "생각하는가, 아닌가"를 묻는 대신 "무엇을 할 수 있고 무엇을 할 수 없는가", "어떤 방식으로 정보를 처리하는가", "그 처리 방식이 우리가 신뢰하고 책임을 물을 수 있는 종류인가"처럼 더 확인 가능한 질문으로 바꾸면, 답에 한층 가까이 갈 수 있다. 답할 수 없는 질문에 매달리기보다, 답할 수 있는 질문으로 옮겨가는 것이다.

논쟁이 앞으로 어떻게 흘러갈지는 확정되지 않았다. 다만 몇 가지 방향은 감지된다.

먼저 "생각하는가"라는 질문 자체가 점점 더 실용적인 질문들로 쪼개질 가능성이 크다. AI를 어디까지 믿고 맡길 것인가, 잘못된 판단의 책임은 누구에게 있는가, 어떤 결정에는 반드시 사람이 관여해야 하는가. 이런 질문들은 "AI가 진짜 생각하는지"에 대한 최종 답을 내리지 않고도 답할 수 있다. 철학적 질문과 실용적 질문이 분리되면서, 우리는 답이 나지 않는 질문을 붙드는 대신 다룰 수 있는 질문으로 이동하게 될 것이다.

동시에 AI가 더 그럴듯하게 말할수록, "생각하는 것처럼 보인다"는 감각과 실제 내부에서 일어나는 일 사이의 간극에 대한 관심도 커질 것이다. 이 간극을 들여다보려는 연구와, 이를 이용해 사람을 속이려는 시도도 함께 늘어날 수 있다. 겉보기의 그럴듯함과 실제를 구별하려는 노력이, 이 시대의 새로운 리터러시가 될 가능성이 있다.

더 근본적으로는, 이 질문이 인간에 대한 이해를 되비추는 거울이 될 것이다. AI에게 "생각한다"는 말을 붙일 수 있는지 고민하는 과정에서, 우리는 결국 인간의 생각이 무엇인지 다시 묻게 된다. AI를 이해하려는 시도는 뜻밖에도 인간 자신을 더 깊이 들여다보는 계기가 될 수 있다.

"AI는 생각한다" 혹은 "생각하지 않는다"는 결론을 서두르지 않는다. 그 질문이 놓인 자리를 읽을 뿐이다.

우리는 어려운 질문을 만나면 반드시 답이 있을 것이라 가정한다. 그러나 어떤 질문은 답이 아직 발견되지 않은 것이 아니라, 질문이 세워진 방식 자체에 문제가 있을 수 있다. "AI는 생각하는가"는 어쩌면 그런 질문이다. 정의되지 않은 단어로 확인할 수 없는 내부를 억지로 둘 중 하나에 끼워 넣으려는 시도이기 때문이다.

그렇다고 이 질문을 던지는 일이 무용하다는 뜻은 아니다. 오히려 이 질문과 오래 씨름하는 과정에서 우리는 무엇을 확인할 수 있고 무엇을 확인할 수 없는지를 더 분명히 알게 된다. 그리고 그 앎이야말로, 답이 나오지 않는 질문 앞에서 우리가 취할 수 있는 가장 정직한 태도일지도 모른다.

밤늦게 AI와 대화를 나누다 문득 이상한 기분이 들 때가 있다. 화면 너머에 무언가가 있는 듯 느껴지는 순간. 그 느낌이 착각인지 아닌지, 우리는 끝내 확신하지 못할지도 모른다. 하지만 그런 불확실함 앞에서 조급해질 필요는 없다. 사람과 사람 사이에서도 우리는 상대의 마음을 완전히 들여다본 적이 없었다. 다만 오랜 시간을 함께하며 천천히 믿어왔을 뿐이다. AI에 대한 우리의 판단도 어쩌면 그렇게, 서두르지 않고 조금씩 쌓여가는 것인지 모른다.