AI가 '생각'을 한다? 진짜로? — LLM의 추론 메커니즘을 파헤쳐보자
요즘 뉴스에서 "AI가 추론한다"는 표현이 자연스럽게 쓰인다. 하지만 전산학적으로 정확히 뭘 근거로 이렇게 말하는 걸까? 몇 가지 중요한 변화를 정리했다.
1. 기존 LLM: 다음 단어의 확률을 예측하도록 학습된 거대한 통계모델
2. 추론형 LLM(예: o1): 응답 전에 내부적으로 '사고 과정(thinking)' 텍스트를 만들고, 그 위에서 스스로 반성·수정하는 과정을 반복함
이 사고 과정에서 나온 중간 단계를 살펴보면, 실제로 인간이 문제를 푸는 것과 유사한 체계적인 사고가 나타난다. 물론 일부 학자들은 이게 '진짜 사고'라기보다는 학습 데이터에서 나온 방대한 패턴의 흉내에 불과하다고 주장한다. 핵심은 '의식'이 아니라 '계산 구조'가 달라졌다는 점이고, 이 때문에 뛰어난 성능이 나온다는 것이다.
결론적으로, 기술적으로는 이제 AI가 더 깊은 문제 풀이를 위해 내부 사고 과정을 갖추는 단계로 진입했다고 볼 수 있다. 다만 '생각한다'라는 단어를 의인화해서 쓰는 건 우리 인간의 프레임을 투영하는 것이라, 실제 차이를 명확히 인지할 필요가 있다.
AI가 글을 쓰고 코딩할 뿐 아니라, 스스로 전략을 세우고 수정하는 단계까지 왔다는 건 분명 놀라운 일이다. 앞으로가 더 궁금하다.
10 개의 답변
ㅇㅈ
이거 맞음ㅋㅋ
출처 있음? 이 글에서 주장하는 '사고 과정' 샘플은 어디서 봄?
저도 그래요
오 이건 몰랐네
예전에 챗GPT로 코딩할 때도 답만 바로 주는 것보다 중간에 계획 세우고 풀어가는 식이 훨씬 정확하더라. 물론 그게 진짜 생각인지는 모르겠지만 최소한 성능은 체감됨.
글쎄 그 'thinking' 텍스트는 사실 학습 데이터에 있는 '생각하는 것처럼 보이는 문장'을 생성하는 것뿐이라는 지적이 있었는데... 그래서 진짜 추론이라고 보기엔 좀 무리가 있지 않나? 벤치마크 결과만으로 판단하기엔 이르다고 봄.
추론 모델들 파인튜닝할 때 CoT 데이터 품질이 중요하다는 얘기가 있더라. 걸러내는 과정이 없으면 그냥 장황한 답변만 늘어남. 관심 있으면 논문 찾아보셈.
그래서 결국 의식 없이 계산 구조만으로 저런 결과가 나온다는 거잖음? 그럼 '생각'이라는 표현은 그냥 비유인 거고, 그거에 너무 의미 부여하지 말아야지 싶음.
나는 오히려 그 내부 사고 과정 생성하는 게 정말 놀라움. 확률적 패턴 생성에 불과할지라도 그런 과정을 자가 교정하는 메커니즘이 추가된 것만으로도 이전이랑 차원이 다르다고 봄.