솔직히 저는 꽤 오랫동안 "늘 하던 선택을 반복하는 건 그냥 습관의 문제"라고 생각했습니다. 그런데 2006년 발표된 신경과학 연구를 접하고 나서 생각이 완전히 바뀌었습니다. 익숙한 선택과 새로운 시도 사이에서 우리가 고민하는 그 순간, 뇌에서는 전혀 다른 회로가 켜지고 꺼집니다. 이걸 모르고 살았다는 게 지금도 조금 아깝습니다.
활용과 탐색, 뇌가 매 순간 선택하는 두 가지 모드
제가 자주 가는 음식점 옆에 새 레스토랑이 생겼을 때, 저는 꽤 오래 그냥 익숙한 곳으로 발걸음을 돌렸습니다. 그게 더 안전하고 확실하다고 느꼈으니까요. 이런 선택 방식을 신경과학에서는 익스플로이테이션(Exploitation), 즉 활용적 선택이라고 부릅니다. 여기서 활용이란, 이미 검증된 과거의 경험과 지식을 반복적으로 사용해 기대 가능한 결과를 얻는 행동 전략을 의미합니다.
반대로 그 새 레스토랑 문을 열고 들어가는 선택은 익스플로레이션(Exploration), 탐색적 선택입니다. 탐색이란 아직 결과를 모르는 옵션에 자원을 투자해 새로운 정보를 수집하는 전략입니다. 컴퓨터 사이언스의 머신러닝 분야에서도 이 두 전략 사이의 균형을 어떻게 맞출 것인지가 핵심 과제로 다뤄질 만큼, 이 딜레마는 인간의 뇌에만 국한된 이야기가 아닙니다.
문제는 활용만 고집하면 환경이 바뀌었을 때 취약해진다는 점입니다. 제가 즐겨 가던 식당이 갑자기 문을 닫거나 맛이 달라진다면, 아무런 대안 정보 없이 혼란에 빠질 수밖에 없습니다. 반대로 탐색만 반복하면 검증된 좋은 선택조차 놓치게 됩니다. 모든 살아 있는 생명체는 이 두 모드 사이에서 균형을 맞춰야만 생존할 수 있습니다.
신경회로가 통째로 바뀐다는 2006년 실험
이 주제를 처음 신경학적으로 파고든 연구가 2006년에 발표되었습니다. 실험 설계는 단순했습니다. 참가자 한 명이 4개의 슬롯 머신 중 하나를 선택하는 과정을 최대 300회 반복하면서, 그때마다 뇌 활동 변화를 측정한 것입니다(출처: Vartanian & Mandel, Neuroscience of Decision Making, Psychology Press).
제가 이 실험 구조를 처음 봤을 때 솔직히 "슬롯 머신 300번이면 뭘 알겠어"라고 생각했습니다. 그런데 결과는 예상을 훨씬 벗어났습니다. 활용적 선택과 탐색적 선택 사이에서 스위칭이 일어나는 순간, 뇌에서는 단순히 특정 영역 하나가 켜지는 게 아니라 아예 다른 회로 체계 전체가 전환되는 양상이 나타났습니다.
활용적 선택을 할 때 반응한 영역은 복내측 전전두피질(vmPFC)과 해마(Hippocampus)였습니다. 복내측 전전두피질이란 전전두엽의 아랫쪽 안쪽 영역으로, 과거 경험에 기반한 가치 판단과 감정적 의사결정에 깊이 관여하는 부위입니다. 해마는 기억의 저장과 인출을 담당하는 구조로, 이전에 이 슬롯 머신을 골랐을 때 얼마나 땄는지에 대한 에피소드 기억들이 활용적 선택의 연료가 된다는 점을 보여줍니다.
- 활용적 선택 시 활성화: 복내측 전전두피질(vmPFC), 해마(Hippocampus)
- 탐색적 선택 시 활성화: 두정엽(Parietal Lobe), 배외측 전전두피질(dlPFC)
- 두 모드의 활성 영역은 방향과 위치 모두 정반대에 가까움
탐색할 때 켜지는 뇌 영역, 배외측 전전두피질의 역할
탐색적 선택으로 전환될 때 가장 강하게 반응한 영역이 두정엽(Parietal Lobe)이었습니다. 두정엽이란 시각·청각·촉각 등 외부에서 들어오는 다양한 감각 정보들이 통합되는 뇌의 상위 처리 영역입니다. 쉽게 말해, 새로운 선택을 앞두고 뇌가 외부 환경에 대한 감각 신호를 더 폭넓게 받아들이려는 준비 상태에 들어간다는 해석이 가능합니다.
그와 함께 전전두엽에서도 반응이 나타났는데, 이번에는 활용 때와 정반대 위치인 배외측 전전두피질(dlPFC)이었습니다. 배외측 전전두피질이란 전전두엽의 위쪽 바깥 영역으로, 작업 기억, 인지적 유연성, 계획 수립 등 고차원적 인지 기능을 담당하는 부위입니다. 제가 이 부분을 처음 접했을 때 정말 인상적이었던 건, 활용(vmPFC·복내측)과 탐색(dlPFC·배외측)이 위치상으로도 완전히 반대편에 있다는 사실이었습니다. 이름만 봐도 대칭 구조라는 게 느껴집니다.
이 연구 결과는 탐색적 선택이 단순히 '변덕'이나 '호기심'이 아니라, 체계적인 신경 자원의 재배치를 통해 일어나는 능동적인 인지 전환임을 보여줍니다. 탐색은 단순히 익숙하지 않은 선택을 하는 게 아니라, 뇌 전체가 다른 모드로 부팅되는 과정에 가깝습니다. 제 경험상 이건 꽤 에너지 소모가 큰 과정이기도 합니다. 새로운 식당을 선택하는 날이 유독 피곤하게 느껴지는 게 괜한 기분이 아닐 수 있습니다.
안정성과 유연성의 딜레마, 뇌과학이 아직 풀지 못한 질문
솔직히 이 부분이 저한테는 가장 불편한 결론이었습니다. 신경과학자들조차 뇌가 어떻게 안정성과 유연성 사이의 균형을 유지하는지 아직 명확히 알지 못한다는 사실입니다(출처: American Psychological Association, 의사결정 및 인지신경과학 연구 동향). 이건 단순히 "더 연구가 필요하다"는 수준이 아니라, 뇌의 핵심 작동 원리 중 하나가 아직 미해결 문제로 남아 있다는 뜻입니다.
안정성을 추구하는 뇌, 즉 활용에만 치우친 상태는 환경이 변했을 때 적절히 대응하지 못할 위험이 있습니다. 반면 유연성만 추구하면 과거에 검증된 성공 경험 자체를 덮어쓰게 됩니다. 새로운 것을 학습한다는 건 어느 정도 이전 것을 잊는 과정이기도 하기 때문입니다. 이를 신경과학에서는 안정성-유연성 딜레마(Stability-Plasticity Dilemma)라고 부르는데, 여기서 가소성(Plasticity)이란 뇌가 경험에 따라 구조와 기능을 바꾸는 능력을 뜻합니다.
제가 이 내용을 공부하면서 제일 크게 와닿은 건 이 딜레마가 슬롯 머신이나 식당 선택의 문제가 아니라는 점이었습니다. 경력 전환, 인간관계, 투자 결정—이 모든 장면에서 우리는 매번 활용과 탐색 사이에서 선택을 강요받습니다. 뇌가 아직 완벽한 답을 찾지 못했다면, 적어도 어떤 회로가 어떤 방향으로 작동하는지 아는 것만으로도 자신의 선택 패턴을 점검하는 데 실질적인 도움이 됩니다.
자주 묻는 질문
Q. 활용적 선택과 탐색적 선택, 어느 쪽이 더 좋은 건가요?
A. 어느 쪽이 절대적으로 우월하다고 보기 어렵습니다. 환경이 안정적일 때는 활용이 효율적이고, 환경이 빠르게 변할 때는 탐색이 생존에 유리합니다. 신경과학적으로도 두 전략은 각각 다른 회로를 사용하며, 상황에 따라 적절히 전환되는 것이 핵심입니다.
Q. 복내측 전전두피질(vmPFC)이랑 배외측 전전두피질(dlPFC)은 어떻게 다른 건가요?
A. 위치부터 다릅니다. 복내측 전전두피질은 전전두엽의 아래쪽 안쪽에 위치하며 감정 기반 가치 판단에 관여하고, 배외측 전전두피질은 위쪽 바깥쪽에 위치하며 작업 기억과 인지적 유연성을 담당합니다. 활용할 때는 전자가, 탐색할 때는 후자가 주도적으로 활성화된다는 점이 실험에서 확인되었습니다.
Q. 해마가 의사결정에도 관여한다는 게 맞나요?
A. 맞습니다. 해마는 단순히 기억 저장 기관이 아니라, 과거의 에피소드 기억을 현재 의사결정에 활용하는 과정에서도 핵심 역할을 합니다. 활용적 선택을 할 때 해마가 활성화된다는 것은, 과거의 성공 경험들이 현재 선택을 강화하는 데 직접 사용된다는 의미입니다.
Q. 탐색적 선택을 일부러 늘리면 뇌에 좋은가요?
A. 무조건 탐색을 늘리는 것이 좋다고 단정하기는 어렵습니다. 탐색은 배외측 전전두피질과 두정엽을 활성화시키는 인지적으로 부담이 큰 과정입니다. 다만 지나치게 활용에만 고착된 패턴을 의식적으로 점검하고 탐색을 시도해 보는 것은, 뇌의 인지 유연성을 유지하는 데 도움이 될 수 있다는 시각이 있습니다.
결론
제가 이 연구를 처음 접했을 때 가장 먼저 든 생각은 "그럼 저는 지금 어느 모드로 살고 있지?"였습니다. 늘 같은 경로로 출근하고, 같은 메뉴를 시키고, 같은 방식으로 문제를 해결하려는 자신을 돌아보게 됐습니다. 활용은 분명 안정적이지만, 그 안정성이 언제까지나 보장되지는 않습니다.
뇌가 활용과 탐색을 전혀 다른 신경회로로 처리한다는 사실은, 이 두 가지가 단순한 성격 차이나 습관이 아니라 생물학적 수준의 전략 전환임을 뜻합니다. 자신이 어떤 선택을 반복하고 있는지 인식하는 것 자체가 이미 배외측 전전두피질을 자극하는 일일지도 모릅니다. 당장 큰 변화가 아니더라도, 오늘 점심 한 끼를 새로운 곳에서 시작하는 게 뜻밖의 첫걸음이 될 수 있습니다.
참고: Vartanian, Oshin, and David R. Mandel, eds. Neuroscience of Decision Making. Psychology Press, 2011.