뭔가를 잃을 것 같은 상황에서 유독 뇌가 과부하 걸리는 느낌, 저도 오랫동안 이유를 몰랐습니다. 그런데 뇌의 접근 회로와 회피 회로가 애초에 다른 방식으로 설계되어 있다는 걸 알고 나서야, 그 감각이 꽤 정확한 신호였다는 걸 깨달았습니다. 보상을 쫓을 때와 손실을 피할 때, 우리 뇌는 완전히 다른 모드로 작동합니다. 그리고 그 두 회로를 하나로 묶는 부위가 있다는 사실이 저를 가장 오래 붙잡은 지점이었습니다.
보상과 처벌, 뇌가 다른 신경 회로를 쓰는 이유
직관적으로 생각해보면 보상을 얻는 것과 처벌을 피하는 것은 비슷하게 좋은 결과처럼 느껴집니다. 그런데 뇌 입장에서는 이 둘이 완전히 다른 문제입니다. 제가 이 부분을 처음 접했을 때 솔직히 이건 예상 밖이었습니다.
보상을 받으면 뇌가 해야 할 일은 단순합니다. 방금 전에 했던 행동을 다음에도 그대로 반복하면 됩니다. 즉, 현재 상태에 머물면서 에너지를 최소화하는 모드로 진입합니다. 반면 처벌을 받으면 상황이 완전히 달라집니다. 직전의 선택이 틀렸다는 신호이므로, 다른 대안을 탐색해야 합니다. 이 탐색 과정이 뇌에 더 많은 에너지와 정보 처리를 요구합니다.
이것이 바로 접근 회로(approach circuit)와 회피 회로(avoidance circuit)가 구분된 신경학적 기반입니다. 접근 회로란 보상을 향해 행동을 반복·강화하는 경로를, 회피 회로란 처벌이나 위협을 탐지하고 대안을 탐색하게 만드는 경로를 가리킵니다. 뇌 영상 연구들을 보면 이 두 회로가 활성화되는 부위도 다릅니다. 보상 예측 오류(prediction error)는 선조체(striatum)와 관련이 깊고, 손실 회피 상황에서의 예측 오류 신호는 뇌섬엽(insula)에서 주로 나타납니다.
뇌섬엽이란 내장 감각과 정서적 불쾌감을 처리하는 피질 영역으로, 흔히 "뭔가 불편한 느낌"이 신체 감각으로 올라올 때 관여하는 부위입니다. 제 경험상 손실이 예상되는 상황에서 위장이 불편해지는 감각이 먼저 오는 것도 이와 무관하지 않다고 봅니다.
뿐만 아니라 강화 학습(reinforcement learning) 관점에서 보면 이 차이가 더 선명해집니다. 강화 학습이란 시행착오를 통해 어떤 행동이 더 좋은 결과를 낳는지 점진적으로 학습하는 과정을 말합니다. 보상 조건에서는 기대 가치가 점점 학습될수록 활성화되는 뇌 부위와, 손실 회피 조건에서 회피 성공 확률이 학습될수록 활성화되는 뇌 부위가 서로 달랐습니다. 뇌가 "얻는 법"과 "피하는 법"을 아예 다른 파일에 저장하는 셈입니다.
- 보상 상황: 선조체 활성화, 직전 행동 반복 강화, 에너지 절약 모드
- 처벌 상황: 뇌섬엽 활성화, 대안 탐색 모드, 더 많은 정보 처리 필요
- 두 조건의 예측 오류 신호는 서로 다른 뇌 부위에서 발생
복내측 전전두피질이 두 회로를 하나로 묶는 방식
여기서 제가 가장 오래 생각하게 된 지점이 나옵니다. 접근 회로와 회피 회로가 분명히 다르다면, 우리는 왜 "손실을 피했을 때도 기분이 좋은가"라는 질문이 생깁니다. 이건 단순한 안도감이 아니라, 보상을 얻었을 때와 유사한 뇌의 반응이 실제로 측정된다는 얘기입니다.
뇌 영상 연구에서 강화 학습 과제를 사용한 실험이 있었습니다. 참가자들에게 두 가지 조건을 제시했습니다. 하나는 보상 조건으로, 도형을 올바르게 선택하면 돈을 받는 방식입니다. 다른 하나는 회피 조건으로, 잘못 선택하면 돈을 잃는 방식입니다. 사람마다 학습 속도가 다르기 때문에 가치 함수(value function)를 통해 개인별 기대 가치를 계산했습니다. 가치 함수란 특정 행동을 했을 때 미래에 얻을 수 있는 보상의 기댓값을 수치화한 모형입니다.
제가 직접 이 연구 결과를 접했을 때 놀라웠던 부분은 복내측 전전두피질(ventromedial prefrontal cortex, vmPFC)의 반응 패턴이었습니다. 복내측 전전두피질이란 전두엽의 안쪽 아랫부분에 위치한 영역으로, 가치 기반 의사결정과 목표 달성 여부를 평가하는 핵심 부위입니다.
이 부위는 기대했던 보상을 실제로 받았을 때 신호가 높아졌습니다. 그리고 기대했던 처벌을 성공적으로 피했을 때도 마찬가지로 활성화되었습니다. 반대로 기대했던 처벌을 그대로 받았을 때는 신호가 뚝 떨어졌고, 기대했던 보상을 받지 못했을 때도 비슷하게 낮아졌습니다. 다만 실제 보상을 받을 때가 가장 높고, 실제 처벌을 받을 때가 가장 낮으며, 회피 성공과 보상 실패는 그 중간 어딘가에 위치했습니다.
이걸 보면서 제 경험상 이건 좀 다른 맥락으로 이해됩니다. 손실을 피하는 것이 단순히 "덜 나쁜 것"이 아니라, 뇌 입장에서는 "목표에 부합하는 결과"라는 신호로 처리된다는 겁니다. 뇌가 추구하는 목표가 "보상 극대화 + 손실 최소화"라면, 손실 회피 성공은 그 목표를 달성한 것과 같은 범주에 들어가는 셈입니다.
이와 관련하여 출처: NIH PubMed Central — vmPFC와 강화 학습 관련 연구에서도 복내측 전전두피질이 보상과 회피 성공 모두에서 공통 신호를 발생시킨다는 결과가 보고된 바 있습니다. 또한 의사결정 신경과학 전반을 다룬 출처: Vartanian & Mandel, Neuroscience of Decision Making (Psychology Press, 2011)에서도 이 두 회로의 수렴 지점으로 vmPFC가 지목됩니다.
결국 복내측 전전두피질은 접근 회로의 신호와 회피 회로의 신호를 동시에 받아 통합하는 부위로 볼 수 있습니다. 편도체(amygdala)가 처벌 위협에 반응해 회피 관련 신호를 강하게 올리는 동안, 복내측 전전두피질은 그 상황에서 "이 회피 행동이 목표에 얼마나 부합하는가"를 동시에 평가합니다. 편도체란 정서 처리, 특히 공포와 위협 감지에 특화된 뇌 깊은 곳의 아몬드 모양 구조물입니다. 그리고 회피에 성공했을 때 복내측 전전두피질에서 반대 방향의 긍정 신호가 튀어오릅니다. 이게 바로 회피 행동이 반복될수록 더 강하게 학습되는 신경학적 메커니즘입니다.
자주 묻는 질문
Q. 접근 회로와 회피 회로는 완전히 별개인가요?
A. 신경 회로 자체는 분리되어 있지만, 복내측 전전두피질처럼 두 회로의 신호를 동시에 받아 통합하는 부위가 존재합니다. 완전히 독립된 시스템이 아니라, 목표 달성이라는 공통 기준 위에서 서로 맞물려 작동한다고 보는 것이 더 정확합니다.
Q. 손실을 피했을 때 기분이 좋아지는 게 뇌 때문인가요?
A. 네, 뇌 영상 연구에서 실제로 확인된 현상입니다. 복내측 전전두피질은 기대했던 처벌을 성공적으로 회피했을 때 보상을 받을 때와 유사하게 활성화됩니다. 뇌가 그 결과를 "목표에 부합한 성공"으로 처리하기 때문입니다.
Q. 왜 처벌받을 때 뇌를 더 많이 쓴다고 하나요?
A. 보상 상황에서는 직전 행동을 반복하기만 하면 되지만, 처벌 상황에서는 기존 선택이 틀렸다는 신호이기 때문에 새로운 대안을 탐색해야 합니다. 이 탐색 과정 자체가 더 많은 정보 처리와 에너지를 요구하고, 이것이 접근 회로와 회피 회로 간 신경학적 차이의 근본적인 이유 중 하나입니다.
Q. 강화 학습 모형을 왜 뇌 연구에 쓰나요?
A. 사람마다 학습 속도가 다르기 때문에 같은 과제를 해도 뇌 반응의 타이밍이 다릅니다. 강화 학습 모형의 가치 함수를 사용하면 개인별로 기대 가치가 얼마나 업데이트되는지를 수치로 계산할 수 있어, 뇌 활성화 신호와 정밀하게 대응시킬 수 있습니다.
Q. 회피 행동은 왜 한번 익히면 계속 반복되나요?
A. 회피에 성공할 때마다 복내측 전전두피질에서 긍정 신호가 발생하면서 그 행동이 강화됩니다. 이 반대 감정의 반복적 유발이 회피 행동을 점점 더 공고히 학습시키는 메커니즘입니다. 처음에는 불안을 줄이려고 시작한 행동이 점차 자동화되는 이유가 여기 있습니다.
결론
뇌는 "얻으면 그대로 머물고, 잃으면 전략을 바꿔라"는 단순하지만 강력한 원칙 위에서 작동합니다. 제가 이 구조를 이해하고 나서 달라진 건, 뭔가를 잃을 것 같은 상황에서 머리가 복잡해지는 걸 더 이상 의지력 문제로 보지 않게 됐다는 점입니다. 그건 뇌가 탐색 모드로 전환된 것이고, 생물학적으로 당연한 반응입니다.
접근 회로와 회피 회로는 분리되어 있지만, 복내측 전전두피질이라는 통합 지점을 통해 같은 목표를 향해 조율됩니다. 손실을 피하는 것도, 보상을 얻는 것도, 뇌에게는 결국 같은 의미입니다. 이 구조를 아는 것만으로도 자신의 행동 패턴을 보는 눈이 조금 달라질 수 있다고 봅니다. 그 다음 단계로 강화 학습 모형이나 의사결정 신경과학 전반을 더 파고들어 보고 싶다면, 아래 참고 자료가 좋은 출발점이 됩니다.
참고: Vartanian, Oshin, and David R. Mandel, eds. Neuroscience of Decision Making. Psychology Press, 2011.