매일 퇴근길에 차를 찾으러 갔다가 "아, 오늘은 다른 데 댔지" 하고 멀뚱히 서본 적, 저는 꽤 많습니다. 분명히 주차 위치를 바꿨다는 걸 알면서도 몸은 늘 가던 자리로 향해 있었습니다. 이게 단순한 건망증이 아니라 뇌 깊숙한 곳에서 벌어지는 아주 정밀한 작동의 결과라는 걸, 신경과학 연구들을 파고들면서 비로소 이해하게 됐습니다.
기저핵이 없으면 습관도 없다 — 쥐 미로 실험이 보여준 것
습관이 생긴다는 게 그냥 "자주 반복해서 익숙해지는 것"이라고 생각하기 쉽습니다. 저도 그랬습니다. 근데 이게 뇌의 어느 부위가 담당하느냐에 따라 완전히 다른 이야기가 됩니다.
십자형 미로 실험이 있습니다. 쥐를 항상 같은 출발점에서 출발시키고, 오른쪽으로 돌아야만 먹이가 있도록 일주일가량 학습시킵니다. 그런 다음 출발 지점을 반대편으로 바꿔봅니다. 일주일 학습한 쥐는 생각보다 영리합니다. "어, 나 지금 반대쪽에 있네" 하고 왼쪽으로 방향을 틀어서 먹이를 찾아갑니다. 이걸 장소 전략(Place Strategy)이라고 부릅니다. 자신의 현재 위치를 파악하고, 목표까지의 경로를 논리적으로 계산해 움직이는 방식입니다.
그런데 2주 뒤에는 달라집니다. 출발점을 바꿔도 쥐는 그냥 오른쪽으로 꺾습니다. 먹이가 없어도요. 이게 반응 전략(Response Strategy)입니다. 주변 정보를 처리하지 않고, 이전에 보상받았던 행동을 기계적으로 반복하는 것입니다. 바로 습관이죠.
이 실험에서 핵심은 뇌 손상 조건입니다. 연구진은 쥐를 두 그룹으로 나눠, 한 그룹은 기저핵(Basal Ganglia)에, 다른 그룹은 해마(Hippocampus)에 리도카인이라는 국소 마취제를 주입해 해당 부위를 일시적으로 손상시켰습니다. 기저핵이란 뇌의 중심부에 위치한 신경핵들의 집합으로, 운동 조절과 습관적 행동의 자동화를 담당하는 곳입니다.
결과는 아주 선명했습니다. 해마를 손상시킨 쥐는 초기 학습 단계에서 장소 전략을 제대로 쓰지 못했습니다. 위치 파악 자체가 어려워진 것입니다. 하지만 2주 후, 즉 습관이 이미 형성된 뒤에는 해마를 손상시켜도 행동에 거의 변화가 없었습니다. 반면 기저핵을 손상시킨 쥐는 2주가 지나도 반응 전략으로 넘어가지 못하고 계속 장소 전략을 유지했습니다. 습관이 형성되지 않은 것입니다(출처: Psychology Press, Neuroscience of Decision Making).
- 장소 전략: 현재 위치를 파악하고 경로를 계산해 행동 → 해마 의존적
- 반응 전략: 위치와 무관하게 이전 행동을 기계적으로 반복 → 기저핵 의존적
- 해마 손상: 초기 학습은 방해받지만, 습관 형성 이후에는 영향 없음
- 기저핵 손상: 초기 학습은 정상이지만, 습관으로의 전환이 일어나지 않음
해마가 없어도 실력은 는다 — 기억상실증과 파킨슨 환자의 엇갈린 결과
쥐 실험만으로는 "사람한테도 같은 원리가 적용되나?" 하는 의문이 남습니다. 저도 그 부분이 계속 걸렸습니다. 그래서 인간을 대상으로 한 연구를 찾아봤을 때, 결과가 예상보다 훨씬 극적이었습니다.
확률적 분류 과제(Probabilistic Classification Task)라는 실험이 있습니다. 쉽게 말해, 4장의 카드 패턴을 보고 "내일 맑을까, 비 올까"를 맞히는 과제입니다. 논리적으로는 답을 알 방법이 없습니다. 하지만 수십, 수백 번 반복하다 보면 정답률이 서서히 올라갑니다. 의식적으로 법칙을 파악한 게 아니라, 뇌가 무의식 중에 패턴을 추출하는 것입니다. 이게 바로 절차적 기억(Procedural Memory)의 작동 방식으로, 어떻게 했는지를 말로 설명할 수 없지만 실제 수행 능력은 향상되는 기억을 뜻합니다.
정상 참가자들은 50%에서 시작해 70%에 가깝게 정확도가 올라갔습니다. 그런데 흥미로운 건 해마가 손상된 기억상실증 환자들입니다. 이 사람들은 "이 과제를 전에 해본 적 있냐"고 물으면 기억을 못합니다. 그런데 정확도는 65% 수준까지 향상됐습니다. 제가 이 결과를 처음 접했을 때, 솔직히 이건 예상 밖이었습니다. 경험을 기억하지 못하는데, 실력은 쌓인다는 게 직관적으로 잘 납득이 안 됐거든요.
반면 기저핵이 제대로 작동하지 않는 파킨슨병(Parkinson's Disease) 환자들은 달랐습니다. 파킨슨병은 도파민 분비가 현저히 저하되는 질환입니다. 여기서 도파민이란 신경전달물질로, 기저핵으로 전달되어 보상 학습과 운동 회로를 활성화하는 역할을 합니다. 도파민이 줄면 기저핵이 원활하게 작동하지 못합니다. 파킨슨 환자들은 수백 번 과제를 반복해도 정확도가 우연 수준인 50%에서 거의 오르지 않았습니다(출처: American Psychological Association).
더 인상적인 반전이 있었습니다. 과제가 끝난 뒤 "어떤 카드가 나왔고 어떤 걸 골라야 했냐"고 물었을 때, 파킨슨 환자들은 삽화적 기억(Episodic Memory)은 멀쩡했습니다. 삽화적 기억이란 특정 사건의 내용과 맥락을 의식적으로 떠올리는 기억으로, "오늘 누구를 만나서 뭘 했는지" 같은 것들입니다. 반대로 기억상실증 환자들은 과제 자체는 잘 수행했지만, 했다는 사실조차 기억하지 못했습니다. 두 종류의 기억이 완전히 다른 신경 회로에서 처리된다는 것을 이 실험이 아주 깔끔하게 보여줬습니다.
습관 형성의 실전 의미 — 뇌가 에너지를 아끼는 방식을 이해하면 달라지는 것들
그렇다면 이게 일상에서 뭘 의미하는 걸까요. 저는 이 연구들을 공부하면서 습관에 대한 시각이 꽤 바뀌었습니다.
습관이 생겨난다는 건, 처음에는 해마 중심의 분석적 처리 과정에서 시작합니다. 어디에 있는지 파악하고, 과거 기억을 꺼내고, 논리적으로 경로를 계산합니다. 이 과정은 에너지를 많이 씁니다. 주차 위치를 매번 의식적으로 떠올리며 걷는 것처럼요. 그런데 같은 행동을 반복하면, 뇌는 점점 이 정보를 기저핵으로 이관합니다. 해마가 빠지고, 자동화된 루프가 작동하기 시작합니다.
제가 직접 겪어봤는데, 이 전환이 일어난 뒤의 습관은 정말 끊기가 어렵습니다. 뇌 회로 자체가 자동 실행 모드로 전환됐기 때문입니다. 의지로 막으려 해도, 의식이 개입하기 전에 몸이 먼저 움직입니다. 이건 나쁜 습관에도 똑같이 적용됩니다. 잘못된 루프가 기저핵에 새겨지면, 해마가 "이건 아닌데"라고 아무리 신호를 보내도 반응 전략이 먼저 튀어나옵니다.
이 구조를 알고 나면, 새 습관을 만들 때 어떻게 접근해야 하는지가 조금 달리 보입니다. 처음 2주는 해마 의존적인 단계입니다. 의식적으로, 조금 불편하게, 하나하나 판단하면서 해야 하는 시기입니다. 이 시기를 견디면 기저핵이 서서히 그 패턴을 받아들이기 시작합니다. 제 경험상 이 시기를 "아직 습관이 안 됐다"고 포기하면 영영 기저핵까지 가지 못합니다. 반대로 이미 자리 잡은 나쁜 습관을 끊을 때는, 기저핵에 새겨진 루프를 의식이 매번 개입해서 차단해야 하는데, 그게 왜 그렇게 에너지가 많이 드는지 이제는 이해가 됩니다.
자주 묻는 질문
Q. 기저핵이 정확히 어디에 있고 어떤 역할을 하나요?
A. 기저핵은 뇌의 중심부, 대뇌피질 아래에 위치한 신경핵들의 집합입니다. 선조체, 담창구, 흑질 등이 포함됩니다. 운동의 시작과 억제, 그리고 반복 행동의 자동화를 담당합니다. 도파민이 이 회로를 활성화하는 핵심 신호 역할을 하기 때문에, 도파민 분비가 저하되는 파킨슨병에서 운동 능력과 습관 학습 모두 저하되는 것입니다.
Q. 습관이 형성되는 데 보통 얼마나 걸리나요?
A. 쥐 실험에서는 약 2주가 반응 전략, 즉 습관적 행동으로의 전환 시점이었습니다. 사람의 경우 행동의 복잡도와 반복 빈도에 따라 차이가 있습니다만, 연구들은 대체로 수주에서 수개월의 반복이 필요하다고 봅니다. 중요한 건 기간보다 일관된 자극-반응-보상 루프가 얼마나 자주 작동했느냐입니다.
Q. 나쁜 습관은 어떻게 끊을 수 있나요?
A. 기저핵에 새겨진 루프는 지워지지 않습니다. 그래서 "끊는다"기보다 "덮어쓴다"는 표현이 더 정확합니다. 기존 루프가 작동하려는 순간을 의식적으로 포착하고, 다른 행동으로 대체하는 과정을 반복해야 새 루프가 경쟁력을 갖게 됩니다. 스트레스나 피로 상태에서는 기존 기저핵 루프가 더 강하게 발동되기 때문에, 환경 자체를 바꾸는 것이 의지력에만 의존하는 것보다 효과적입니다.
Q. 해마와 기저핵은 동시에 작동하기도 하나요?
A. 네, 두 구조가 완전히 배타적으로 작동하는 것은 아닙니다. 특히 습관이 형성되는 전환 구간에서는 해마와 기저핵이 함께 관여합니다. 다만 학습이 충분히 반복되면 점점 기저핵 의존도가 높아지고 해마의 역할은 줄어드는 방향으로 이동합니다. 어떤 상황이냐에 따라 뇌가 두 전략을 유연하게 오가기도 합니다.
결론
몸이 먼저 움직이는 그 순간, 그게 의지가 약해서가 아니라 기저핵이 제 역할을 충실히 하고 있는 것이라는 걸 이제는 압니다. 제가 공부하면서 가장 인상 깊었던 부분은, 습관 형성이 사실 뇌의 에너지 절감 전략이라는 점이었습니다. 매 순간 해마를 풀가동해서 분석적으로 판단하는 건 엄청난 자원 낭비입니다. 기저핵이 이 부담을 대신 져주는 덕분에 우리는 더 중요한 판단에 에너지를 아낄 수 있습니다.
다만 그 자동화가 잘못된 루프를 감싸고 있을 때는, 그게 얼마나 끊기 어려운지도 이제는 이해합니다. 새 습관을 만들려는 분이라면, 초기 2주의 불편함을 "아직 안 됐다"는 신호가 아니라 "기저핵에 새겨지는 중"이라는 신호로 읽으시면 조금 다르게 버틸 수 있을 것입니다. 저는 그렇게 생각을 바꾼 뒤로, 초반의 어색함을 좀 더 담담하게 지나갈 수 있게 됐습니다.
참고: Vartanian, Oshin, and David R. Mandel, eds. Neuroscience of Decision Making. Psychology Press, 2011.