Harvard University

CV(PDF)

이메일
Cell, Published:November 27, 2020 | DOI:https://doi.org/10.1016/j.cell.2020.11.013
A Unified Framework for Dopamine Signals across Timescales

1. 논문관련 분야의 소개, 동향, 전망을 설명, 연구과정에서 생긴 에피소드

왜 행동이 변화하는가? 어떻게 우리는 세상의 정보를 학습하고, 새로운 행동을 결정하는가? 생존과 번영을 위해 가장 적합한 행동은 무엇인가? 이는 작은 곤충에서부터 인간까지 모든 생명체가 가지고 있는 공통의 문제입니다. 이를 위해서는 정보를 취합하고, 저장하고, 인출하여 판단하는 뇌의 여러 기능들이 통합적으로 요구됩니다. 이러한 기능이 정상적으로 작동하지 않으면, 약물에 중독(addiction)되거나 충동적인 행동(obsessive-compulsive disorder)이 발생하기도 합니다.

우리가 어떤 행동을 한 후에 생각보다 더 많은 보상을 었을 때 그 행동은 강화되고, 더 적은 보상을 얻었을 때는 실망하여 회피합니다. 강화 학습 이론(reinforcement learning theory)에서는 실제 보상과 예측치의 차이(reward prediction error)를 행동의 변화를 유발하는 teaching signal로 보고 행동의 변화를 연구합니다. 강화학습의 방법중 하나인 temporal difference learning (TD learning)은 단순하면서도 기능이 강력해서 인공지능의 학습 방법으로 널리 사용되고 있습니다.

흥미롭게도, 뇌에서 도파민(dopamine)을 분비하는 뉴런들이 TD learning에서의 예측 오류값인 TD error와 유사한 활동을 보인다고 알려져 왔습니다. 미래의 보상을 암시하는 자극이 갑자기 제시되었을 때 (예를 들면, ‘파블로프의 개’ 실험에서의 종소리), 도파민 뉴런은 순간적으로 활동이 증가하는데, 이것이 TD error와 유사합니다. 저는 본 연구를 통해서 도파민의 활동이, 일상 생활에서 일어나는 연속적이고 다이나믹한 상황 – 예를 들면, 맛있는 음식을 먹으로 레스토랑을 찾아 간다던지 – 에서 발견되는 도파민의 점진적인 증가(dopamine ramp)도 TD error와 유사함을 보였습니다. 이를 실험적으로 보이기 위해 저는 쥐를 가상현실(virtual reality)를 이용해서 순간 이동(teleportation)시키는 실험을 하면서 도파민의 활동을 측정하였고, 여러 모델을 계량적으로 비교하여 도파민의 활동이 TD error임을 보였습니다.

뇌에서의 신경 신호와 강화학습 모델의 유사성은 최근에 인공지능 이론의 발전으로 더욱 심층적으로 연구되고 있습니다. 예를 들면, 구글의 reinforcement learning 플렛폼의 이름도 Dopamine 이고 (https://github.com/google/dopamine), 제가 소속된 Uchida 교수의 연구실에서는 구글 Deepmind와의 협업을 통해 분산 처리의 측면을 강조한 새로운 강화학습 이론이 도파민 활동을 잘 설명함을 보였습니다. 이제까지도 그러하였지만, 앞으로는 신경과학에서의 실험적 발견과 인공지능 이론, 그리고 시물레이션 결과가 상호 작용하며 발전하는 연구가 더욱 많아질 것으로 보입니다.

2. 연구를 진행했던 소속기관 또는 연구소에 대해 소개 부탁 드립니다.

본 연구는 미국 Harvard 대학교의 분자 세포 생물학과 (Molecular and Cellular Biology department)와 뇌 연구 센터 (center for brain science) 에 소속된 Naoshige Uchida 교수의 연구실에서 수행 되었습니다. 하버드 대학교는 생물학/신경과학에서 세계 최고의 연구를 수행하고 있고, 연구실에서는 총 18명 정도의 다양한 background를 가진 대학원생과 박사후 과정의 연구원들이 도파민의 활동을 주된 연구 주제로 연구에 매진하고 있습니다.

3. 연구활동 하시면서 평소 느끼신 점 또는 자부심, 보람

연구 활동은 본질적으로 risk-taking behavior 입니다. 재현 실험은 그리 중요하게 생각되지 않고, 새로운 결과를 중요시 하며, 쉬운 결과는 이미 오래 전에 발견 되었습니다. 그래도 연구자들은 항상 새로운 것을 발견하기 위해 위험을 감수합니다. 저도 영장류에서 시각을 연구하다가 쥐에서 보상 회로를 연구하기 위해 모델 동물과 분야를 바꾸었을 때, 마치 새로운 세상에 떨어져서 아무것도 모르는, 도시에 온 시골쥐가 된 기분이었습니다. 다행히도 지도교수가 긴 안목으로 시행착오를 참아 주어서 좋은 결과를 얻을 수 있었습니다.

예전에, 제 연구를 ‘Enter키 누르는 맛’이라고 소개한 적이 있습니다. 연구의 특성상, 실험 결과를 데이터 수집 후에 여러 방법으로 분석한 후에야 가설과 맞는지 틀리는지 확인할 수 있습니다. 분석 코드를 작성하고 결과를 확인하기 위해 엔터 키를 누르기 직전의 긴장감. 그리고 아름다운 결과를 확인한 후의 기쁨 – 물론 항상 아름답지는 않습니다 – 은 연구 행위를 계속하게 하는 원동력 입니다.

예전에 영장류에서 깊이지각을 담당하는 뉴런의 활동을 측정할 떄, 이런 느낌이 온 적이 있습니다. ‘아, 내 머리에서 바로 이런 뉴런들이 활동해서 내가 깊이를 보는 것이구나’. 도파민에 대해 연구하면서는, 왜 사람들이 돈을 벌려고 하는지, 왜 사람들은 나쁜 것에 중독되는지를 더 잘 이해하게 되었습니다. 이처럼 신경과학은 다른 어떤 현상이 아닌, 바로 우리 자신의 문제를 연구합니다. 개인적으로는 뇌 연구가 ‘왜’ 사는가에 대한 문제를 답해 주기는 힘들다고 보지만, ‘어떻게’ 사는가에 대한 문제를 탐구하는 것만으로도 언제나 제 깊은 내면의 흥미를 불러 일으켜 왔습니다.

4. 이 분야로 진학하려는 후배들 또는 유학준비생들에게 도움이 되는 말씀을 해 주신다면?

저는 연구 주제로 보자면 박사 때는 시각을, 박사후 과정에서는 보상 회로를 연구하였지만, 연구의 성격으로는 일관되게 systems neuroscience/computational neuroscience에 해당하는, 실험과 이론이 결합된 연구를 해 왔습니다. 네트워크 상의 뉴런들의 활동을 실제 동물이 과제를 수행하면서 측정하고, 뉴런들의 활동이 무엇을 의미하는지 파악하는, 마치 암호를 푸는 것 같이 spike로 이루어진 neural code를 분석해서 그 의미를 알아내는 작업입니다. 솔직히 말씀드리면, 아주 간단하지는 않습니다. 그렇기 때문에 재미있습니다. ‘산이 저기 있기 때문에 오른다’는 격언처럼, 어려운 문제에 흥미를 느끼는 분들에게 뇌과학, 그 중에서도 실험과 이론이 결합되는 본 연구 분야는 우리 자신을 더 잘 이해하기 위한, 너무나 적합한 도전 상대가 될 것입니다.

이러한 연구를 성공적으로 수행하기 위해서는 실험의 셋업, 동물 훈련, 데이터 분석과 모델링 방법을 알아야 합니다. 여러 전공에 걸친 방대한 양의 지식을 흡수해야 하고, 실패에도 지치지 않아야 합니다. 한번에 모든 분야를 전부 잘 하기는 불가능에 가까우므로, 일단 하나의 목표를 정해서 전문성을 기르고, 다른 분야는 협업도 가능하다는 열린 연구 자세도 하나의 성공 전략이 될 수 있습니다.

요즘에 해외에서 COVID로 인해서 연구에 어려움을 겪는 분들을 많이 보았습니다. 어쩔 수 없는 상황이니 만큼, 뭔가 잘 되지 않을 때 너무 자책하지 말고 긍적적인 결과를 중심으로 생각면서 어려움을 다같이 극복할 수 있으면 좋겠다는 바람입니다.

5. 연구활동과 관련된 앞으로의 계획이 있으시다면?

2021년부터 성균관대학교 IBS 뇌과학이미징연구단 및 글로벌바이오메디컬공학과 소속의 조교수로 임용되어 좋은 환경에서 연구를 시작할 수 있게 되었습니다. 뇌과학 이미징 연구단은 쥐, 영장류, 사람에서 fMRI, large-scale electrophysiology, 또는 optical imaging등의 최신 실험 방법론을 이용해서 뇌 활동을 측정하고, 이를 계산론적으로 이해하기를 원하는 연구자에게 최고 수준의 연구 환경을 제공합니다. 현재 석사급 연구원과 2학기 입학 가능한 대학원생, 박사후 연구원을 모시려고 하고 있습니다. 관심 있으신 분께서는 연구실 홈페이지를 살펴보시고 문의해 주시기 바랍니다. (https://hrkimlab.github.io/).

6. 다른 하시고 싶은 이야기들....

긴 미국 생활동안 한국를 그리워하며 살았던 아내에게 깊이 감사하고, 건강하게 잘 자라준 아이들에게 “You are the best.”라는 말을 전하고 싶습니다.

Category: Cell_Biology, Biochemistry, Molecular_Biology
등록일 2021.01.05
주소복사
댓글 (0)
HOME   |   이용약관   |   개인정보처리방침
© BRIC