뇌가 알려준 AI 설계법…“부품을 늘리면 정확도는 계속 좋아진다” [사이언스 브런치]

우리 뇌는 수십억 개의 신경세포(뉴런)가 만들어내는 활동으로 외부 세계를 머릿속에 그려낸다. 정교해 보이지만 이 시스템은 의외의 약점이 있다. 똑같은 그림에 여러 번 노출될 경우 같은 뉴런이 똑같이 반응하지 않는다. 어떤 때는 활발하게 반응하고 다른 때는 활성도가 떨어지게 된다. 자극은 그대로인데 반응이 달라지는 것인데 신경과학에서는 이를 ‘잡음’이라고 한다. 이런 문제를 뇌는 일종의 ‘인해전술’로 해결한다. 같은 정보를 뉴런 한 개가 아니라 수천, 수만 개에 나누어 담아두는 ‘집단 부호화’ 전략을 쓰는 것이다. 여론조사에서 한 사람에게 똑같은 질문을 던지더라도 기분에 따라 답이 달라지지만 표본 수를 늘려 평균을 내면 개인차는 상쇄돼 사라지는 것이다. 참여자가 많아질수록 오차가 줄어드는 방식이다.



그러나 이것 역시 문제가 있다. 수많은 뉴런의 신호가 한꺼번에 올라갔다 내려가는 일이 벌어진다. 여러 뉴런이 공유하는 흔들림을 ‘잡음 상관’이라고 부른다. 여론조사에 비유하면 1000명에게 물었을 때 그들 모두가 똑같은 정보에 노출돼 같은 생각을 하는 경우다. 이럴 때는 표본을 아무리 늘려도 오차가 줄지 않게 된다. 게다가 자극 자체가 흔들리는 것과 구별되지 않는 미분 상관이라는 잡음까지 생긴다. 뉴런을 늘리면 신호도 커지는 동시에 이 잡음도 똑같은 비율로 커지기 때문에 아무리 많은 세포를 동원해도 구별 능력이 나아지지 않는다. 뉴런이 계속 늘어봐야 특정 지점부터는 정보량이 더 이상 늘지 않는 한계에 부딪친다는 점이다. 그렇다면 일차시각피질 한 곳에만 수십만 개의 뉴런이 있는데 한계가 있다면 뇌는 왜 이렇게 많은 세포를 유지하는 것일까.

일본 교토대, 미국 하버드대, 로스앤젤레스 캘리포니아대(UCLA) 공동 연구팀은 지난 30년 동안 신경과학계를 지배했던 상식을 깨고 뉴런들이 공유하는 잡음은 정보가 쌓이는 속도만 늦출 뿐 뇌가 담을 수 있는 정보량에 한계를 지우지는 않는다고 밝혔다. 이 연구 결과는 기초과학 및 공학 분야 국제 학술지 ‘사이언스 어드밴시즈’ 9월 26일 자에 실렸다.

연구팀은 생쥐 5마리를 대상으로 눈에서 들어온 신호가 대뇌에서 가장 먼저 처리되는 일차시각피질을 연구한 내용을 재분석했다. 이 연구에는 생쥐 한 마리당 약 1만 8000~2만 1000개 뉴런의 활동이 담겨 있다. 연구팀은 전체 뉴런 중 크기가 제각각인 집단을 무작위로 수백 번 뽑아내 비교하는 부분 추출 기법을 활용했다. 이를 통해 뉴런 수가 늘어날 때 정보량은 어떻게 변하는지를 추적했다.

그 결과 집단 크기를 보정하면 뉴런이 100개든 1000개든 잡음 모양이 거의 똑같은 것으로 확인됐다. 연구팀은 뉴런 집단 잡음에서 잡음 성분들의 세기가 어떻게 분포하는지와 각 잡음 성분이 정보가 실린 방향과 얼마나 일치하는지 두 종류의 거듭제곱 법칙을 찾아냈다.



그 결과 생쥐 다섯 마리 모두에서 잡음 상관은 정보량에 상한을 씌우지 않는 것으로 나타났다. 또 정보량은 뉴런 수에 정비례해 늘지 않는다. 뉴런을 두 배로 늘려도 정보는 두 배가 안 된다. 그렇지만 증가가 멈추지도 않는다. 공유된 잡음은 정보가 늘어나는 속도를 늦출 뿐 성장 자체를 가로막지는 못한다는 것이다.

아날로그 반도체나 뉴로모픽 칩, 양자 소자처럼 잡음을 피할 수 없는 기술들의 경우 부품을 더 많이 붙이면 정확도가 계속 좋아질 것인지, 아니면 공유된 잡음 때문에 처리 정보량에 한계가 있는 것인지에 대한 질문에서도 이번 연구가 내놓은 답은 “느려지더라도 계속 좋아진다”는 방향으로 해석할 수 있다.

연구를 이끈 시마자키 히데아키 일본 교토대 교수는 “지난 30년 동안 학계에서는 뉴런들이 공유하는 요동 때문에 정보량이 결국 포화될 것이라고 예상했지만 이번 연구 결과는 그것이 필연이 아니라는 점을 보여준다”라고 설명했다.

유용하 과학전문기자