국내 연구진이 인간 뇌의 시각 피질이 시각 정보를 선별해 처리하는 방식을 인공지능(AI) 이미지 인식 기술에 접목하는 데 성공했다.
이창준 기초과학연구원(IBS) 인지 및 사회성 연구단 단장 연구진은 송경우 연세대 응용통계학과 교수 연구진과 함께, 뇌의 시각피질이 시각 정보를 선별해 처리하는 방식을 응용해 AI의 이미지 인식 능력을 향상시키는 기술을 개발했다고 22일 밝혔다.
인간의 시각 시스템은 놀라운 인식 능력을 갖고 있다. 한눈에 사물을 인식하고, 복잡한 환경에서도 중요한 정보를 빠르게 선별할 수 있다. 이에 비해 기존 AI 모델은 여전히 한계를 보인다.
연구진은 기존 AI를 개선하기 위해 인간 뇌의 시각 피질이 시각 정보를 선택적으로 처리하는 방식에 주목했다. 인간의 시각 피질은 모든 정보를 똑같이 처리하지 않고, 눈에 띄는 특징이나 중요한 부분에만 집중해 선택적으로 반응한다. 이 과정에서 뉴런들은 넓은 범위를 부드럽게 감지하며, 꼭 필요한 정보에만 선택적으로 반응한다. 연구진은 이러한 방식을 적용해 합성곱 신경망(CNN) 모델의 성능을 크게 높이는 ‘Lp-컨볼루션’ 기술을 제안했다.
Lp-컨볼루션은 AI가 이미지를 분석할 때, 사람처럼 핵심적인 정보를 우선적으로 파악할 수 있도록 설계된 기술이다. 시각 피질의 뉴런처럼 중요한 부분을 강조하고, 덜 중요한 부분은 자연스럽게 배제하도록 하는 ‘마스크(Mask)’를 활용한다. 이 마스크는 학습 과정에서 스스로 형태를 조정하며, 다양한 환경에서도 일관되게 중요한 특징에 집중할 수 있게 한다.
연구진은 이 기술을 다양한 CNN 모델에 적용해 성능을 평가했다. 그 결과 Lp-컨볼루션을 적용한 모델들은 기존 CNN 모델보다 이미지 분류 정확도가 눈에 띄게 향상됐다. 특히 한 번에 더 넓은 영역을 살펴볼 수 있도록 필터의 크기를 크게 넓혀도 성능 저하 없이 안정적으로 작동했으며, 정확도는 오히려 향상되는 결과를 얻었다. 일반적으로 분석 범위를 넓히면 계산량이 증가하고 정확도가 떨어지기 쉬운데, Lp-컨볼루션은 이러한 한계를 효과적으로 극복한 것이다.
또 연구진은 Lp-컨볼루션이 실제 뇌의 정보 처리 방식과 얼마나 유사한지를 확인하는 실험도 진행했다. 생쥐에게 다양한 자연 이미지를 보여주며 시각 피질 뉴런의 활동을 기록하고, 이를 바탕으로 AI 모델이 각 이미지에 대해 뉴런이 어떻게 반응할지를 예측하도록 학습시켰다. 이렇게 훈련된 모델의 반응과 실제 뉴런 반응을 비교한 결과, Lp-컨볼루션을 적용한 모델은 기존 CNN 모델보다 뉴런 반응을 더 정밀하게 예측했으며, 예측 오차도 감소했다.
이창준 IBS 단장은 “Lp-컨볼루션은 AI 성능 향상을 넘어서 뇌가 정보를 어떻게 처리하는지를 모방하고 이해하는 데에도 크게 기여할 수 있다”라며 “AI와 뇌과학이 함께 발전할 수 있는 새로운 융합 모델의 좋은 사례가 될 것”이라고 말했다.
이번 연구는 세계적인 AI 학회 ‘표현 학습 국제 학회(ICLR)’에 채택됐다. 오는 4월 24일부터 28일까지 싱가포르에서 열리는 ‘ICLR 2025’에서 발표될 예정이다.
