UPDATED. 2024-03-29 05:25 (금)
인천대 강우철 교수팀, 딥러닝 모델 경량화 학습기술 개발
인천대 강우철 교수팀, 딥러닝 모델 경량화 학습기술 개발
  • 이승주
  • 승인 2021.11.09 11:03
  • 댓글 0
이 기사를 공유합니다

 인천대학교 임베디드시스템공학과 강우철 교수팀은 딥러닝 모델의 크기는 최대 절반으로 줄이면서 정확도는 향상시키는 기술을 오는 12월에 온라인으로 개최되는 NeurIPS 2021에서 발표한다. (논문명: Deeply Shared Filter Bases for Parameter-Efficient Convolutional Neural Networks)

▲(왼쪽부터)인천대학교 임베디드시스템공학과 강우철 교수, 김대연 석사학생

 NeurIPS (Neural Information Processing Systems, 신경정보처리시스템학회)는 세계 최고 권위의 인공지능 학회로 머신러닝, 신경과학 등 다양한 인공지능 분야의 연구 결과가 발표된다. 

 딥러닝 모델을 모바일이나 임베디드시스템에서 사용하기 위해서는 모델의 크기를 줄이면서도 인식 정확도의 하락은 최소화 할 수 있는 모델 구조와 학습 기술이 요구된다. 그러나, 기존의 딥러닝 모델 압축 기술들은 모델의 사이즈를 줄이는 정도에 비례하여 인식 정확도가 저하되어 모델을 압축하는데 제약이 있었다. 

 강우철 교수팀은 딥러닝 모델에서 파라미터를 재사용하여 모델의 크기를 줄일 경우에 인식 정확도가 떨어지는 이유가 학습신호인 그레이디언트가 소멸하거나 폭발함으로써 학습을 방해한다는 것을 이론적으로 증명하였고, 이 문제를 해결하기 위해서 반복적으로 사용되는 필터들을 직교화시키는 학습기술을 개발하였다.

 개발된 기술은 이미지 분류, 물체 검출, 이미지 분할 등의 다양한 딥러닝 작업에서 딥러닝 모델의 사이즈는 최대 절반으로 줄이면서도, 일관되게 인식 정확도는 향상시킬 수 있다. 

 강우철 교수는 “이번 기술이 스마트폰이나 자율주행차 등에 적용된 인공지능 모델들의 정확도와 에너지 효율성을 동시에 높일 수 있다”고 밝혔다.

 해당 연구는 인천대학교 임베디드시스템공학과 김대연 석사학생이 공동 제1저자로 참여했다. 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.