본문 바로가기
교육

인천대학교 강우철 교수팀, 딥러닝 모델 경량화 학습기술 개발

by 서울일보 2021. 11. 9.

 

인천학교 강우철 교수(사진/인천대)

 

(서울일보/차강수 기자) 인천대학교 임베디드시스템공학과 강우철 교수팀은 딥러닝 모델의 크기는 최대 절반으로 줄이면서 정확도는 향상시키는 기술을 12월에 온라인으로 개최되는 NeurIPS 2021에서 발표한다. (논문명: Deeply Shared Filter Bases for Parameter-Efficient Convolutional Neural Networks)

NeurIPS (Neural Information Processing Systems, 신경정보처리시스템학회)는 세계 최고 권위의 인공지능 학회로 머신러닝, 신경과학 등 다양한 인공지능 분야의 연구 결과가 발표된다.

 

강우철 교수팀은 딥러닝 모델에서 파라미터를 재사용해 모델의 크기를 줄일 경우에 인식 정확도가 떨어지는 이유가 학습신호인 그레이디언트가 소멸하거나 폭발함으로써 학습을 방해한다는 것을 이론적으로 증명했고, 이 문제를 해결하기 위해서 반복적으로 사용되는 필터들을 직교화시키는 학습기술을 개발했다.

딥러닝 모델을 모바일이나 임베디드시스템에서 사용하기 위해서는 모델의 크기를 줄이면서도 인식 정확도의 하락은 최소화 할 수 있는 모델 구조와 학습 기술이 요구된다. 그러나, 기존의 딥러닝 모델 압축 기술들은 모델의 사이즈를 줄이는 정도에 비례해 인식 정확도가 저하되어 모델을 압축하는데 제약이 있었다.

 

 

 

 

서울일보

전국종합일간지,정치, 경제, 사회, 교육, 문화, 스포츠, 연예, 오피니언 제공.

www.seoulilbo.com