번역 제공
성신여자대학교 융합보안공학과 교수진이 정보기술 분야의 국제 학술대회인 ‘The Web Conference 2022(이하 The Web Conf 2022)’에서 프라이버시 보호를 고려한 인공지능 공정성에 관한 논문 두 편이 채택되는 성과를 거뒀다.
The Web Conf는 ‘월드 와이드 웹(World Wide Web)’의 미래 방향을 주제로 웹에 관한 최신 기술을 소개하고, 그 기술이 사회와 문화에 어떠한 영향을 미치는지 연구한 논문을 발표하는 국제 학술대회다. 이번 The Web Conf 2022에는 총 1,981편의 논문이 제출되었으며, 이 중 364편의 논문이 채택되었다.
성신여대 융합보안공학과 박새롬, 김성민, 임연섭 교수의 “Fairness Audit of Machine Learning Models with Confidential Computing”과 융합보안공학과 박새롬, 이주희 교수, 서울대 변준영 연구원의 “Privacy-preserving Fair Learning of Support Vector Machine with Homomorphic Encryption” 논문 두 편이 ‘Web For Good’ 트랙에 채택되었다.
성신여대 교수진은 AI와 기존의 암호 및 하드웨어 보안 기술이 접목된 융합보안 기술을 활용해 AI의 공정성 문제 해결을 위한 연구를 수행했다. 특히 “Fairness Audit of Machine Learning Models with Confidential Computing”은 외부기관의 참여 없이 융합보안공학과 교수들이 직접 연구한 논문이라는 점에서 그 의미가 남다르다.
이번에 채택된 두 편의 논문은 프라이버시를 보호하면서 AI 학습을 공정하게 검증하는 내용을 담고 있다. 공정성이 수반되는 AI 학습 및 검증의 경우, 시스템상 민감 정보를 활용하기 때문에 데이터 수집이나 프라이버시 보호 문제와 상충하는 부분이 있다. 성신여대 교수진은 이번 연구를 통해 동형암호 기술이나 기밀 컴퓨팅 기술로 공정한 AI 개발에 필요한 데이터의 활용 가능성을 높이면서 프라이버시 보호를 가능하게 했다.
현재, 두 편의 논문 모두 국내 특허 출원을 진행하여 등록 심사 중이다. 이중 “Fairness Audit of Machine Learning Models with Confidential Computing”은 해외 특허 등록을 추진할 예정이다.
성신여대 융합보안공학과 박새롬 교수는 “융합보안공학과는 하나의 기술로만 해결하기 어려운 실제 문제를 풀어나가기 위해 다양한 보안 기술을 활용한 연구를 제시하고 있다”며 “앞으로도 우리 대학 융합보안공학과 교수진이 함께 협력해 융합보안 인재 양성을 위해 노력할 계획”이라고 말했다.
