■ 효율적으로 최첨단 생성 모델의 이상 행동을 탐지하는 알고리즘 개발

■ 인공신경망의 깊이를 압축하여 성능을 유지하면서 추론 속도를 가속화

송현오 교수 연구진이 생성 모델의 이상 행동 패턴을 사전에 파악하는 레드 팀 알고리즘 및 인공 신경망 깊이 압축 알고리즘을 개발하였다.

레드 팀 [1]: 대화 인공지능의 공격적인 답변과 같은 이상 행동을 이끌어내는 적대적 테스트 예시들을 구성하는 레드팀 알고리즘(BRT)를 개발하였다. BRT는 베이지안 최적화를 활용하여 주어진 유저 입력 집합에서 유저 입력을 선택 및 편집하여 효율적으로 적대적 테스트 예시들을 구성한다. 대화 인공지능, 텍스트 기반 이미지 생성 모델 등 다양한 생성 모델들에 대해 적은 비용으로 기존 연구보다 더 많고, 다양한 이상 행동을 탐지하는데 성공하였다. 본 연구 결과는 최첨단 생성 모델들의 이상 행동 패턴을 사전에 파악하고, 수정하는데 활용될 수 있다.

인공신경망 깊이 압축 [2]: 본 연구진은 인공신경망에서 불필요한 활성화 함수를 제거하고 인접한 합성곱 레이어들을 병합하여 인공신경망을 가속하는 새로운 깊이 압축 알고리즘을 제안하였다. 특히, 신경망을 최적으로 병합하는 부분 집합 선택 문제의 대리 최적화 문제를 제안하고 이를 동적 프로그래밍을 이용하여 해결하여 기존 연구보다 성능이 높고 추론 속도가 빠른 신경망을 얻어내는 데 성공하였다. 압축된 인공신경망은 정확도가 높고 빠른 추론 속도를 요구하는 환경에서 효과적으로 사용될 수 있다.

 해당 연구는 자연어처리 최우수 학회인 ACL과 머신러닝 최우수 학회인 ICML에 올해 7월 발표될 예정이다.