인공지능학과 정재훈 교수와 송동수, 고대화 학생(이하 연구팀)이 공동 저술한 논문이 세계 최고 권위의 인공지능 학회인 ‘NeurIPS 2024’에서 발표 논문으로 채택되는 쾌거를 이뤘다. 논문은 다음 달 10일부터 15일까지 캐나다 밴쿠버에서 열리는 학술대회에서 발표될 예정이다.

  1987년 창립된 NeurIPS(뉴립스ㆍNeural Information Processing Systems)는 매년 전 세계 인공지능ㆍ신경과학ㆍ기계학습 분야 연구자들이 모여 최신 연구 성과를 발표하고 토론하는 자리다.

  연구팀은 <Amnesia as a Catalyst for Enhancing Black Box Pixel Attacks in Image Classification and Object Detection(이미지 분류 및 객체 탐지에서 블랙박스 픽셀 공격을 강화하는 촉매로서의 기억 상실)>을 주제로 한 연구에서 기존의 기술을 개선한 ‘강화학습 기반의 블랙박스 픽셀 공격 기법(RFPARㆍRemember and Forget Pixel Attack using Reinforcement Learning)’을 제안했다.

  픽셀 공격은 이미지 탐지ㆍ분류 기술에 사용되는 심층인공신경망의 빈틈을 알아내기 위해 인공신경망을 공격하는 ‘블랙박스 공격(Black Box Attack)’의 한 종류로, 작은 이미지 변경으로 공격 효과를 극대화하는 것이 특징이다. 심층인공신경망은 인간의 뇌가 정보를 처리하는 방식을 본떠 만든 컴퓨터 시스템인 인공신경망을 여러 겹으로 쌓아 복잡하고 세밀한 정보까지 파악하도록 만든 인공지능 모델이다.

RFPAR 기법을 활용한 객체 탐지ㆍ분류 실험