양대헌 교수팀, 초고속 라우터 내에서 네트워크 공격 실시간 차단 기술 개발
양대헌
사이버보안전공
네트워크 안정성 획기적으로 높일 수 있을 것으로 기대
새로운 네트워크 접근제어 기술 ‘ACM CCS 2022’에 게재
엘텍공과대학 사이버보안전공 양대헌 교수 연구팀이 인터넷 보안을 위협하는 DoS, DDoS, APT, BotNet 등 네트워크를 통한 다양한 공격을 네트워크 단계에서부터 차단할 수 있는 기술을 개발했다. 본 기술을 통해 네트워크의 안정성을 획기적으로 높일 수 있을 것으로 기대된다.
인터넷을 통해 이루어지는 다양한 공격을 방어하기 위해, 최근 인공지능 모델을 이용해 자율적인 방어시스템을 갖는 라우터에 대한 연구가 활발히 진행되고 있다. 인공지능 모델이 탐지한 공격 패킷을 차단하기 위한 기술로 라우터 내의 접근제어목록(ACL: Access Control List)이 이용되고 있지만, 점점 더 지능화되고 규모가 커지고 있는 공격을 대응하기에 현재 이용되고 있는 ACL 방식은 실시간성 및 확장성 면에서의 한계를 드러내고 있다. 이에 따라 인공지능 모델에 의해 동적으로 생성되는 대규모의 접근제어 목록을 패킷 손실이나 플로우 손실 없이 실시간으로 라우터에서 처리할 수 있는 기술이 요구되고 있다.
양대헌 교수팀은 초고속 라우터 내에서 공격·악성 패킷에 대한 접근제어를 패킷 지연 없이 신속하게 처리하고, 대량의 접근제어 목록을 표현할 수 있는 새로운 ACL 시스템인 ‘PortCatcher’를 설계 및 구현했다. 또한 이 시스템을 실제 프로그래머블 라우터(Programmable router)에 구현해 실용화 가능성을 입증했다.
‘PortCatcher’는 공격 탐지 인공지능 모델이 제어평면에서 탐지한 공격 플로우에 대한 규칙들을 특별한 하드웨어(Logical Operational Units 등)의 도움 없이, 매우 작은 양의 메모리 안에서 표현될 수 있도록 고밀도로 압축하고(그림 d), 이를 실시간으로 데이터평면에 적용한다. 이렇게 함으로써 다양한 목적으로 네트워크를 위협하는 대량의 공격 플로우를 실시간으로 네트워크 수준에서 차단할 수 있다.
[접근제어 시스템의 성능 비교] (a) 접근제어 이벤트 생성 시간 대비 전개된 시간 비교, (b) 접근제어 목록이 전개되는데 걸리는 시간의 누적 분포, (c) 놓친 공격 패킷 및 공격 플로우의 비율 비교, (d) 10,000개의 공격 규칙(5개의 다양한 분포에 대해)을 표현하는데 얼마나 많은 TCAM 엔트리가 필요한지를 나타내는 그림으로, 현재 기술 및 경쟁기술(ALPM)에 비해 PortCatcher가 매우 높은 압축률로 공격 규칙들을 데이터 평면에 표현할 수 있음을 보이고 있다.
위 그래프 (그림 a, b, c)에서 볼 수 있듯이, 현재의 기술(TCAM 의존적 ACL) 및 경쟁 기술(ALPM: Algorithmic Longest Prefix Matching)에 비해 연구팀이 새로이 개발한 ‘PortCatcher’는 인공지능 모델이 생성해 내는 공격 규칙들을 경쟁기술 대비 168배 빠른 속도로 실시간 전개할 수 있으며(그림 a), 또한 차단에 실패한 공격 패킷 및 공격 플로우의 비율도 경쟁기술 대비 10% 미만으로 매우 낮음을 알 수 있다(그림 c).
양대헌 교수는 “이 기술이 DoS, DDoS, BotNet, 악성코드 유포 등의 다양한 공격을 네트워크 단계에서부터 차단할 수 있는 발판이 될 것”이라고 기대를 밝혔다.
한국연구재단 글로벌 연구실 사업 및 중견연구자지원 사업의 지원을 받아 수행된 본 연구 결과는 11월 7일(월)~11일(금) 미국 로스앤젤레스에서 개최되는 ‘ACM CCS 2022’에서 발표된다. ‘ACM CCS(Conference on Computer and Communications Security)’는 USENIX Security, IEEE Security and Privacy(Oakland), ISOC NDSS(Network and Distributed System Security Symposium) 등과 더불어 보안 분야 세계 최고 학술대회로 손꼽힌다. 주로 네트워크, 운영체제 보안과 함께 시스템, 인공지능보안, 모바일 보안, 암호 응용 등에 대한 내용들을 다루며, 매년 논문 채택률 20% 미만의 높은 경쟁률로 보안 분야에서 가장 영향력 있는 학술대회 중 하나이다.