[초보자를 위한 보안강좌 1] 보안 기술의 개요와 시큐리티 방법론
보안 위협의 증가는 더 이상 어제 오늘의 얘기가 아니며, 더구나 단순한 숫적인 증가 외에도 공격 기법의 발전이나 복합적인 공격 방법 등이 등장하고 있다. 이에 대비하기 위한 보안 기술도 마찬가지로 발전을 거듭하며, 새로운 기술을 토해내고 있다. 전통적인 방법에서부터 새롭게 등장하고 있는 각종 보안 기술과 함께 새로운 위협에 대항하기 위한 보안 방법론에 대해 알아보자.
전세계적으로 인터넷과 네트워크 환경이 급성장하면서 기업이나 조직의 비즈니스 영역도 전통적인 오프라인에서 온라인 환경으로 급속히 이전하고 있으며, 이런 추세는 앞으로도 가속화되리라고 보인다.
그러나 현재의 인터넷과 네트워크 환경은 내외부적으로 다양한 보안 위협에 노출돼 있으며, 크고 작은 보안 사고로 인한 피해사례 또한 급증하고 있는데, 특히 최근에는 전통적인 해킹 기법 외에도 다양한 애플리케이션 취약점을 이용한 지능적인 공격기법들이 크게 유행하고 있다.
기업 네트워크 환경의 주요 보안 이슈
과거에는 존재하지 않았던 새로운 프로토콜이나 애플리케이션의 출현, 그리고 새로운 서비스의 도입 등으로 인해 오늘날 네트워크 환경은 이전과는 비교할 수 없을 정도로 복잡해지고 다양화되고 있다. 최근 기업 네트워크 환경에서의 주요 보안 이슈를 정리하면 다음과 같다.
- 보안 위협의 진화
과거에는 내부의 중요 시스템에 대한 직접적인 해킹 공격이 주를 이뤘지만, 현재는 해킹, 웜/바이러스 등이 급속히 복합화/변형화되는 추세다. 특히 기존 보안 시스템이나 인증방식을 우회하거나 애플리케이션 취약점을 이용한 합법적인 접속을 가장한 침입과 공격기법들이 크게 유행하고 있다.
- 원치않는 트래픽의 급속한 증가
일정 규모 이상의 네트워크를 운영하는 환경에서 실제 트래픽을 분석해 보면 정상적인 접속 트래픽 외에도 웜/바이러스, P2P 애플리케이션 그리고 스팸메일 등과 같은 불필요한 트래픽이 전체 트래픽의 상당부분을 차지하고 있는 것을 쉽게 볼 수 있다.
이같은 원치 않는 유해 트래픽의 증가는 네트워크 대역폭을 낭비할 뿐 아니라, 과도한 부하를 발생시켜 네트워크에 직접적인 피해를 유발할 수 있으며, 특히 가용성 측면에서 언제라도 잠재적/치명적 위협요소로 작용할 수 있기 때문에 매우 위험하다.
- 기존 보안솔루션의 한계
네트워크 대역폭이 향상되고 그 구성 요소가 다양화됨에 따라 기존 보안 솔루션들은 제한된 성능이나 기능으로 인해 최근 유행하는 지능적 혼합/변조 공격(Hybrid Attack)이나 애플리케이션 레벨의 다양한 공격에 대한 대응 능력이나 방어 능력이 현저하게 떨어지는데, 이는 또 하나의 보안 위협이 되고 있다.
- 제한된 인적/물적 자원
시간이 지날수록 해킹이나 공격에 필요한 지식과 비용은 낮아지는 반면, 이에 대응하기 위해 지불되는 비용은 급속히 높아지고 있다. 따라서 지속적인 관리와 모니터링 작업을 필수적으로 요구하는 대규모 네트워크 환경을 제한된 인적/물적 자원만으로 효율적으로 관리, 운영하는 것이 현실적으로 불가능하다.
보안 솔루션 기술 동향
오늘날 보안기술의 핵심 요소를 정의하면 ‘내/외부로부터의 침입이나 위협 요소를 사전에 탐지/차단하고 지능화/고도화된 각종 공격과 유해 트래픽에 대한 자동화된 능동형 대응기술’이라고 할 수 있다. 보안 솔루션의 기술 동향을 세대별로 정리하면 (그림 1)과 같다.
- 제 1세대
이 시기는 1990년대 후반에서 2003년 중반까지로 정의할 수 있으며, 패킷 필터링 위주의 1세대 파이어월이나 IPSec VPN, 그리고 IDS 등이 개발되고 도입된 시기다. 대부분의 보안 솔루션이 주로 2~4계층에서 동작했으며, 기능이나 성능이 제한적이었기 때문에 기존 보안 솔루션의 시대라고 정의할 수 있다.
- 제 2세대
2003년~2005년 후반까지로 정의할 수 있다. 이 시기의 가장 큰 특징은 네트워크 인프라가 급속히 향상되고 복잡해지면서 전세계적으로 새로운 공격기법의 출현과 이론적으로만 존재하던 다양한 보안 위협들이 현실화됐다는 것이다.
따라서 이 시기에는 새로운 시큐리티 방법론이 제시되거나 성능이나 기능이 크게 개선된 다양한 보안 솔루션들의 출시가 붐을 이뤘다. 대표적인 예로 2세대 파이어월, IPS, 바이러스 월, SSL VPN, 그리고 UTM 등이 있으며, 보안 장비들의 고성능과 다양한 기능이 검증된 시기라 정의할 수 있다.
- 제 3세대
이 시기는 2006년 이후부터라고 정의할 수 있으며, 가장 큰 특징은 보안의 계층이나 대상이 네트워크 단에서 애플리케이션 영역으로 전이한 것이라 할 수 있다. 이 시기의 가장 대표적인 보안 이슈는 웹 애플리케이션이나 데이터베이스 보안 등의 컨텐츠 보안이라 할 수 있다.
또한, 다양한 환경에서 무선 네트워크의 도입이 점차적으로 증가함에 따라 무선 환경 기반에서의 다양한 공격위협들도 현실화되고 있기 때문에 향후 모바일 환경이나 RFID 환경에서의 보안 이슈도 크게 부상할 것으로 예상되고 있다.
기업 네트워크 보안 모델
결론적으로 전체 네트워크의 안전한 운영을 위해서는 전략적 관점에서의 보안 솔루션 도입과 설계가 필수적으로 요구되고 있다. 이때 고려할 것이 (그림 2)와 같은 네트워크 보안 모델(Network Security Model)에서 주요 보안 이슈를 파악하고 전체 보안 아키텍처를 설계하는 것이다.
- DMZ 영역
비즈니스나 업무 목적으로 인해 외부에 반드시 서비스해야 하는 서버 시스템이 존재하며 대표적인 예로 웹 서버나 메일 서버 그리고 DNS 서버 등이 있다. 이들은 최근 웹 해킹이나 웹 애플리케이션 취약점을 이용한 공격 기법들이 크게 유행하면서 가장 이슈가 되고 있는 계층이다.
이 영역에서 동작하는 대표적인 보안장비로는 전통적인 파이어월을 비롯해 IDS/IPS, 7계층 스위치나 전문적인 웹 파이어월 등이 있으며, 기본적인 패킷 필터링 기법에서부터 데이터 페이로드(Payload)와 공격 시그니처 분석, 그리고 이상 트래픽(Anomaly Traffic) 분석 등과 같은 다양한 기법들이 주로 사용되고 있다.
향후 웹 2.0이나 UCC(User Created Contents)의 도입으로 인해 웹 환경은 더욱 진화할 것이며, 대다수의 애플리케이션들에서 웹 환경과의 연동은 필수이기 때문에 웹 애플리케이션이나 DMZ 영역에 대한 보안은 앞으로도 꾸준히 이슈가 될 것이다.
- 코어와 분배 영역
네트워크 아키텍처에서 코어(Core)와 분배(Distribution) 영역은 네트워크를 구성하는 가장 핵심적인 부분으로, 가장 중요한 역할은 네트워크에서 고속의 전송 서비스를 제공하고 안정적이면서도 가용성을 확보하는 것이다. 뿐만 아니라 최근에는 네트워크 트래픽과 인프라의 급속한 향상으로 기가비트나 10기가비트의 도입이 일반화되고 있기 때문에 현실적으로 보안 솔루션을 도입하기가 쉽지 않은 부분이다.
이 영역에서의 주요한 보안 위협은 지능적인 분산서비스 거부공격(DDoS)이나 내외부에서 발생하는 웜/바이러스, 과도한 유해 트래픽에 의한 자원 점유 등이 대표적이다. 이 계층의 특성상 직접 적용할 수 있는 보안 방법은 네트워크 장비에 대한 접근 제어와 패킷 필터링 등으로 제한되며, 최근에는 네트워크 장비업체에서 제공하는 보안 방법론과 연계한 방안들이 제시되고 있다.
- 에지 영역
DMZ 영역과 더불어 최근 가장 크게 이슈가 되고 있는 부분으로 기업이나 조직의 내부 시스템이나 실제 사용자들이 존재하는 영역이며, 이 영역의 가장 큰 특징은 공격자(Attacker)와 피해자(Victim)가 공존하고 있다는 것이다. 실제 다양한 웜/바이러스나 백도어, 악성코드 등으로 인한 피해 사례가 급증하고 있는 추세다.
특히, 가장 문제가 되는 것은 웜/바이러스에 감염된 몇몇 시스템으로 인해 전체 네트워크에 장애가 발생하는 사례가 빈번하게 발생하고 있다는 것이다. 대부분의 보안 장비들이 외부 네트워크와 내부 네트워크의 경계 지점에서 동작하기 때문에 이같은 내부 구간에서의 보안 이슈에 대해서는 적절히 대응할 수 없는 경우가 많다.
이 영역에서의 보안방법론은 전통적인 백신에서부터 VMS(Virus Management Solution)나 PMS(Patch Management Solution) 도입을 통한 시스템 보안 강화와 사용자/기기 인증솔루션 그리고 비정상 트래픽을 사전에 감지하고 제어하기 위한 통합 방법론 등이 제시되고 있다.
지금까지 보안 기술의 개요와 시큐리티 방법론에 대해서 간단히 살펴봤다. 이후 연재에서는 오늘날 네트워크 환경에서 주로 사용되고 있는 다양한 보안 솔루션들의 기본 아키텍처와 주요 특징, 그리고 향후 진화 방향 등에 대해 순차적으로 살펴보겠다.