인공지능(AI)의 발전으로 사이버 공격의 위협이 커졌다는 우려가 제기됐다.

16일 국가정보원, 과학기술정보통신부, 행정안전부, 개인정보보호위원회 등 정부 부처들은 공동으로 발간한 '2024 국가정보보호백서'에서 AI 기술의 발전은 다양한 산업 분야에서 혁신을 가져오고 있지만 동시에 사이버 보안 위협의 복잡성과 위험성도 키우고 있다고 평가했다. 백서는 "AI가 사이버 공격과 방어에 사용됨에 따라 미래의 사이버 위험과 공격 위협은 더욱 정교하고 예측하기 어려운 형태로 발전할 것"이라고 내다봤다.

구체적으로 "AI와 머신러닝 기술을 활용한 공격 수법이 발전하면서 공격자들은 기존의 보안 시스템을 우회하고 탐지를 회피하는 데 더욱 능숙해질 것"이라며 딥페이크(영상·이미지 합성 조작물)를 이용한 사기와 자동화된 피싱 공격 등이 증가할 것으로 전망했다. 또 "AI 기반의 자동화한 사이버 방어 체계는 효율성을 크게 향상할 수 있지만 새로운 취약점을 만들 수 있다"며 "공격자들은 AI 시스템의 학습 데이터를 조작하는 등의 공격을 시도할 수 있다"고 지적했다.

AI를 통한 정보 수집에 따른 윤리적 문제 가능성도 거론됐다. 백서는 "AI 기술을 활용한 데이터 수집과 분석은 개인의 프라이버시 침해와 윤리적 문제를 일으킬 수 있다"며 "특히 개인 데이터를 대상으로 한 무분별한 수집과 분석은 사이버 공격자들에게 유용한 정보를 제공할 수 있다"고 짚었다.

백서는 AI 기반의 공격 수법의 발전, 자동화된 사이버 방어 체계의 취약점, AI 윤리와 프라이버시 문제가 미래의 사이버 위험 및 공격을 대비하는데 중요하다며 "이런 위협에 효과적으로 대응하기 위해서는 지속적인 연구와 기술 개발, 국제적인 협력이 필요할 것"이라고 강조했다. 아울러 백서는 생성형 AI의 소프트웨어 공급망이 공격 대상이 되고 있다며 "공격자들은 AI 개발·배포 과정에서 제3자 라이브러리, 오픈소스 코드, 클라우드 서비스의 취약점을 이용할 수 있다"고 우려했다.

1년 전 발간된 '2023 국가정보보호백서'는 AI로 인한 사이버 위협을 대화형 AI 서비스가 스팸이나 사기에 악용될 위험을 중심으로 간략히 소개했는데 올해 백서는 AI 관련 분량을 대폭 늘렸다. 2022년 11월 오픈AI의 대화형 챗봇 '챗GPT'가 나온 뒤 세계적으로 AI의 영향력이 빠르게 확대된 상황을 반영한 것으로 보인다.

올해 백서는 사이버 위협 이슈로 AI 외에 북한 '라자루스'를 비롯해 국가 지원을 받는 해킹 그룹의 활동 증가, 사물인터넷(IoT) 기기를 활용한 디도스 공격의 정교화, 가상자산을 둘러싼 사이버공격 진화 등의 가능성도 우려했다.