[서울파이낸스 이도경 기자] 과학기술정보통신부가 정보보호기업 및 학계, 유관기관 전문가들과 함께 챗GPT 등 생성형 AI(인공지능)의 보안 위협 대응방향 모색을 위한 현장 토론회를 13일 개최했다.
이날 서울 송파구 이글루코퍼레이션에서 개최된 토론회에서는 최근 이슈가 되고 있는 생성형 AI 서비스 이용 확산에 따른 국내외 보안 위협 동향과 산업적 파급 효과 등을 공유하고 국가 차원의 보안 위협 대응방향을 논의했다.
챗GPT는 언어 처리 인공지능 모델을 기반으로 하는 대화형 AI 서비스로, 국내외 공공, 민간, 산업 등 다양한 분야에서 활용되며 올해 최대의 화두로 부각되고 있다.
그러나 최근 챗GPT를 악용하여 악성코드, 랜섬웨어, 피싱메일 제작 등 사이버공격에 활용할 가능성이 대두되고 있음에 따라 챗GPT 이용 과정에서 개인정보 및 기업의 영업 기밀 정보가 유출되는 등 크고 작은 보안 문제가 대두되며 우려의 목소리가 제기되는 상황이다.
지난 1월에는 다크웹 등에서 챗GPT를 사용해 새로운 악성코드 등을 제작할 수 있는 사이버공격 도구를 생성했다는 시도가 발견됐으며, 미국·EU 등 해외 주요국에서는 챗GPT 등 인공지능 기술에 대한 위험성을 우려해 안전한 사용과 신뢰 환경 구축을 위한 규제 방안 논의에 착수하고 있다.
이날 토론회에서 이상근 고려대학교 교수는 '챗GPT 기술의 진화, 그리고 사이버보안'을 주제로 △챗GPT 등 생성형 인공지능 기술의 발전 동향 △생성형 인공지능의 한계와 보안 위협 분석 △생성형 인공지능 기술의 발전에 대비한 심층 연구 필요성에 대해 발표했다.
또 정일옥 이글루코퍼레이션 기술위원은 '챗GPT 등 인공지능이 보안 산업에 미치는 영향'을 주제로 △국내외 인공지능 활용한 사이버보안 산업 동향 분석 △인공지능을 접목한 사이버보안 위협·탐지 기술의 성장 가능성 등을 설명했다.
이날 전문가들은 생성형 인공지능의 보안 위협 대응 필요성에 공감하며 △생성형 인공지능의 안전한 이용과 인식제고 △생성형 인공지능을 악용한 사이버공격에 대한 예방·대응체계 △인공지능을 활용한 사이버보안 대응역량 제고 방안 등에 대해 논의했다.
토론회를 주재한 박윤규 제2차관은 "챗GPT 등 생성형 인공지능 기술은 앞으로 더욱 발전해 우리 일상에 폭 넓게 보편적으로 사용 될 것인 만큼 보안 위협 우려에 적극적으로 대응해 나갈 필요가 있다"며 "정부는 생성형 인공지능 서비스를 국민이 안심하고 이용하도록 안전한 사이버환경을 조성하는 한편, 갈수록 지능화‧고도화되는 사이버위협에 대한 대응역랑을 갖추기 위해 최선을 다하겠다"고 말했다.
