"챗GPT 등 생성 AI, 개인정보 도용·저작권 침해 등 문제 발생 소지"
"챗GPT 등 생성 AI, 개인정보 도용·저작권 침해 등 문제 발생 소지"
이 기사를 공유합니다

'인공지능 윤리법제 포럼' 창립 웨비나
"윤리 모르고 한 번 학습하면 특정 데이터 제거 불가능"
28일 서울 서초구 더케이호텔에서 인공지능 윤리법제 포럼에서 하주영 스캐터랩 변호사가 발언하고 있다. (사진=연합뉴스)
28일 서울 서초구 더케이호텔에서 인공지능 윤리법제 포럼에서 하주영 스캐터랩 변호사가 발언하고 있다. (사진=연합뉴스)

[서울파이낸스 이도경 기자] 최근 돌풍을 몰고 있는 '챗GPT' 등 생성 AI(인공지능)에 대해 잘못된 사용 시 개인정보 무단도용 혹은 저작권 침해 등의 윤리적 문제가 발생할 수 있다는 지적이 나왔다.

하주영 스캐터랩 변호사는 28일 서울 서초구 더케이호텔에서 개최된 '인공지능 윤리법제 포럼' 창립 웨비나에 참석해 "지난 2020년 오픈 AI의 'GPT-3' 발표 이후 생성 AI 기술이 급속도로 발전하며 예술·창작 분야에서 AI가 인간에 근접한 수준의 창작물을 생성해내고 있다"며 "다만 유례를 찾아볼 수 없을 정도로 빠른 기술 발전 속도 탓에 법과 윤리의 지체 현상이 발생할 우려가 있다"며 이같이 밝혔다.

생성 AI란 오디오·코드·이미지·텍스트·시뮬레이션·비디오 등을 창작하는 데 사용될 수 있는 인공지능 알고리듬을 뜻한다. 특히 텍스트 검색 부문에서는 이용자가 필요로 하는 정보를 대화 형식 주문에 따라 맞춤 제공하며 기존 포털의 검색 알고리듬의 종언을 가져올 것이라는 평가를 받기도 했다.

이에 마이크로소프트(MS)·구글·바이두 등 해외 글로벌 빅테크 기업들이 연이어 생성형 AI 서비스 출시를 예고하고 있으며, 국내에서도 네이버·카카오 등의 기업들이 '한국형 챗GPT' 서비스를 선보이기 위해 열을 올리고 있다.

하 변호사는 이날 포럼에서 "AI 학습에 필요한 대규모 데이터는 대부분 공개된 웹사이트에서 수집되므로, 생성 AI 개발을 위한 데이터 수집 과정에서 상당량의 개인정보가 포함되는 것이 불가피하다"며 "AI학습 목적으로 의도적인 개인정보 도용이 발생한 경우, 전에 없던 중대하고 비가역적인 법익 침해가 발생할 수 있다"고 전했다.

이어 "특히 고성능 모델이 오픈소스로 공개돼 누구나 접근할 수 있게 되면서 윤리적 이용 라이선스조차도 무시하고 해당 모델을 악용하는 사례가 발견되고 있다"며 "미국에서 한 여성 게임 크리에이터가 자신의 얼굴이 생성 AI 성인물에 나오는 것을 발견한 것이 대표적인 예시"라고 설명했다.

하 변호사는 "생성 AI의 특성상 한 번 학습되고 나면 특정 데이터만 제거하는 것이 사실상 불가능하기 때문에, 만일 특정 개인정보가 타인에게 공유돼 추가 학습 및 혼합 과정을 거치면 사실상 원상회복은 불가능하다"며 "언제든지 생성 AI를 이용한 조작이 딥페이크 기술 등 비윤리적 창작에 악용될 수 있는 만큼 연구자들과 이용자들의 윤리의식이 강하게 요구된다"고 강조했다.

개인정보와 관련한 문제 외에도 △AI 학습 과정에서 특정 저작물이 활용돼 발생하는 저작권 침해 △AI 운영에 소반되는 막대한 에너지 소비 및 다량의 탄소 배출로 인한 환경 파괴 △데이터의 순환 구조 형성에 따른 데이터 독과점화 등 생성 AI와 관련된 수많은 쟁점들이 현재진행형으로 논의 중이다.

하 변호사는 특히 생성 AI와 관련한 저작권 문제가 대두될 수 있다고 우려했다.

하 변호사는 "AI 학습에 대규모 데이터가 이용되는 과정에서, 개인정보와 마찬가지로 저작권이 있는 저작물이 학습되는 것이 불가피하다"며 "기존 텍스트 생성 AI의 경우 구체적 피해를 야기하지 않았지만, 이미지 생성 AI가 발표되며 화가들을 중심으로 이용 허락을 받지 않고 저작물을 이용할 수 있는 기존 연구 관행에 대한 정당성에 의문이 발생하기 시작했다"고 말했다.

이어 "음악 산업이 디지털 기술 도입 초기 난관이 있었음에도 결국 안착에 성공한 것과 마찬가지로, 신기술의 발전을 저해하지 않으면서도 창작자들의 권리를 충분히 보호하는 제도가 하루 빨리 마련될 필요가 있다"고 덧붙였다.



이 시간 주요 뉴스
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.