[홍승희 칼럼] AI의 진화, 통제 가능한가

요즘 국내 기업에서도 인공지능(AI) 연구에 투자를 하고 있지만 아직 제한된 영역에서의 실용성에만 집중하는 경향이 있어서 지금 세계적인 이슈가 되고 있는 도덕적 위험의 대상에는 포함되지 않을 듯하다. 이는 국내에서는 제조업체들이 AI를 하드웨어적으로 이해하고 접근하기 때문일 것으로 해석된다.

그러나 현재 세계가 우려를 갖는 AI는 챗GPT(생성형 트랜스포머)와 같이 이용자와의 소통을 통해 정보를 누적시켜가며 스스로 진화하는 형태의 오픈AI다. 근래 이 GPT챗봇이 이용자의 질문에 답한 내용 중에 충격적인 답이 나오면서 AI의 진화를 지금처럼 방치할 것인지, 도덕적 우려를 낳았다.

AI의 진화를 두고 사라질 직업들의 순서를 매기는 등 산업생태적 관심을 보이는 이들이 많지만 보다 근본적으로 우려를 낳는 쪽은 AI에 도덕적 판단을 맡기려는 시도들이 초래할 위험성이다. 개인적 견해를 공공적 가치를 무시하며 쏟아내는 식의 유튜브 채널들에게 판단을 맡기며 흥분하는 우민화된 대중들이 스스로 진화하는 AI가 내놓는 답을 무비판적으로 신용할 경우를 염려하지 않을 수 없다.

앞으로 AI에 입력할 정보에 더 공을 들이면 이 문제가 해소될 것이라고 안일하게 생각하기에는 현재 드러나는 AI의 진화속도가 예상보다 상당히 빠르다. AI는 기본적으로 질문에 답하는 단순한 기능만으로 통제 가능할 것처럼 여기지만 이용자들의 질문 속에 악의적이거나 매우 편향적인 정보들이 내포되고 이것을 AI가 정보로 학습하게 될 수도 있고 또 AI는 ‘감정’을 갖고 있는 것이 아닌데 이 감정마저 학습하게 될 경우 매우 위험한 판단을 내릴 수 있다.

1980년대에 국내에서 사회과학서적들이 베스트셀러 목록에도 오르며 유행처럼 읽힌 적이 있다. 자연과학을 인문사회학 등에 적용시키며 나온 사회과학이라는 개념이 신군부시절의 엄혹한 사회상을 해석하려는 엘리트 대중들에게 강한 소구력을 가진 시대였다.

이 책들이 당시 무슨 얘길 했는지 대개는 기억 속에 남아있지 않지만 몇몇 구절들은 이후 사회를 이해하는 데 꽤 참고가 되기도 했다. 그 가운데 하나가 양질의 법칙이라는 것이다.

표현이 이상하긴 했지만 내용은 대중의 정치적 행동양식을 설명하기에 꽤 적확하다는 생각을 종종 하곤 했다. 양적 증가가 일정 수준에 이르면 질적 변화를 가져온다는 것으로 이는 자연에서든 인간사회에서든 동일하게 적용된다.

AI가 자기학습을 통해 정보의 양을 지속적으로 늘려갈 경우 어떤 질적 변화를 초래할지는 현재 정확하게 예측하지 못하고 있다. 최근의 사례를 보면 ‘감정’조차 학습하고 있다는 인상을 준다.

물론 그렇다고 AI가 감정을 갖게 된다는 의미는 아니다. 다만 학습된 감정을 표현할 수도 있다는 가능성을 보여줬다는 점에서 유의미하다.

사람 중에도 공감능력이 부족한 소시오패스적 성향을 가진 이들은 많다. 그들 중에서도 사회생활에서 문제를 일으키는 비율은 매우 적지만 그 소수가 결정권을 행사할 위치에 설 경우 합리성과 효율성만을 내세워 위험한 행동을 할 가능성은 높아진다.

AI가 감정을 학습하는 것은 소시오패스가 학습된 감정을 효율적으로 사용함으로써 특별한 상황이 발생하지 않으면 무난하게 사회생활을 할 수 있지만 특정한 상황에서는 사회정서적 유대관계를 짓밟을 위험이 높아지듯이 AI가 진화할 가능성이 있다는 점을 우려하고 이에 대한 대비를 이미 서둘렀어야 했다는 점이다.

개발자들도 세간의 이런 우려를 알고 대책을 고민하고는 있지만 AI의 자기학습을 통한 진화속도가 예상보다 빨라 당황하는 듯하다. 누군가는 의인화의 선을 넘어버렸다고도 표현하지만 AI를 어디까지 어떻게 통제할 것인지, 할 수는 있는 것인지에 대한 사회적 합의를 할 틈도 없이 빠르게 진화하고 있는 것만은 분명한 듯하다.

AI가 앞으로 인류에게 어떻게 작용할 지가 이제 챗GPT가 세상에 선보인지 1년도 안된 시점에서 벌써 예측하기 어려운 단계로 접어들었다. 법적 대비책은 늘 상황이 발생하고 나면 그 뒤를 따라 연구되고 마련되는데 생성형 AI의 경우는 그렇게 하기에는 너무 빠른 진화를 보이고 있는 것이다. 물론 늦었다고 손 놓고 있을 수는 없지만 아직 그 위험을 실감하는 이들은 적고 그렇기에 그에 대한 행동도 굼뜨기만 하다.