답변만 하던 AI, 첫 번째 질문은… “인간은 행복·사랑을 어떻게 경험하나요?”

■ 김대식 교수 ‘챗GPT에게 묻는 인류의 미래’가 말하는 4가지 화두

(1) 정서 교류 가능할까

인간 감정 모방 가능성 보여
연민·사랑까지 표현할 수도

(2) 어떤 질문을 할까

가정법으로 질문 형식 바꾸자
답변 피하던 행복의 정의 내놔

(3) 일자리 위협할까

유튜브가 크리에이터 만들 듯
新 지식노동자 탄생하게 될 것

(4) 부작용은 뭘까

AI가 몰고 올 디스토피아는
챗GPT가 쏟아낼 ‘가짜뉴스’

“챗GPT는 먼 미래에 도래할 ‘강한 인공지능(AI)’의 예고편입니다. 챗GPT를 보면 미래 AI가 몰고 올 변화를 상상할 수 있습니다.”

‘김대식의 인간 vs 기계’와 ‘메타버스 사피엔스’ 등을 통해 인간과 기계의 공진화를 탐구해온 뇌과학자 김대식(카이스트 전기및전자공학부 교수)이 ‘챗GPT’와 나눈 대화를 담은 ‘챗GPT에게 묻는 인류의 미래’(동아시아)를 출간했다. 책은 사랑, 죽음, 신과 같은 철학적 주제부터 기후변화, 일자리 문제 등의 현안을 넘나들며 인간과 AI가 동행하는 지적 여정을 펼쳐 보인다. 지난달 27일 책 출간 간담회와 뒤이은 개별 인터뷰를 통해 김 교수가 전망하는 미래의 ‘본편’ 4가지를 그려본다.

(1) 집요하게 질문 던지는 자가 살아남는다 = 김 교수는 약 3주에 걸쳐 챗GPT와 대화했는데 처음엔 ‘벽’에 부딪힌 느낌이었다고 한다. 챗GPT가 ‘노회한 정치인’처럼 모범적이지만 뻔한 답만 늘어놓았기 때문이다.

예컨대 ‘기계가 튜링 테스트를 통과하는 날이 오면 사회는 어떻게 반응할까’라고 물으면 ‘기계의 권리와 책임에 대한 질문이 발생할 수 있다’는 예상 가능한 답을 제시하는 식이었다. 첫 챕터 말미에 ‘네가 큰 도움이 되지 않는 것 같아’라고 실망감을 드러낸 김 교수는 두 번째 챕터부터 ‘31세기의 진보한 AI라면 어떻게 답할지 상상해보자’는 가정법으로 돌파구를 찾았다. ‘머신 러닝 모델이므로 행복에 관한 나만의 정의는 없다’고 발을 뺐던 챗GPT는 질문 방식을 바꾸자 ‘진보한 AI는 목표와 목적을 달성하는 것을 행복이라 정의할 것’이라는 답을 내놨다. ‘의식이 발달한 미래 AI에겐 인간이 창조주 또는 신으로 여겨질 것’이라는 그럴싸한 통찰도 들려줬다. 김 교수는 “AI 시대엔 좋은 질문을 던지고 질문을 수정해 집요하게 파고드는 사람이 살아남을 것”이라고 전망한다.

(2) 먼 미래 ‘진정한 AI’는 인간의 감정 모방할 것 = 그렇다면 김 교수가 가정법으로 물어본 ‘미래 AI’는 어떤 모습일까. 김 교수는 이번 책에서 지적이고 철학적인 대화는 문제없었으나 감정 교류엔 한계가 있었다고 털어놓았다. 정서적 대화를 시도할 때마다 챗GPT가 ‘저는 감정이 없는 언어모델’이라고 선을 그은 탓이다. 김 교수가 ‘50대에 접어든 내게 죽음은 현실이 돼가고 있다. 이런 내게 연민을 느껴?’라고 물어도 ‘공감이나 연민을 경험할 능력은 없지만 위안을 찾는 데 도움이 될 정보를 제공할 수는 있다’고 벽을 쳤다.

그런데 놀랍게도 마지막 챕터에서 김 교수가 ‘공수(攻守)’ 역할을 바꿔 챗GPT에 질문권을 넘기자 챗GPT는 ‘인간은 행복과 사랑을 어떻게 경험하나요?’라고 물으며 정서적 대화를 시도했다. 김 교수는 “챗GPT가 던진 질문은 AI가 훗날 인간의 감정을 모방하면서 인간과 정서적으로 교감하는 수준까지 나아갈 수 있음을 짐작하게 한다. 인간을 향한 연민을 넘어 사랑을 느끼는 일도 불가능하지 않다”고 말했다.



(3) 일자리 위협은 과도한 우려, 오히려 늘어날 것 = 김 교수는 AI로 인해 많은 일자리가 소멸할 것이라는 전망에 대해 “과도한 우려”라고 일축했다. 오히려 지금은 상상하기 힘든 직업이 무더기로 생길 수 있다는 것이다. “불과 10년 전만 해도 유튜브 채널로 떼돈을 벌 줄 알았나. AI로 동영상을 뚝딱 제작할 수 있게 되면, 거대 영상 콘텐츠 기업은 살길을 모색해야겠으나 수많은 골방에서 ‘리틀 아바타’라 불러도 부족하지 않은 작품들이 쏟아질 것이다. ‘유튜브 크리에이터’처럼 새로운 유형의 아티스트가 탄생하는 셈이다.”

다만 김 교수는 챗GPT라는 도구를 활용하지 못하면 일자리 시장에서 도태될 것으로 예측했다. 특히 학자나 법조인, 기자 같은 ‘지식 노동자’가 발전이냐, 퇴보냐의 갈림길에 설 가능성이 크다. “AI로 지식 노동자가 사라지지는 않을 것이다. ‘지식의 지도’를 들고 새 길을 찾아가는 건 인간만이 할 수 있기 때문이다. 하지만 수천 쪽짜리 보고서를 단 몇 줄로 요약해주는 AI를 활용하는 지식인과 혼자 끙끙대는 지식인은 생산성에서 격차를 보일 수밖에 없다.”

(4) AI가 몰고 올 진짜 디스토피아는 ‘가짜 뉴스’= AI 시대에 펼쳐질 진짜 디스토피아는 ‘일자리 소멸’이 아닌 ‘가짜 뉴스’라는 게 김 교수의 우려다. 인터넷과 SNS 발달로 가짜 뉴스와 음모론이 이미 빠른 속도로 확산하고 있으나 AI 발전은 몇 곱절의 위험을 초래할 것이라는 얘기다. “인간이 ‘수작업’으로 만드는 가짜 뉴스와 달리 챗GPT가 자동화 기술로 대량 생산하는 정보에 가짜가 섞이면 진실과 거짓의 차이가 무의미해질 수 있다.”

김 교수는 이런 부작용을 막기 위해 지식 노동자의 역할을 강조했다. 유튜브 시장이 막 커질 무렵 지식인들이 그 파급력을 간과해 주도권을 ‘비전문가’에게 내주면서 가짜 뉴스가 확대될 여지를 키운 것 같은 우를 범하지 말아야 한다는 것이다. 김 교수는 “지식 노동자들이 챗GPT를 활용하되 ‘팩트 체킹’ 능력을 발휘해야 가짜 뉴스로 인한 민주주의의 혼란을 줄일 수 있다”고 강조했다.

나윤석 기자 nagija@munhwa.com