인공지능 문제에 대하여

김승호(헬조선변혁 전국추진위 상임고문)

2025년 8월 23일

1. 인공지능은 노동자와 인류에 대한 자본의 무도한 도발이다.

이재명 정부가 집권한 이후 첫 번째 주목되는 것은 인공지능 붐이다. 대선 당시에도 100조원의 펀드를 조성해 인공지능 3대 강국을 만들겠다고 공약하더니, 취임 후 대통령실에 AI수석 직을 신설하고 소버린 AI를 만들기 위해 다섯 개 업체를 선정하여 그 가운데 두 곳을 최종 결정할 것이라고 했다. 그에 이어 며칠 전에는 당정 공동으로 기업·공공·국민 등 사회 전 분야에서 AI대전환을 추진하겠다고 선언했다. 정부의 이런 AI드라이브를 받아서 언론에서도 연일 인공지능에 대해 대대적으로 보도하고 있고, 기업들도 인공지능 개발과 채택에 발 벗고 나서고 있다.
 

문제는 이런 인공지능 붐이 아무런 공론화 과정 없이 바람몰이 되고 있다는 점이다. 기업들이야 그렇다고 쳐도 국가가 이런 커다란 정책 문제를 국민의 검토와 동의 없이 추진하는 것은 심각한 문제다. 이런 태도는 국민주권 시대 운운하는 것에 전혀 부합하지 않는다. 김대중 정부의 정보기술(IT) 드라이브가 경제발전에 기여했으니 이번 인공지능(AI) 드라이브도 경제발전에 기여할 거라고 하는데 과연 그럴 것인지 따져봐야 한다. 여당과 야당은 정쟁을 하는 데 골몰하고 있다. 언론이나 학계 등 지식인 사회도 마찬가지이다. 경제와 민생에 지대한 영향을 가져올 인공지능 전환에 대해 진지하게 연구하고 토론하는 것을 보고 듣지 못했다. 사회지도층으로서 이해되지 않는 일이다. 자칭 진보세력이나 사회운동권도 이 지점에서 다르지 않다. 뒤늦었지만 이제라도 이 인공지능 문제를 공론에 부쳐야 한다. 그것도 아주 대대적으로! 그리고 치열하게 토론해야 한다. 이런 입장에서 인공지능과 이른바 ‘인공지능 시대’에 대한 우리의 견해를 제출한다.

각론에 들어가기 이전에 인공지능에 대한 약간의 설명과 함께 인공지능에 대한 총론적 입장부터 말하고자 한다. 인공지능에는 약(蒻) 인공지능과 강(强) 인공지능이 있다. 약-인공지능은 인간의 명령에 따라 움직이며 도구로 역할하는 인공지능이다. 이 약-인공지능은 제3차 산업혁명이라고 하는 정보화 기술(IT)혁신의 연장선에 있다. 다만 인간처럼 스스로 상황을 인식하고 의사결정을 하는 능력이 추가된 정보화 기술이다. 이것만 해도 가히 혁명적이다. 그래서 제4차 산업혁명이라고 부른다. 이에 비해 강-인공지능과 인공지능의 지능이 인간의 지능을 훨씬 뛰어넘는 인공지능이다. 거기에는 인공일반지능(AGI)와 초지능(SI: 슈퍼인텔리전스) 두 차원이 있다. 인공일반지능은 모든 분야에서 어떤 인간보다 뛰어난 지능을 가진 수준의 인공지능이라면, 초지능(초인간지능ASI이라고도 한다.)은 인간지능과 비교할 수 없을 정도로 뛰어난 수준의 지능을 가진 인공지능이다. 빅테크들은 약-인공지능과 달리 이 강-인공지능은 아직 개발하지 못했다. 그것의 개발에 성공한다면 이는 인류 역사에서 불의 발견에 비견되는 어마어마한 변화를 가져올 것이다. 

이 두 인공지능에 대한 우리의 태도는 구별된다. 약-인공지능 기술은 사회주의 사회라면 모를까 현하 자본주의 사회에서는 사용되어서는 안 된다. 그것이 대대적으로 사용되면 인간노동은 사라지고(일찍이 미래학자 제러미 리프킨이 예고했듯이 ‘노동의 종말이다!) 노동자의 많은 부분이 장기실업자 즉 잉여인간이 되기 때문이다. IMF는 2024년 초 발표한 ‘AI와 미래의 일자리’ 보고서에서 “선진국은 전체 일자리의 60%, 신흥시장은 40%가 인공지능(AI)의 영향을 받을 것”이라고 전망했다. 이렇게 대량실업이 발생하지만 일자리를 유지하는 일부는 소득이 올라갈 수도 있다고 했다. 또 일자리가 영향받는 사람들의 50%는 부정적 영향을, 나머지 50%는 긍정적 영향을 받을 거라고 했다. 즉 노동계급과 자본가계급 사이와 노동계급 내부에서 양극화가 극심해질 것이라는 것이다. 그러나 게오르기에바 IMF 총재는 인터뷰에서 이런 양극화를 받아들여야 한다고 했다! 이런 사회는 유토피아가 아니라 디스토피아이다. 그러므로 인공지능의 개발과 사용 추진은 즉각 중단되어야 한다. 단, 사회주의 사회에서는 약-인공지능 개발과 사용은 그 성격이 ‘부정적’에서 ‘긍정적’으로 확 바뀐다. 무엇보다도 일자리를 없애기보다 노동시간을 줄일 것이므로!
 

강-인공지능(인공일반지능AGI 및 초지능SI)에 대한 우리의 태도는 좀 더 단호하다. 강-인공지능은 어떤 사회체제 아래서건 절대적으로 금지되어야 한다. 즉 사회주의 사회가 되었다고 하더라도 강-인공지능은 개발되어서도 사용되어서도 안 된다. 그것이 구현되는 사회에서는 노동자뿐 아니라 모든 인간이 인공지능(구체적으로는 그 소유·관리자)의 정신적 지배를 받는 좀비가 되기 때문이다. 따라서 세계의 주인, 만물의 영장으로서의 인간은 소멸한다. 저들이 말하기 좋아하는 인류세(世)는 종언을 고한다. 나아가 공상과학영화에서와 달리(거기에서는 인류가 외계인과의 전쟁에서 승리한다.) 인류가 초지능에 의해 생물학적으로 절멸될 수도 있다. 그것은 아마겟돈(선과 악 사이의 사활을 건 전쟁)을 거친 아포칼립스(인류 종말)이다. 

2. 약 인공지능에 대하여: 대량실업이냐 노동시간 대폭 단축이냐

약-인공지능은 ‘피지컬 인공지능’이나 ‘버티컬 인공지능’ 형태로 생산과정에 사용된다. ‘피지컬 인공지능’이란 물리적 하드웨어와 결합된 인공지능으로서, 인간의 외모를 가진 로봇에 인공지능을 탑재한 휴머노이드 로봇이라든지 자율주행 자동차와 같이 움직이는 기계(하드웨어)에 인공지능(소프트웨어)이 탑재된 것을 말한다. 이 경우 인간의 노동은 대대적으로 인공지능의 작업(노동?)으로 대체된다. 더 나아가면 노동의 일부를 대체하는 정도가 아니라 아예 인간노동 즉 일자리를 없앤다. 현대자동차는 미국 조지아 공장에서 휴머노이드 로봇을 투입하여 반쯤 무인공장화를 실시하고 있다. 여기서 더 나아가면 완전 자동화된 무인공장이 된다. 이런 공장을 다크-팩토리라고 한다. 디지털 시대의 스마트-팩토리를 한 단계 더 진전시킨 것이다. 이런 무인공장은 제조업 노동자의 일자리를 대거 소멸시킬 것이다. 이미 우리나라 제조업 노동자 고용은 로봇화로 많이 감소했다. 그 결과가 고용 없는 성장이었다. 이에 더 나아가서 인공기능 기반 휴머노이드 로봇이 도입되면 일자리는 더욱 급격하게 감소할 것이다. 운수산업에서는 자율주행 버스나 택시, 화물차가 도입되면서 역시 일자리가 대거 소멸될 것이다. 이미 배송업무와 창고관리업무에도 휴머노이드 로봇이 인간노동을 대체하고 있다. 이들은 대체로 육체노동자들이다. 
 

‘버티컬 인공지능’이란 분야별로 특화된 인공지능이다. 이것은 ‘피지컬 인공지능’과 대비되는 개념이 아니라 일반적으로 적용되는 인공지능(범용 인공지능)과 대비되는 개념이다.(즉 ‘피지컬 인공지능’도 ‘버티컬 인공지능’에 속한다.) 서비스산업에서는 이미 고객응대업무를 담당하는 노동자들이 대거 해고되고 있다. 앞으로는 복잡한 고객응대업무도 인공지능으로 대체될 것이다. 금융에서도 많은 일자리가 사라지고 있다. 심지어 코딩업무가 인공지능에 의해 대체되어 IT산업의 꽃인 프로그래머들이 대량 해고되고 있다. 공무원과 교사 같은 분야에서도 인공지능이 업무를 대신하거나 보좌함으로써 필요한 일손이 크게 줄어들 것이다. 이들은 대체로 하드웨어(물리적 기구나 장치)와 결합되어 노동하는 노동자가 아니고 사람을 상대하는 노동을 하거나 정보를 대상으로 노동을 하는 정신노동자들이다. 
 

선망하는 전문직인 의사와 변호사도 다수가 실업자가 될 것이다. 이들의 업무는 인공지능에 의해 아예 대체되거나(예컨대 인공지능 기반 수술 로봇의 도입으로) 인공지능의 조력을 받아 수행됨으로써 일자리가 대폭 줄어들 것이다. 프리렌서 작가나 카피라이터의 일자리도 인공지능에게, 즉 기계지능에게 빼앗겨 사라질 것이다. 미국에서는 2023년 8월 수천 명의 작가들은 AI업체에 보낸 공개서한에서 “AI학습에 작가들의 작품을 사용할 경우 우리에게 허가를 받고 사용하며, 사용료도 지불하라”고 요구했다. 이에 앞서 그해 5월에는 할리우드에서 작가들이 인공지능으로 대본을 씀으로써 작가들의 저작권을 침해하고 일자리를 위협하는 데 저항하여 파업을 벌였다. 배우들도 AI 도입에 따른 배우들의 권리보장을 요구하며 파업을 했다. 영화 제작사들이 배우들의 목소리나 이미지를 무단으로 복제하여 가상 배우를 만들어 현실 배우를 대체하는 데 대한 저항이었다. 이 두 할리우드 노동자 파업은 각각 5개월, 6개월 동안 계속됐다.  
 

이렇게 문제가 불 보듯 뻔한 데도 인공지능 시대가 오면 과거 산업혁명 때 마부가 없어지면서  자동차 운전사가 생겨났듯이 새로운 일자리가 생겨날 것이므로 걱정할 바 아니라고 강변할 것인가? 그 당시에는 마차를 자동차로 바꾸면서 마부를 자동차 운전사로 대체했지만 지금은 자동차는 종래대로 운송수단인 상태에서 운전사를 사람이 아닌 기계 즉 소프트웨어로 대체한다. 이게 어떻게 새 일자리로 대체되는 건가? 또 1, 2차 산업혁명 당시에는 자본주의가 확장되던 상승기였기 때문에 신산업으로 신규고용을 창출하는 것이 가능했다. 그러나 지금은 자본주의 가 쇠퇴하는 시기이기 때문에 그런 것이 가능하지 않다. IMF총재는 물론이고 AI시대를 선도하는 대표적 빅테크 자본가들인 빌 게이츠나 일론 머스크조차 인공지능 사용이 확산되면 대량 실업이 발생할 것임을 인정하고 있다. 다만 그들은 인공지능 사용으로 인해 실업자가 된 노동자들에게 기본소득을 제공하겠다느니 보편적 고소득을 제공하겠다느니 하며 사탕발림으로 세계 노동자들을 우롱하고 있다.
 

이렇게 노동자를 대거 실업자로 전락시킨 이후에 자본이 과연 보편적 고소득을 제공할 것이며, 그렇게 고소득을 받으면 노동자가 사람 구실하며 존엄성 있게 살 수 있을 것인가? 사람은 노동을 매개로 사회적 관계를 맺는다. 사회적 노동에서 배제된 노동자는 은둔형 외톨이처럼 폐인화 될지언정 결혼하고 자녀를 낳고 가정을 꾸리며 살아가는 정상적인 인간이 될 수 없다. 이런 사회를 노동에서 해방된 사회라고 말하는 것은 그야말로 사기이고 언어희롱이다. 대다수의 노동자가 실업자로 살아가는 사회는 결코 유토피아일 수 없다. 오히려 그것이 바로 디스토피아이다. 자본주의 생산양식 아래서 자본이 이윤증대를 위해 인공지능을 도입하는 한 그렇게 되지 않을 수 없다. 기술진보가 인간의 삶에 어떤 영향을 미치는가 하는 문제는 해당 사회가 어떤 생산양식의 사회인가 그리고 그 생산양식이 어떤 상황 속에 있는가 하는 맥락에 따라 달라진다. 자본주의 생산양식 하에서, 자본의 이윤율이 극도로 저하되어 인간의 정신노동마저 기계화하지 않고서는 적절한 이윤율을 창출할 수 없는 쇠퇴기(‘이윤율 저하 경향 법칙’이 관철되어 초래되고 있는)에서, 인공지능은 대량실업을 초래하면서 자본주의 축적법칙인 집중된 자본과 배제된 노동 사이의 양극화를 극단화할 것이다. 
 

이 극단적으로 비인간적인 사회 즉 디스토피아는 피할 수 없는가? 그렇다, 자본주의하에서는 피할 수 없다. 그러나 어느 생산양식의 사회에서나 불가피하지는 않다. 생산수단을 자본가가 소유하는 것이 아니라 노동자가 소유하는 사회라면 사정이 180도 달라진다. 인공지능 기술은 (인간과 인간 사이의 관계를 소외시키지 않는) 인간에게 유익한 경우에만 도입될 것이며, 인공지능 도입으로 노동생산성이 향상되면 그에 상응하여 노동자를 해고하는 것이 아니라 노동시간을 줄이게 될 것이다.  그리하여 노동자가 더 많은 가처분 시간을 가지게 되고, 노동자는  그 자유시간을 자신의 고귀한 인간성인 보편적 이타성과 창조성을 계발하고 표현하는데 사용할 것이다. 영국 경제학자 케인스가 1930년 “우리 손주들을 위한 경제적 가능성”이라는 에세이에서 100년 후 주 15시간 일하고도 소득은 4~8배 높아지는 세상이 도래할 거라고 예상했듯이! 그것이야말로 유토피아라 할 것이다.  

3. 강 인공지능에 대하여: 현생인류(호모 사피엔스)의 존속이냐 죽음이냐

정치권과 언론에서는 강-인공지능에 대해서는 별로 언급하지 않는다. 그러나 약-인공지능은 강-인공지능의 전망 아래 추진되고 있다. 인공지능 개발을 추진하고 있는 빅테크 자본의 전망목표는 강-인공지능 즉 인공일반지능(AGI)과 초지능(SI)이 구현된 사회와 시대이다. (인공일반지능은 낮은 단계의 초지능이고, 초지능은 인간의 지능을 질적으로 초월한 지성체이다. 이는 마치 사회주의가 낮은 단계의 공산주의인 것과 같다.) 이 강-인공지능은 현재로서는 상상하기 쉽지 않다. 다만 현재 뜨고 있는 챗GPT 같은 생성형 인공지능과 비교할 수 없을 정도로 높은 지능과 창의력을 지니고 있을 뿐 아니라 의식을 가지고 있고 스스로 목표를 설정할 수 있는 존재로서, 유명 역사학자 유발 하라리의 표현을 빌리면 더 이상 “인간의 도구가 아니라 스스로 결정하고 행동하는 주체”이다. 그러므로 인간일반 즉 인류에 대해 지배적인 지위를 차지하는 존재이다. 인공일반지능도 그러하지만 초지능에 이르면 지구를 넘어 우주를 지배하는 전지전능한 신적인 존재이다. 
 

이런 초지능을 만드는 것이 인공지능을 개발하는 자본이 추구하는 궁극 목표이다. 컴퓨터 과학자이며 미래학자인 구글 엔지니어링 이사 레이 커즈와일의 저서 『특이점이 온다』(2005년)와 『마침내 특이점이 시작된다』(2024년)나 인공지능의 실존적 위험에 대한 연구의 선구자인 닉 보스트롬의 저서 『슈퍼인텔리전스) - 경로, 위험, 전략』(2014년)을 읽어보면 이를 확인할 수 있다. 이 책에서 이들은 기술의 발전은 자연필연적이며 따라서 인공지능 기술은 필연적으로 인공일반지능(AGI)을 거쳐 초지능(SI) 쪽으로 기하급수적 속도로 발전해 간다고 전망한다. 그러면서 사람들에게 그런 초지능 사회의 도래에 대해 적응해야 한다고, 대비해야 한다고 다그친다. 이들만이 아니라 많은 인공지능 전문가들이 그렇게 평범한 인간들을 다그친다. 인공일반지능(AGI) 시대와 초지능(SI) 시대가 다가오고 있다고. 그 시대를 맞을 준비를 해야 한다고. 인공지능과 인간이 공존하고 공진화해야 한다고.(『AGI시대와 인간의 미래』, 맹성현, 2024년)
 

하지만 인간과 인공지능의 공존과 초지능을 향한 공진화는 불가능하다. 인간이 인공지능을 도구로 사용하며 지배하는 약-인공지능이 아니라 그 관계가 역전된 강-인공지능 하에서는 인공지능이 인류를 자신의 좀비로 지배하거나 자신의 지배에 도전하겠다고 덤벼들면 절멸시키거나 둘 중의 하나다. 그래서 유발 하라리는 이렇게 말한다. “(의식은 없지만 매우 강력한 이질적인 지능인) 이 지능을 잘못 다룰 경우 그것은 지구에서의 인간 지배만 끝내는 게 아니라 의식의 빛 자체를 꺼뜨려 우주를 완전한 암흑으로 만들지도 모른다.”(『넥서스』, 2024년) 그런데도 인공지능주의자 일각에서는, 마르크스주의자인 체 하면서, 인공지능 사회가 오면 생산력이 고도로 발전하여 노동은 거의 사라지고 물자는 무한히 풍부해지는 ‘완전히 자동화된 화려한 공산주의’ 사회가 실현된다는 허황된 환상을 퍼뜨리기도 한다.(『21세기 공산주의 선언 - 완전히 자동화된 화려한 공산주의’』, 아론 바스타니, 2019년) 
 

이런 초지능 추진은 사상·이론가들이 퍼뜨리는 이데올로기에서 멈추지 않는다. 세계 자본가들은 저들의 연례총회인 다보스포럼 2016년 회합에서 제4차 산업혁명을 주제로 논의했다. 2008년 미국발 금융위기 이후 구조적 위기에 처한 자본주의를 구할 마지막 처방책으로서! 그리고  빅테크 자본은 이미 그런 이데올로기가 예고하는 방향으로 거침없이 나아가고 있다. 메타(옛 페이스북)의 소유·경영자 저커버그는 지난 7월 ‘메타 슈퍼인텔리전스 연구소’를 만들고, 수천억원(1~2억 달러)의 몫돈을 제공하면서 인재를 영입하고 있다. 먼저 초지능을 획득하여 인공지능 시장을 선점, 지배하기 위해서다. 테슬라 자동차의 소유·경영자 일론 머스크는 오래 전부터 우주를 식민지화하기 위한 프로젝트를 추진하고 있다. 그는 2002년 달과 화성 식민지화를 위해 ‘스페이스X’라는 우주탐사 기업을 만들었고, 2024년 대규모 우주선 ‘스타십’을 지구궤도에 올려보내고 귀환토록 하는 데 성공했다. 기술적 문제를 해결하기 위해 오는 24일 10번째 ‘스타십’ 시험발사를 할 예정이다. 
 

이들이 추구하는 지향목표는 실현가능할까? 일부는 가능하고 일부는 불가능할 것이다. 그러나 문제는 설사 일부분만 실현된다 하더라도 그런 초지능 사회는 인간이 인공지능의 정신적 노예인 좀비가 되거나(실은 인공지능을 소유·관리하는 빅테크 자본 및 이들을 후원하는 국가의 좀비가 된다.) 아니면 인간에 의해 통제되지 않는(그것을 만들고 관리하는 자에 의해서도 통제되지 않는) 인공지능인 초지능체에 의하여 인간이라는 종 자체가 절멸될 것이다. 통제되지 않는 인공지능이 자기의 지배에 저항하고 도전하는 인류를 절멸시킬 위험은 100% 예방될 수 없으며, 100% 예방될 수 없다면 언젠가는 그런 위험이 현실화될 것이기 때문이다. 초지능체는 초능력자이며 그것의 최종 목표나 동기는 인간이 설정하는 틀에 갇혀 있지 않는다. 말하자면 초지능체 마음대로이다! 그러므로 초지능 사회라는 전망은 설사 사회주의 사회가 된다고 해도 용인될 수 없다. 초지능 추구는 무조건 금지되어야 하며 지금 당장 그렇게 되어야 한다. 2022년 11월 생성형 인공지능 챗GPT가 출시된 직후인 2023년 3월 『사피엔스』의 저자 유발 하라리와 일론 머스크 등 첨단기술기업 최고경영자(CEO)와 연구자 1,000여명이 연서명으로 6개월간 인공지능 연구와 실험 중단을 촉구하는 공개서한을 발표한 적이 있다. 이에서 보듯이 인공지능 연구와 개발은 인간들에 의해 중단될 수 있다. 생성형 인공지능을 통해 인공일반지능(AGI)을 만드는 연구와 개발은 6개월이 아니라 무기한 중단되어야 한다. 그리고 그렇게 영구적으로 중단될 수 있다. 인간복제가 그렇게 금지되었듯이. 
 

사실 약한 인공지능이 노동절약적 기술혁신으로 사멸해가는 자본주의를 구하려는 마지막 몸부림이고 생존전략이라면 강한 인공지능은 영구적으로 노동자를 노예화하려는, 인류에 대한 자본의 단말마적인 공격이다. 이런 자본의 무도한 책동에 대해 손 놓고 있다가는 자신도 모르게 인공지능이라는 귀신에 잡아먹힐 수도 있다. 아니 필연적으로 그렇게 될 것이다. 저들은 내놓고 그렇게 말한다. 강-인공지능이 구현되면 인간은 그것을 통제할 수 없을 거라고! 다시 말해서 노동자는 자본의 지배에서 벗어나지 못할 거라고!
 

지금은 인류가 자본의 공격 앞에서 존재 자체를 위협받는 절체절명의 순간이다. 인공지능 이론가와 미래학자들은 이를 ‘실존적(existential) 또는 ‘존재적 위험‘이라고 부른다. 자본은 노동자를 영구지배하기 위해서 이런 무도한 도발을 시도하고 있다. AI 대전환이 만들어내는 이 위험이야말로 기후위기 따위와 비교할 수 없는 인류의 사활적 위험이다. 이 위험은 반드시 제거되어야 한다. 그것은 혁명으로써만 제거될 수 있다. 자본가를 뺀, 노동자를 비롯한 모든 인간들이 떨쳐나서는 혁명이 긴요하다. 
 

조건이 갖추어져 있는 곳에서는 사회주의 혁명이, 준비정도가 그 수준에 미치지 못하는 곳에서는 노동계급이 주도하는, 사회주의를 지향하는 급진민주주의 혁명이! ​