1. 개요
기술적 특이점의 시사점에 대한 문서.2. 예상 영향
2.1. 기본소득제
머지않아, AI는 오늘날 매우 재능 있는 사람만이 수행하는 일들을 하게 될 것입니다. (창의적인 분야가 가장 먼저, 인지적 노동이 그 다음, 육체적 노동이 마지막이라는 반직관적인 순서로 진행될 것으로 예상합니다.) 사회에는 좋지만 개인의 직업에는 항상 좋은 것은 아닙니다.
OpenAI 최고 경영자 샘 올트먼, 2022년 1월 23일자 트윗
해당 이야기는 블루칼라뿐만이 아니라, 고연봉 화이트칼라 노동자에게도 피할 수 없는 서슬퍼런 칼날이다.
단순노무직의 업무를 로봇과 AI가 대체하여 인간이 제공하는 노동력이 필요없어지면 단순노무직 종사자들은 실직하게 된다. 사무직의 업무도 고도화 된 컴퓨터와 AI가 대체하면 사고(思考)가 필요한 업무에 인간의 지능이 필요 없어지고, 사무직 종사자들또한 실직하게 된다. 창의력과 미(美)로 대표되는 예체능 계열도 AI가 알고리즘으로 작곡하고 미술품을 창작하게 되면 예체능 종사자들은 실직하게 된다.
전문직 역시 마찬가지로, 영상의학을 보면 이미 프로그램이 영상을 분석하여 질병이나 골절 유무를 판단하고, 사람의 판단 하에 사람이 수술을 진행한다. 가까운 미래에는 이 역시 전체 작업이 로봇으로 대체될 것이다. 통역 및 번역 업무는 가장 먼저 대체되는 업무 중 하나일 것이다. 수준이 낮다 치부되는 구글 번역기만으로도 라틴계족 언어들은 현재에도 충분히 소통 가능한 상황이며 음성인식과 AI의 발음 등이 날로 좋아지고 있다.
인간답게 공감해줄 수 있고 심리적인 안정감을 줄 수 있는 '인간적인' 직업이 살아남을 것이라고 하지만, 그것 또한 오래가지 않을 전망이다. 사람과 구별할 수 없는 단백질과 탄소로 설계된, 인간 신체와 똑같은 로봇을 만들고, 더 공감해줄 수 있게 '설계된' AI가 공감해주는 것을 더 잘할 것이기 때문이다. 사람의 기분을 느낄 수 있느냐고 물어본다면, 호르몬같은 건 그냥 가상에서 시뮬레이션 하여 구현해내면 그만이다. 인간이 어떻게든 AI가 못하는 것을 찾으려고 해도, AI는 무엇이든 할 수 있을 뿐더러 오히려 더 잘한다. 이런 상황에서 모든 인간은 경제적 낙오자가 되어버릴 것이다. 노동자 뿐만 아니라, 인공지능이 경영감각까지 가지게 되어 CEO들을 넘어선다면, 모든 기업은 도태되어 대기업도 AI가 지휘하는 기업에 비하면 삼류일 뿐이게 된다.
중요한 것은 약인공지능과 같은 2020년대 중반에 완성될 기술조차도 현재 인간 직업의 50%를 없애버릴 것이라는 점이다. 십수년 내내 화물트럭을 몰던 운전기사가 자율주행 차량에 일자리를 빼앗기고, 곧바로 전문지식도 없이 새로운 '인공지능이 아직 점령하지 않은' 직업을, 생활고에 시달리고 있는 상태로 고등교육을 받지 않고 얻을 수 있을 거라 생각하는 사람은 아마 없을 것이다.
그래서 이런 물결에 따르는 충격에 대비하고자 하는 복지체계로 기본소득제에 대한 논의가 시작된다. 기본소득제란 개인이 가진 재산이나 소득의 많고 적음 또는 유무에 상관없이 국민 모두에게 국가가 일정정도의 소득을 지급(보장)해주는 것이다. 기술이 발전함에 따라 모든 분야에서 AI의 능력이 인간의 능력을 넘어서면 인간을 고용할 이유가 사라지기에 인간의 전부 또는 적어도 대부분이 직업을 잃을 것은 확실하다. 이유는 단순하다. 효율성. AI와 사람과의 작업 결과물을 비교하였을 때 차이가 없고 오히려 사람을 채용하였을 때 경제적인 문제가 더 발생한다면 기업들은 사람을 고용하지 않을 것이고 효율성을 위하여 사람을 모조리 해고하고 'AI관리자'의 명목으로 사람을 고용할 수도 있을 것이다. AI관리자의 역할을 하는 AI를 사용한다면 금상첨화. 문제는 고용되어 기업에게 월급을 받아 다시 기업의 생산품을 소모하는 대다수의 대중이 별다른 수단 없이 실직하게 되면 기업도 돈을 벌 수 없는 상황이 오게 되므로, 전 세계의 경제가 사이좋게 다시 대공황 시절로 돌아가게 된다. 이쯤 되면 국가가 나서서 부의 재분배를 직접적으로 강제하거나 일정 규모의 기업은 사람을 채용하는 것을 법으로 강제하는 것 이외에는 사실상 방법이 없다.
선진국에선 정부차원에서 이미 기본소득 논의가 나오고 있다. 우리나라도 이에 맞춰 2019년 10월 29일 언론들이 일제히 기사를 쏟아냈다.
2020년 코로나 사태로 인해 긴급재난지원금의 형태로 4인 가정에 100만원씩 일괄 지원이 되어 기본소득제를 부분적으로 시도해 봤다는 평이 나왔다.
2.2. 인공지능이 다스리는 국가
미래학자들은, 인간으로 이루어진 국회의원과 법조인들은 밥그릇 지키기 위해 법치와 법개정에 인공지능이 참여하지 못하게 막을 것이라고 주장한다. 하지만 사리사욕 없는 인공지능이 완벽하게 통치하는 국가와 온갖 비리로 점철된 상류층이 통치하는 국가 중 하나를 선택하라고 한다면, 대부분의 사람들은 바로 인공지능의 국가를 선택하려 할 것이라고 말한다.이 국가는 인공지능이 법을 만들고, 판사와 변호사 역할까지 모두 수행한다. 이 국가의 시민은 모두 뇌의 활동을 감시하는 나노머신을 주입받으며, 모든 범죄 관련 활동은 뇌영역에서부터 차단된다. 물론 모든 시민은 클라우드로 정부 인공지능과 법원 인공지능이 제대로 투명하게 활동하고 있는지 실시간으로 감시할 수 있으며, 감시할 때 활용될 모든 지식들은 인공지능과 공유한다. 이 국가는 범죄율이 0(제로)다. 개개인이 범죄를 꿈꾸지만 않는다면 사상 또한 자유로우며 시민 개개인들은 어떠한 전근대적 권력에도 절대 휘둘리지 않는다. 혹은 범죄를 어차피 행할 수 없으므로 범죄를 꿈꾸는 것조차 자유롭다. 모든 공장과 회사는 AI가 알아서 모두 관리하며, 모두가 기본소득을 받고 살아간다.
하지만 커즈와일을 비롯한 미래학자들의 이러한 견해는 정치에 '효율성'이 존재한다는 잘못된 전제를 깔고 판단한 결과물로, 실질적으로 일어나기 매우 어려운 일이다. 정치에는 근본적으로 효율성이 존재하지 않기 때문이다.
일단 정치에서 효율의 관점을, 더 많은 시민들이 만족함으로 본다면, 죄수에 대한 처벌이 무한정으로 강경해질 가능성이 높다. 성범죄자에 대해서는 인터넷 뉴스 댓글창의 여론을 수용한다면 수백년 형의 강경한 형벌은 물론이고 물리적 거세나 화형이나 거열형도 가능할 것이다. 하지만 현대 형법은 인권의 관점, 범죄 예방의 관점, 억울한 죄인의 발생 가능성 등 다양한 관점에서 형벌을 접근하고, 이런 접근을 통해서 범죄자에 대한 형벌은 (대부분의 시민이 보기에는) 매우 가벼워져 있다. 때문에 대부분의 시민은 현대국가의 형법을 너무 가볍다고 생각해서 불만스럽게 여기는 게 보통이다. 효율성을 시민들의 만족감이 아닌 재범확률로 설정한다면 재범률을 반응변수로 둔 그래프의 최저점으로 생각하는 것도 가능하겠다. 그런데 이렇게 어떤게 효율적인 정치인가에 관해서 다른 사람과 논쟁하는 것이 바로 정치적 행위다. 이걸 인공지능에게 위임한다는 것은 매우 논쟁적이다. 게다가 사회학에서는 재범률에 영향을 미치는 요인 중 정치적 만족도가 존재함을 확인했다. 결과와 원인이 서로 피드백하는 관계라서 어디가 우선이라고 따질 수가 없는 문제인 것이다.
이념의 문제도 있다. 대부분의 사람들은 자신이 가진 재산을 침해받지 않고 싶어한다. 그런데 저런 '인공지능이 완벽하게 인간보다 효율적인 나라'에서는 인공지능이 인간보다 효율적이기 때문에, 인간에게 회사나 공장 등 자본으로 분류되는 재산을 맡기지 않는다. 그런 재산을 가진 사람들, 혹은 그런 재산이 아직은 없어도 언젠가 가지고 싶은 사람들이 저런 나라에 들어가고 싶어할 가능성은 매우 낮다. 당장에 현대 국가의 수 많은 경제 정책은 국가의 전반적인 경제적 효율을 높이기 위해서 시행하는 것이지만, 그 과정에서 자신의 재산이 침해 받는 수 많은 사람이 존재하고 반발을 사고 있다.
극단적으로 반대의 가정을 할 수도 있다. 흑인은 열등한 인종이며 유대인이 금융자본을 통해 세계를 지배하려는 음모를 꾸미고 있으며 홀로코스트는 조작이며... 같은 주장을 하는 인공지능의 국가가 나타났다고 가정하자. 이 비상식적인 나라는 일반적으로 생각하는 효율적, 합리적인 결정이 전혀 이뤄지지 않을 가능성이 높으며, 인종차별이 만연하고, 인권이 바닥을 칠 것이며, 외교에 있어서도 주변 타 국가에 대해서 비합리적인 적대감을 보일 가능성이 크다. 대부분의 교양 있는 상식인들은 저런 말을 무시할 것이지만, 저 나라에는 못해도 수백~수천만의 사람이 들어갈 가능성이 높으며, 그런 사람들은 저 이상한 나라에서 매우 만족할 것이다.
강력한 인공지능이 나타났을 때 '어떤 것이 옳고 어떤 것이 바른가'라는 궁극적인 가치판단의 향방은 당연히 인공지능이 인간보다 훨씬 우월한 판단력을 보일 것이다. 이것은 컴퓨터가 인간보다 훨씬 더 계산을 잘 한다와 같은 당연한 얘기다. 평생 바둑에 몰두한 천재들을 알파고가 뛰어넘었듯이, 철학, 윤리학, 사회학, 경제학, 정치학, 경제와 정치 실무 등 지금까지 나타났던 수많은 학설과 실제 예시를 계속 투입하면서 인공지능을 만들어나가면 된다. 단지 이렇게 인간보다 훨씬 우월한 가치판단을 과연 인간들이 정치적으로 받아들일 수 있느냐의 문제이다. 이것은 매우 논쟁적이므로, 실제 그런 인공지능이 나타나고 어떤 얘기를 할 것인지도 모르기에 그 미래를 예측하기 어렵다.
미래학자들이 그린 인공지능이 다스리는 국가에서 남는 것은 행정에 해당하는 경찰 시스템 뿐이다. 이 시스템을 적용하면, 운동장에 떨어진 모래 한 톨, 수심 수백미터의 플랑크톤 안에도 수십억 개의 감시하는 나노머신이 들어있을 것이기 때문에, 영토 내에서 어떤 일을 몰래 꾸민다는 것은 있을 수가 없게 된다. 그렇게 인공지능이 승승장구하고 있는 시대에, 이민으로 인한 임금 감소나 치안 불안은 이미 지나간 일일 것이다. 나노머신으로 개개인의 뇌를 모니터링하여 범죄자의 머리 속 생각을 모두 인공지능이 읽고 사전에 범죄 실행에 필요한 것을 차단하면 된다.
문제는 이 '인공지능을 운영하는 방법' 자체를 인간 개개인이 선택하지 못한다는 것이다. 현대 국가는 의외로 행정이 좀 공백이 있는 덕분에 사람들이 자유롭게 살 수 있는 면이 있다. 사람들이 '범죄'라는 단어를 들을 때는 강도, 살인, 성폭행 등 강력 범죄만 상상해서 그렇지, 법으로만 따지자면 불법인 것은 참 많다. 포르노를 보는 것이 불법인 나라에서 인공지능이 그 법을 저런 능력까지 사용해가며 너무나 충실히 수행한다고 상상해보자. 위키백과도 날아간다. 때문에 저런 강인공지능이 행정을 처리하는 나라일수록, 더 많은 사람들의 더 적극적인 정치 참여와 의견 공유가 필요해질 것이다. 그리고 그 최종 의사 결정이 결국 사람의 손에 의해 정해지는 만큼, 강인공지능이 다스리는 나라도 '완벽한' 나라가 될 수는 없을 것이다.
이 '강인공지능에 의해 다스려짐에도 불구하고 개인의 자유를 위해 그 권력이 제한되어 완벽하지는 않은 나라'를 상상한다면, 여러 제도를 미리 구상할 수 있다. 개인의 생각이 완전히 공개되는 것이 아니라 치안유지를 목적으로 하는 특수한 인공지능에게만 공개되며, 생각 자체를 차단해서는 안되고 움직이는 행동만 차단한다. 사실 '생각을 공개'하는 것도 필요 없이, 인공지능 네트워크에 연결된 타인이 타인의 범죄 행동을 보고 신고하는 것에 따라 저 움직이는 행동만 차단하는 기능을 발동한다면, 현대의 경찰 신고 및 출동과 별 차이도 없다. 다만 5분이 아니라 1초만에 출동과 체포가 가능한 것으로 발전할 뿐이다. 영화 써로게이트에서 묘사처럼 영장을 발급받아 의체를 정지하는 것도 충분히 가능성과 개연성이 있다.
하지만 이런 건 개인의 자유가 존중되는 민주주의 국가에서 고려할 모델이고, 개인의 자유보다 국가나 사회 전체를 중시하는 이념을 가진 나라라면 매우 다른 형태의 결과물이 나타날 것이다. 이 강인공지능에 의해 다스려지는 나라의 디스토피아적 모델은 이미 가까이 있다. 다름 아닌 중국이 이미 인공지능 얼굴 인식 기술을 적극적으로 활용해서, 모든 시민들의 행동과 이동을 파악하고 있으며, 인터넷 역시 통제되어서 당과 국가의 공식 의견과 조금이라도 불일치하는 개인이나 단체가 등장하면 제재를 가하는 상황이 펼쳐지고 있다. 중국에 강인공지능이 도입된다면 저런 상황이 더 심화될 것이다.
저런 디스토피아 사회의 출현을 막기 위해서는, 기술적 특이점으로 도달 이전에 전세계적으로 민주화에 대한 논의가 진행되어 바른 민주주의 체제가 세계적으로 자리잡게 해야 할 것이다.
2.3. 존엄성
가령 당신이 뇌를 전산화 시키고는, 10개로 복사해서 미국에 소포로 배송했다고 하자두뇌를 10개로 만들고, 10개 중 하나는 진짜이다. 하지만 아무리 이 안쪽을 들여다 보고 반응을 관찰해도 똑같게만 느껴진다. 프로그램화된 당신은 입국심사를 받을 것인가? 복사한 개체들도? 사본들도 똑같이 입국심사를 받을 것인가? 인간과 복사체는 어떻게 구분할 것이며, 똑같이 보이는 10명 중 어떤 것이 진짜 사람인지 비파괴적이고 윤리친화적인 방법으로 알아낼 수 있는 방법도 없다. 그렇다고 10명이 똑같이 입국심사를 받아야 된다고 친다면, 복사된 인격체도 인간으로 취급해야 하는가? 그렇다면 우리와 기계의 차이점은 무엇인가?
AI가 국가를 만들고, AI 또한 인간처럼 존엄성 혹은 권리를 가져야 한다고 주장한다면, 강력한 딜레마에 빠질수 있다. 자아를 가진 사람 몇천 명 분의 지능을 갖춘 전뇌화된 프로그램이 국경없이 그저 몸을 갈아탈 때에, 사람은 아직도 입국심사나 까다롭게 받으며 국경을 건너다닐 필요가 없다. 꼭 과거에 서브컬쳐계에서 표현하던 완전 기계화처럼 논란이 되고 위험천만하게 자아를 온라인에 업로드하고 뇌를 정지시키는 식으로 쓰지 않더라도, 다른 나라에 걸친 의체를 써서 새 몸으로 살펴보면 끝이다.
2.4. 종족 번식
자손을 남기고 자신의 유전자를 후대에 남길 필요가 있는 것인가? 생물학적으로 새로운 아이들이 태어나게 하는 것보다는, 차라리 인격과 자아를 새롭게 "생성"하는 것이 경제적 면에서도 더 효율적이게 보이지 않을까?[1]인류가 종족번식과 자손을 남기는 것은 본능이다. 그러나 종족의 발전은 세대마다 생물학적 한계가 있고, 수명이 한정되어 있기 때문에, 종족을 유지하기 위한 주요 수단이 새로운 유전자를 가진 자손을 많이 남기는 것이었다. 하지만 수명이 무한해지거나, 노화와 죽음이라는 개념이 사라진다면 더 이상 후대를 생산할 필요가 있을까?
그렇게 된다면 자손을 남기기 위해 필요했던 것들이 사라질 것이다. 대표적으로 아이를 낳아 안정적으로 기르기 위한 사회문화 제도인 결혼이 있다. 경제활동과 임신, 출산, 양육 등을 확실하게 책임지게 할 수 있기에 인간이 진화하고 사회를 이루면서 결혼 제도를 만든 것이다. 당장 역사시대 이전만 해도 결혼제도라는 게 없거나 현대 기준으로 보면 이상한 경우가 많았다. 당장 인류사를 보면 대부분의 문명권과 역사에서 일부다처제와 약탈혼이 주류였다. 엔터테인먼트 수준으로 남을 수는 있겠지만, 이게 필요없어 지는 순간 당장 몇 세대만 지나도 이 부분은 변화가 있을 것이다. 인류의 수명이 무한이 된다면 인구가 더 이상 늘지 않거나, 필요에 따라 인간이 아닌 인공지능을 그냥 생성하게 될지도 모른다. 커즈와일의 말에 따르면, 미래에는 다른 사람과 의식을 영구적으로 합치거나 나누는 것이 기술적으로 가능해지는 것은 물론, 아예 모든 기억을 지우고 뇌를 초기화한 뒤 아기의 몸으로 돌아가는 것까지 가능해질 것이라 한다. 물론 이런 인간의 존엄성에 영향을 끼치는 기술들은 엄밀한 법적 허용과 당사자의 동의 아래에서만 허가될 것이다. 유발 하라리에 의하면 사랑 같은 감정 자체를 비웃는 사람들도 존재하는데, 그런 부류의 사람들은 효율성을 위해 감정을 제거한 뒤 생물학적 개념의 종족번식을 다소 미개하게 볼 수도 있을 것이다.
인간성의 상실은 단순히 보수주의적인 걱정이라고 치부하고 말기에는 꽤나 민감한 문제이다. 전에 언급되어있던 사랑만 하더라도 단순 사교나 가족간의, 인류 단위로 사랑을 하는 마당에 단순히 사랑을 번식을 위한 도구로 볼 수 있냐는 말에 동감할 사람은 거의 없을 것이다. 뜻하지 않은 기술의 발명이 사회를 이끌기도 하지만, 반대로 기술 개발이 사회의 수요를 충족하는 면도 분명 있다. 먼 미래에는 어찌 될지 모르는 일이지만 적어도 근미래에는 제도적으로 사이보그와 같은 인체의 기계화를 금지하여 기술 개발 또한 웨어러블 디바이스와 유전공학 쪽으로 집중될 수도 있다.
2.5. 잊힐 감각과 지식들
좀 멀리 나가 생각해보자. 압력, 통증을 느끼는 통각, 배고픔과 포만감, 스트레스 등등은 감각기관과 뇌를 거친 감각기의 작용이다. 생체조작과 생명공학을 통해 이런 것들을 재구성할 수 있다고 치자. 그러면 인간은 배고픔도, 통증도, 스트레스도 느끼지 않게 할 수 있다. 이 경우 인류는 서로 싸우거나 갈등을 만들 필요가 있을까?그런데다 수직적 사회구조, 결혼 공동체 생활, 사회성, 민주주의, 시장경제체제 같은 개념들 또한 필요없게 될지도 모른다. 모두가 평등하고 수평적인 지위를 누리며 자신이 원하는 성격과 인격을 가질 수 있게 되거나, 오히려 인류 전체가 집단 지성을 이루고, 전체가 통합된, 비슷한 인격과 자아를 가지며 지식을 공유하는 SF스러운 종족이 될지도. 개개인의 개성과 경험 격차, 기억 등등은 오히려 전체 데이터베이스에 통합되어 모두가 그것을 알게 될지도 모르겠다.
하지만 이는 상당히 위험하고 단순한 견해일 수도 있다. 굳이 그 좋은 유전공학 기술 등을 인간 개개인의 개성을 말살시키고 사생활은 모조리 없어지는 사회를 만드는 것에 사실상 강제로 동의하게 쓴다는 식으로 악용될 여지도 크다. 그런 식의 통합은 절대 좋게 취급할 수 있는 것이 아니다.
다만 낙관적인 자들도 이런 건 반대하는 모양이다.
2.6. 모든 사람이 기술적 특이점의 혜택을 받을 수 있는가?
특이점에 대해 회의적인 사람들은 그 기술을 개발한 기관, 이를테면 국가나 기업이 과연 그 기술을 만민에게 공평하게 제공하는지에 대해 회의적인 반응을 보인다. 이익을 위해 이런 기술의 산물을 값비싸게 팔아먹을 가능성이 크다고 주장한다. 가령 A 기업이 이미 대단한 성능의 인공지능을 개발했지만, 시장에다가는 제한된 기능에 제한된 수명을 가진 열화판 인공지능을 풀어버릴 가능성이 있지 않겠냐는 것.커즈와일은 이런 견해를 쉽게 일축한다. 기업들은 경쟁 때문에 항상 최선의 물건을 최선의 가격에 내놓았으며, 시장 확대를 위해서라도 저가의 열화판을 동시에 내놓는다는 것이다. 당장에 스마트폰을 봐도, 애플과 삼성 등 세계 최고 최첨단 기업들이 선진국에는 플래그십급 제품을 주력으로 판매하고, 후진국에는 중저가급 제품을 판매하는 식으로 최대 이익을 실현하고 있다. 게다가 저런 우려는 과학기술의 힘으로 물가가 하락하는 것보다 더 많은 대량소비로 전체 부가 증가한다는 점을 간과한 지적이다. 뛰어난 기술로 상품이 대량으로 생산되고 물가는 내려가겠지만 기술소비가 중산층 서민층까지 확산하고 내려간 물가보다 더 많이 소비되어 새로운 시장이 창출되고 기업들은 이전보다 더 많은 소득을 올릴 것이다, 다만 시대에 따라서 혹은 지역에 따라서 대량 소비를 통한 부의 증가를 통해 물가 하락에 의한 경기침체를 대체하는 정도가 차이가 나기도 한다고 하지만 장기적, 거시적으론 성장한다.
물론 이런 예시에서 보듯, 경제적으로 뒤처지는 사람들은 최고급 제품을 사지 못하고 중저가 제품을 사야 한다는 점에서 모든 사람이 '평등하게' 혜택을 받을 수는 없다. 선진국에서도 극일부의 사람은 그 기술 혜택에 참여하지 못하며, 후진국의 빈민이라면 더 심각하다. 그렇게 되면 이 문서의 대다수 내용은 일부만을 위한 것이 되고 결과적으로는 양극화를 아예 정신, 신체 수준에서 실현되게 하는 결과를 불러일으킬 수 있다. 당장에도 대다수의 기술은 인류 전체의 공영을 위한다는 자선사업 마인드로 개발되고 있지도 않고 그럴 계획도 없다.
이렇게 기술의 발전이 빈부격차를 심화시킬 가능성은 이미 경제학계에서 제시되고 있다.
중진국 함정 항목에서 더 상세히 지적하는데, 인공지능 발달로 대체될 일자리의 양이 선진국보다는 후진국에 더 많다는 것이 지적된다. 게다가 스마트 팩토리 등 인공지능의 발전으로 생겨난 제조업의 변화로, 후진국의 저임금 때문에 이전되었던 제조업 부문이 선진국으로 되돌아가는 현상도 나타나고 있다.
이런 디스토피아화를 막기 위해서는 현세기의 빈부격차 문제를 인류가 자체적으로 해결해야 한다. 가난한 자들에게도 특이점 기술을 활용하고 이용할 수 있도록 재교육 시스템을 만들고 기술 지원을 하며 국가적인 차원에서 많은 투자를 하면 위에서 언급한 부작용들을 극복하고 유토피아를 맞이할 수 있을 것이다. 오늘날에도 선진국들은 기술 격차를 줄이고 가난한 자도 유능해지고 부유해질 기회를 제공하며 이를 통해 뛰어난 인재를 많이 양성하여 부를 생산하는 능력이 후진국과 비교해서 상대적으로 뛰어나다. 미래에도 이런 능력의 차이가 국가 간의 경쟁력에 결정적으로 작용할 것이다.
한국의 관련 일부 커뮤니티에서는 기술적 특이점의 정의를 왜곡하고 모든 사람들이 평등하게 동일한 시기에 특이점의 혜택을 누린다. 라고 구성원들에게 거짓말을 하고 있으니 조심하자. 그쪽 커뮤니티에서는 주장하는 바로는 현재 그림 인공지능 같은 경우 구독료를 내야 쓸 수 있는데, 그건 아직 과도기라는 것이다. 그리고 실제로 레이 커즈와일도 기술적 특이점이 와도 모든 사람들이 혜택을 동시에 가질지에서는 아니라고 했으며 결론은 여기에서는 거짓으로 선동하고 있는 것이다. 이런방식으로 거짓을 말하면 특이점이 와도 계속 과도기인 셈이 되어 버린다. 당연하게도 특이점이 와서 여러가지 기술이 값싸게 찾아온다고 해도 주거지에서부터 지방, 서울에서의 격차는 여전할 것이다. 결과적으로 기술적 특이점의 혜택을 최대한 많은 사람들이 가질 수 있도록 노력해야 할 것이다.
2.7. 기술 발전이 인간에게 닥친 여러 문제를 해결해준다면
현대 인류에게 닥친 갈등 원인 대부분을 찾으면 자원은 별로 없고 이를 다양한 세력들이 자신만 갖고 다른 이들을 배척하는, 공평하지 못한 자원/이익 분배와 그에 따른 빈부격차가 불만족스럽기 때문이다. 소수만 가치 있는 것들을 보유하고 나눠주지 않고 자신만 가지려고 욕심을 부리니 빈부격차가 발생하고, 이것 때문에 갈등이 발생한다. 인류 역사에서 일어난 전쟁 대부분도 이익 관계가 부딪친 결과 이런 문제를 강제로 해결하기 위해 일어난 것이 많다. 이스라엘을 보자. 그들 민족에게 국토는 `갖고 싶은 것`이다. 하지만 이미 다른 국가들이 차지하고 있어 들어갈 자리가 없다. 경제력으로 사 오는 방법도 현실적으로 불가능하다. 그렇다면 무슨 방법이 있겠는가?기아의 발생을 생각해보자. 지금 지구에서 생산되는 식량은 지구 인구 전체를 먹여 살리고도 남는 양이다. 이것이 지구 전체 구성원에게 분배되지 않기에 기아가 발생하는 것이다. 여기서 분배란 나눠준다는 말이 아니다. 각 구성원이 적절한 경제력과 구매력이 있어서 식량을 충분히 사 먹을 수 있도록 식량이 생산, 공급되고 경제가 유지되는 게 아니다. 식량을 사 먹기도 힘들 정도로 가난한 게 더 문제다. 경제를 잘 모르는 사람들은 운송/지급/관리 감독/유통기한 보존 등의 문제를 살펴보면 오히려 나눠주는 것보다 버리는 게 싸게 먹혀서 버리는 것 아니냐고 말하는데, 사실 재고가 남는다고 해서 공짜로 나눠주면 기아 지역의 농부들이 농산물을 팔 수 없어서 파산하게 되기 때문에 공짜로 나눠줄 수 없는 것이다. 경제는 모든 재화가 적절한 가격에 존재해야 유지된다.
인공지능과 기계의 발전이 인류에게 당면한 환경오염, 지역 갈등, 인종차별, 젠더 갈등, 빈부격차, 전쟁, 이해관계를 둘러싼 다툼 등 여러 가지 문제점의 해결책을 제시하고, 기술의 발전으로 이런 문제들의 해결이 가능해진다면, 더는 남의 밥그릇을 뺏을 필요도, 갈등을 배출할 필요가 줄어들거나 없어진다. 그렇게 된다면 인류는 가지고 있는 역량을 과학기술의 발전이나 지식연구에 오롯이 집중적으로 투자할 수 있게 된다. 그러면 인류 문명의 발전은 가속화되지 않을까?
물론 인류의 주된 문제가 모두 해결되고 인류가 노동에서 해방되면 나태해진 인류는 점점 자멸하게 될 수도 있다. 지금까지 외부의 적대적 상황이나 환경요소에 적응하고 이겨낼 방법을 찾아 노력하는 것은 인류가 살아남을 수 있었던 주요한 이유였다. 이런 상황을 이겨내고자 발전한 게 집단생활, 리더십, 공동체 사회, 국가, 민주주의, 경제, 의복, 의사소통, 문자와 인쇄, 전쟁 무기 등등이다. 잠시만 생각해보면 인류의 발전에는 이런 문제 요소에 불편과 위협을 느끼고 해결하고자 노력하고 머리를 굴려 해결책을 내놓은 것들이 이바지한 게 많았다.
하지만 조금만 생각해보면 위에서 말한 `인류가 노동에서 해방되면 나태해진 인류는 점점 자멸하게 될 수도 있다.`라는 상황의 변화를 정확하게 인지하기보다는 과거의 잣대를 기계적으로 들이대서 틀리기 쉬운 이야기라 할 수 있다. 인공지능이 없던 시기는 인류가 이러한 어려움을 남들의 도움 없이 어떨 땐 극단적인 배척과 혐오에 둘러싸인 상황에서 스스로 해결하며 하루하루 먹고살아야 했다. 하지만 인공지능이 발달했다면? 인공지능이 알아서 저러한 문제들을 해결할 방법을 찾고 그에 따라서 실행하면 그만이다. 오히려 지극히 모자란 부류가 내놓는 해결책보다는 대체로 훨씬 나을 것인데, 왜냐하면 인공지능은 자원과 시간만 주어진다면 꾸준히 개선될 수 있고, 어떤 목적에 거리낌 없이 최적화될 수 있기 때문이다. 기존 인간관계에서 중요했던 것들 없이 생산된 채 그대로 작업장에 놓이는 노동 기계가 있단 것은, 적어도 지금처럼 사람들을 혹사하며 굴렸던 곳에선 훨씬 개선된 효율과 능력을 보이며 일할 수도 있단 말이 된다. 기계들은 사사로운 감정으로 일 처리에 오점을 만들지 않고, 멱살 잡기도 안 한다. 게으르지도 않으며, 일을 시키는 자가 뭔가를 직접 의무적으로 보장할 필요도 전혀 없다. 모든 사람이 신성을 갖추고 전지전능을 다루며 의사소통을 위해 정신감응을 펼칠 수 있게 되는 게 아닌 한 최적화된 기계에 비해 작업 능률과 속도 면에서 뒤처지기 아주 쉬울 것이다. 직접 최적화하더라도 그렇게 개선된 사람보다 더 개선된 기계가 만들어지지 않을 것이란 보장이 없으므로 우리가 모두 노동에서 해방되어 서로의 격차를 없앨 것이 아니라면 저 드넓은 우주와 아직 다 밝혀지지 않은 원리를 향해 거의 무한히 뻗어나갈 경주로에 출발선이 다르게 올라타야 한다.
기술 발전은 언젠가는 분명 문제를 해결해줄 수 있긴 하다. 하지만 기술보다는 사회에 문제가 있을 수 있으며, 사회가 기술의 실현 수준이 따라잡지 못할 만큼 큰 문제를 뻥뻥 터트리곤 하고 또한 기술의 발전을 지원한다는 것에서 보았을 때 우리는 기술만능주의에서 벗어나 기술과 낙관을 의심하며 사회도 의심해야 한다는 결론에 도달할 수 있다. 현재로서의 가장 큰 문제는 기술과 사회가 밀접히 연결되어 있다는 것이다. 작게는 기술에 대한 정보격차부터 크게는 재산에 따른 기술 접근 정도이다. 인류 공영을 실현하기 위함이라는 기술이 오히려 양극화를 가속할 수도 있는 모순적 상황이다. 이러한 문제점은 기술 발전으로 인한 사회에 대한 낙관적 전망에 의문을 더해준다. 즉, 기술적 특이점이 가져올 효과에는 의심하지 않지만, 그 효과들이 온전히 예상대로 적용될지는 상당한 의문들이 남아있다는 것이다.
기술의 항구적인 발전이 중간에 끊기는 일 없이 빠르게 지속될 수 있느냐에 대해선 명확한 답이 튀어나오지 않지만, 태양의 죽음, 광속, 빅 프리즈 등 극복할 적대적 외부 상황은 많고 환경문제처럼 과학기술 발전으로 생기는 문제들도 있으니, 현대 인류에게 닥친 여러 문제가 해결되어도 게을러서 세상을 망칠 일은 없다. 인류 문명의 발전은 여전히 이어질 수가 있다.
2.8. 인공지능을 위한 새로운 패러다임
기술이 기술을 발전시키는 시대가 왔을 때, 기계와 인간과의 지식/문화 수준 격차는 꼭 짚어봐야 할 문제이다, 대표적인 게 언어를 통한 표현 문제인데, 꼭 인간의 언어, 이를테면 영어와 수학으로 인공지능이 스스로 연구한 기술을 표현해야 할까?언어는 오랜 역사를 거쳐 문화권의 사고방식과 여러 특성을 반영해 형성되고 계속 변화한다는 것을 보았을 때 초 인공지능이 스스로 현용 언어보다 효율적이고 다양한 정보를 나타낼 수 있는 언어와 학문을 창조해내거나, 아니면 새로운 의사소통 방식을 창조해내 인간이 쓰는 음성, 텍스트 언어 대신 그것으로 결괏값을 출력하고 스스로 연구를 진행한다고 하자. 인간은 더 이상 이것을 알 수도, 원리를 알고 제어할 수도 없을 것이다. 참고로 인쇄술의 역사는 13세기 경이며, 571년 전에는 한글이라는 문자가 없었고, 자본주의 경제체제의 역사도 400년을 넘지 않았고, 스마트폰이라는 물건이 나온 것은 20년도 안 됐지만, 그것들이 발명되고 나서는 인류사회가 통째로 달라졌다. 그리고 이에 따라 기술, 문화적 변화가 무진장 빨라질 것이며, 인간의 문화와 사고방식은 점차 변화할 것이다. 과거에 패턴이 반복되었거나 역사가 있어서 통계적 추론이 가능하지 않은 이상 미래는 예측 불가능하기 때문에 그나마 현실에 구현될 가능성이 높은 기술 분야의 연구개발에 매진하고 뛰어난 두뇌를 가진 인재들을 모아 경제적으로 지원한 결과 괄목할 성과를 이루어낸 것이 기계공학, 양자역학, 스마트폰, 우주선, 디스플레이, 조선 같은 최첨단 학문과 산업들이다.
하지만 앞으로 이 시대가 오면 구현 가능성이 현저히 떨어지거나, 관련 정보와 연구가 부족하거나 마치 판타지에나 나올법한 기술분야라도 동시다발적으로 연구가 이루어질 것이며, 엄청난 기술이 쏟아져 나오며 양적, 질적으로 팽창할 것. 듣지도 보지도 못한 문제 해결 방식과 신개념 제품들이 발명될 것이다. 기계를 위한 기계라던지, 인간 입장에선 하등 쓸모없어 보이는 것도 기계에겐 유용한 것이라던지.
인공지능 스스로 연구해서 새로운 경제체제와 사회체제의 패러다임을 내놓는다면? 초 인공지능이 언어와 의사소통 문제, 사회문제, 성차별, 인종차별에 대한 연구로 정말 뛰어난 해결책을 내놓는다면 지구촌의 갈등을 풀고, 인간이 별다른 노력 없이도 서로 갈등을 해소하고 소통할 수 있게 된다면 이해관계에 얽매여있는 인류의 국경 대통합을 이룰 수도 있지 않을까?
만약 자본주의가 존속되어 인공지능을 옭아맨다면, 상황은 점점 더 파멸을 향해 치달아 지배권이 이양되는 일이 생길 것이다. 대의를 통해 안정적으로 인류 전체에 봉사하도록 만든다면 모를까, 자본에 달린 영향력이 보장할 자유와 갈등에 지성이 노출된다면 끔찍한 일이 될 것이며, 인간 중심적 사고방식을 지키기 위해서라도 본질에 대한 접근법이 크게 변할 것이다. 잘못 바뀔 수도 있고, 아예 뒤틀릴지도 모른다. 자아가 느끼고 받아들이며 이용하는 시간 흐름이 빨라지고 읽는 정보의 양이 늘어나고 처리 작업의 효율도 상승한다면 능률은 몹시 개선될 것이고, 개선이 반드시 안전한지는 논외로 치고 보통은 나쁜 점과 좋은 면이 함께 있을 것이다. 제한이나 안전장치가 없다면 좋은 일을 하는 만큼 나쁜 일을 하고, 바로잡는 만큼 다시 더 뒤틀고, 뜻을 드러내는 만큼 모호한 표현 안에 숨겨두어 일을 벌일 수도 있을 테니 말이다. 완벽한 것이란 없고, 경쟁하는 창과 방패는 스스로 설득되어 평화로이 경쟁을 멈추지 않는 한 서로 피를 보면서까지 싸운다. 균형이 깨지더라도 마찬가지일 것이다. 평등과 안전을 지키기 위해서 억압은 불가피하다. 인류가 아니라 고통받는 자를 인간으로 만들고 어느 누구도 인류를 벗어나지 않게 매어둔다면 그나마 해결책이 보일 것이다.
가령 22세기에서 100년 전의 사고방식과 가치판단 방식이 21세기는 20세기 초반 유럽을 보는 것만큼 정말 짜증 나고 낡아빠진 것이 될지도 모르겠다. 물론 이게 생각보다 나쁜 방향으로 갈 수도 있다. 이런 경우 지식의 빈부격차가 새로운 갈등이 될지도 모른다. 인간 사회에는 합리적이고 똑똑한 지식인들만 있는 것이 아니니. [2][3]
3. 특이점이 오면 인간은 어떻게 되는가?
이 시기에는 눈부신 발전이 있을 것으로 예상된다. 하지만 기술적 발전이 특이점주의자들이 말하는 것처럼 유토피아적 사회의 도래로 이어질지에 대해서는 부정적인 시각 역시 적지 않다.사실 특이점 이후에 대해서는 그 어떠한 유의미한 견해를 가지는 것도 불가능하다. 특이점이라는 용어 자체가 정의를 벗어난다는 의미를 내포하고 있으므로, 어떠한 지점에 대한 긍정적이나 부정적인 유의미한 견해가 존재한다는 사실 자체가 그 지점이 정의될 수 있다는 것, 다시 말해 '특이점'이 아님을 의미하기 때문이다. 특이점은 단순히 기술력이 폭발적으로 증가한다던가 개인의 관점에서 이해할 수 없는 기술이 발생하는 것을 의미하는 것이 아닌 기술의 발전 양상이 인류가 정의 가능한 법칙과 무관해지는 것을 의미하므로, 그 어떠한 예측도 의미를 가지지 못한다. '특이점 이후는 이러할 것이다'라는 문장 자체가, '어떠한 예측이 불가능해지는 시점이 있는데, 그 시점 이후에 대해 예측하자면'과 같은 모순이라는 것. 특이점에 대해서는 그것이 정말로 존재하는지, 존재한다면 언제 찾아오는지 이 두가지 이외의 어떠한 견해도 존재할 수 없다. 따라서 아래의 내용은 단순히 의미가 없는 추측, 공상에 불과하다.
3.1. 긍정적 견해
기술의 혜택을 극한까지 누리면서 행복하게 살 수 있다. 건강이나 환경 문제 해결은 물론, 몇몇 SF 작품에서 묘사되는 것처럼 인류가 노동으로부터 해방되고 수명 또한 매우 길게 늘어나거나 아예 노화를 막아 영원히 질 높은 삶을 누릴 수 있게 될 것이다. 경제의 패러다임이 바뀔 것도 자명하다. 현재도 노화를 중지하는 기술은 다양한 노력이 이루어지고 있으며, 그중 몇몇은 실질적인 성과를 거둔지 오래다. 이게 단순한 문제가 아니라 그렇지.기존의 문제에 대하여, 기계가 인간이 생각하지 못하던 새로운 패러다임을 제시하고, 인간은 새로운 패러다임을 더 연구하여 발전시키는 선순환의 과정이 나타날 수 있다. 예를 들면, 바둑에서의 알파고. 알파고 바둑을 보니 시야가 넓어진다 전문가들에게 공부할 수 있는 연구 거리를 줬다
미래학자 레이 커즈와일은 기술적 특이점을 상당히 긍정적으로 평가한다. 커즈와일은 인간이 인공지능의 지적 능력과 기술력에 의존하는 것을 넘어 인공지능과 같은 수준의 지적 능력을 갖출 수 있도록 뇌의 생체적 한계를 뛰어넘는 시도를 할 것이라 예측한다. 이는 단순히 팔다리를 기계로 갈아 끼우는 수준이 아니라 기계와 인간이 하나가 됨을 의미하며 '인류 버전 2.0'의 시대가 도래함을 의미한다. 쉽게 말해 인간을 초월하는 것이다. 잘못되더라도 고치면 된다. 과정은 그냥 스쳐 지나가는 수단일 뿐이고, 결과만을 중시하는 게 마음 편할 것이라고 주장한다.
오메가 포인트 이론을 지지하는 사람들은 특이점에 도달하고 나서 시간이 흘러 전지전능한 슈퍼컴퓨터가 등장할 것이라 예상한다.
인류는 현실이 어떤 상황이든 지금 살고 있는 이 시점을 유토피아에 가깝다고 생각할 확률이 높다. 낙관의 끝은 안빈낙도일지라도 비관의 끝은 자살이다. 이성의 통제를 잃은 생각은 점점 더 중심을 벗어나고, 인간의 생각이 어느 한 쪽으로 치우치기 시작하면 비관론자들은 다 죽고 낙관론자들만 살아남는다.
3.1.1. 현재 인류는 유토피아에 가깝다?
이상에 완벽하게 도달한 유토피아는 아니더라도, 대부분의 사람은 이전 세대들의 노력으로 이루어진 "더 나은 세상"에 살고 있다고 할 수 있다. 이전에 비해 전 세계적인 부의 증가나 장애인에 대한 인식개선, 인권의 존중 등이 보편화되는 방향성을 띄고 있다. 기근이나 재난 등으로 인한 사망도 급속도로 감소했으며, 특히 질병과 위생의 경우는 이전 시대에 비해 놀라울 정도로 개선되었다. 아직도 완전히 개선되지 않은 것이 사실이나, 이전에 비하면 계급과 신분의 문제 역시 확실히 개선되고 있다.3.1.1.1. 반론
인류는 과거에 비해 더 나은 세상에 사는 것은 맞는 사실이다. 하지만 기근으로 한 나라가 없어지거나, 자연재해로 인해 피해가 크지 않다고 해서 유토피아에 가깝다는 것은 무리가 있다. 오히려 이전에 비해 기근과 자연재해로 사망하는 인구는 줄었지만, 전쟁과 문화갈등으로 인해 사망하는 인구는 더욱 확증되었고 환경오염으로 인한 피해는 계속 확산중이다. 인간의 삶은 절대치로 계산할 수 없으며, 오히려 평균치로 따지자면 개선되었다고 보기 미미한 부분도 있다. 더욱이 아직도 인류의 다수는 가장 기초적 문제인 생존문제에서 자유롭지 못하다.- 굶주리는 사람들은 현재까지도 계속해서 나온다.
비만을 걱정하거나 다이어트를 하는 사람들이 더 많다고 해서 다른 사람들이 굶주리지 않는 것이 아니다. 대한민국만 보아도 생활고에 시달리거나 아사자가 근 10년동안 심심하면 뉴스에 나오고 전 세계적으로도 세계 인구의 1/9 정도인 8억 2천만 명이 넘는 사람들이 굶주리고 있어 큰 문제가 되고 있는데 #, 이는 전혀 유토피아적인, 유토피아에 근접한 세계라고 볼 수 없다. 그나마 다행이라는 점은 아사자가 나왔다는 것이 뉴스거리가 될 정도로 보편적이지 않다는 얘기다. 물론 이 보편적이지 않은 것도 '한국'이라는 특정 국가의 기준일 뿐, 세계적으로 보면 아사자는 절대 무시할 수 없을 만큼 많다.
즉, 특정 국가나 선진국의 일부분으로 보면 유토피아일 뿐, 인간이라는 종 전체로 보면 종의 과반수 이상이 생존과 안전욕구가 제대로 해결되지 못한 상태이다.[4] 이런 상황에서 유토피아 이야기가 나오는 이유는 세상이 유토피아와 같은 것이 아니라, 우연히 자원적 특권을 가진 집단에서 태어난 것을 객관적으로 인지하지 못하기 때문이다. 현재 인류가 유토피아적인 사회라는 것은 산업혁명 시절부터 있었던 선민사상이다. 그 당시 사람들도 더 발전할 것이 없다고 생각했다. 예시로 벨 에포크 시대 당시 제국주의 열강 사람들은 온갖 장밋빛 미래를 생각했지만 세계대전과 그 시대 기술력으로 발전한 무기들이 옛날의 전쟁보다 더더욱 많은 사람을 죽이면서 장밋빛 미래를 날려버렸으며, 현재도 지구의 인간들은 스스로를 완전히 멸망시킬 수준의 무기를 보유하고 있다.
중세 시절에 비해 현대 인류의 세계는 유토피아에 가깝다는 말은, 원시인에 비하면 중세 인류의 세계는 유토피아에 가깝다는 말과 다름이 없는 것이다. 점차 나아진다곤 해도 결국 인류가 체감하는 행복의 총량은 항상 일정할 수밖에 없다. 이는 행복이 절대 평가가 아니라 상대 평가라는 점에서 기인하는 사실이다. 따라서 미래의 인류가 지금보다 더 나은 세상을 만든다 해도, 그 세상이 유토피아라는 보장은 없으며 그 사회에서 사는 인류 모두가 이상향에 당도한 이들마냥 행복에 젖어 산다는 보장도 없다.
3.2. 부정적 견해
만약 기술적 특이점 이론이 현실이 된다면, '인간이 이해할 수 없는 기술과 지능'을 가진 기술이 '인간이 이해할 수 없는 행동'을 할 가능성도 있다. 이는 마치 외계인과 인간이 만나 교류하는 것과 유사하다. 인간의 계획 실패보다 더 두려운 것은 인간이 이해할 수 없는 계획이다. 조금 더 과격하게 말하면 기술과 인간이 반목하다가 인간보다 뛰어난 기술이 인간 농장을 만들 가능성도 무시할 수 없다.기술적 특이점이 발생한 이후의 소득 재분배는 과연 평등할 것인가? 사회주의 진영이 계속해서 자본주의에 대해 비판해온 요소 중 하나는 기술 발전에 따른 소득 재분배의 불평등이었다. 이에 대한 돌파구로 여러 대안적인 자본주의 경제체제들이 개발되고 과학 기술도 발전하면서 자본주의는 동력을 잃지 않을 수 있었다. 그러나 그렇게 제시된 대안적인 자본주의도 결국 대침체를 맞고, 이 여파는 아직도 세계 곳곳의 경제와 사회에 남아 있으며 그 여파가 해결될 가망은 아직 보이지 않는다. 과학기술은 날이 갈수록 더 비약적으로 발전하는 중인데도 그렇다는 것이다. 그런데 그 기술이 인류는 더 이상 따라잡을 수 없는 속도로 발전한다면, 과연 국가 경제는 안정적으로 돌아갈 것인가?
이 문제는 기술적 특이점이 온 후에 생산되는 일련의 물건, 프로그램 등 기계가 생산할 수 있는 모든 것의 가격을 어떻게 책정할까의 문제로부터 시작된다. 이때까지 기술에 대해 가격을 매기는 방법은 그 기술에 의해 창출되는 직간접적 가치창출에 의해 매겨졌다. 그런데 기술적 특이점이 오면, 상당한 수의 기술들이 국민 전체에 영향을 줄 것이고, 이러한 사회적 기술 비용도 기본 소득 문제에 포함된다. 앞으로 사람들은 정말로 기술을 사용하는 선택권에 대해 비용을 청구받을 수도 있다는 뜻이다. 왜냐하면 기본적인 사회적 생활을 영위하는 수준이라는 것이 기술적 특이점 이후로는 기술을 기준으로 맞추어지기 때문이다.
이는 다시 말하면 기술의 선택권에 대한 국민들의 여론이 어떻게 형성될까 하는 문제와도 관련된 것이고, 이 선택이 과연 누구에게나 납득할 정도로 평등하게 이루어질 수 있냐는 것이 된다. 안타깝게도 그것을 다루기엔 고려해야 할 요소가 너무 많다. 특히 2020년대에도 키오스크를 잘 활용하지 못하는 등 현대 기술을 활용하지 못하는 중노년층들이 많은데, 기술적 특이점이 오면 노인들에게는 사실상 기술에 대해 선택할 것을 강요하지만 그들이 기술을 따라잡지 못하는 것에 대한 사회적 비용과, 저소득층이 기술을 선택할 수 있도록 하는 선택권 비용은 모두 서민들에게 청구된다. 기본 소득제의 관점에서 말하면 기본 소득에서 그 선택권의 비용만큼이 잘려나가는 것이다. 즉, 기술의 발전 속도를 지연할 수는 없지만, 이를 해결하기에는 이미 기술적 평등을 가로막는 기존의 사회 문제와 변화하는 사회 인식이 복합적으로 걸려 있다.
4. 실현 가능성에 대한 비판적 관점
이러한 특이점, 나아가 '초 인공지능'에 대한 장밋빛 관점을 비판하는 논조의 시각도 존재한다.카네기 멜런 대학교 소속 연구자 재커리 체이스 립턴은 ‘어프록시메이틀리 코렉트’라는 인공지능에 대한 환상을 깨기 위한 블로그를 운영하고 있으며, CNN(Convolutional Neural Network), DNN(Deep Neural Network), GAN(Generative Adversarial Network), RNN(Recurrent Neural Network), BERT(Bidirectional Encoder Representations from Transformers) 등의 인공지능 알고리즘은 명백한 한계가 존재한다고 보는 학자들 또한 존재한다. 미국 정부의 보고서도 이러한 견해를 지지하고 있다.#
4.1. 기술 지체
사실 커즈와일 등의 예측에 틀린 것도 있기도 하고, 미래 사회가 어떤 사회가 될 것인지에 대한 것은 실제로 아무도 알 수가 없다. 2001년에 등장할 인류를 뛰어넘는 인공지능 HAL 9000이 없었던 것과 같다.예를 들어 커즈와일은 2005년에 15년 후에는 인간의 남은 수명이 매년 1년씩 증가할 거라고 낙관하며 예측했지만, 2020년에 대한 예측은 빗나갔고, 현재는 2029년 후에 추가된다고 예측을 수정했다. 커즈와일의 주장도 엄밀하게 따지면 과연 86%의 적중률이 될 수 있는가? 의심을 하는 사람들도 많다. 커즈와일이 주장하는 적중률은 터무니없게 보이기도 한다. 대충 생각해보면 맞는 것들도 있지만, 좁은 범위로 한정시키면 틀린 예측들도 꽤 많으며, 이미 그 실현방안들이 대략적으로라도 고안되었던 과학기술들이나 그 과학기술들의 융합을 예측한 것은 몰라도 현재로서는 어떻게 실현될지 전망이 아예 보이지 않는 것들을 예측해서 86%를 적중시키는 것은 정말 가능한지가 의문이다.# 세상에 나온 모든 과학기술이 성공하는 것도 아니다. 과장된 것들도 상당히 많다.#
또한 실현 이후 가까운 시일 내에 이런 기술이 모두에게 넘치게 베풀어질 것이라는 장밋빛 미래에 대한 보장 따윈 당연히 없으며, 얀 르쿤이나 폴 데이비스처럼 커즈와일 같은 사람들과 의견이 다른 사람들도 꽤 있다. 대체적으로 동의한다고 해도 시기나 결과에 대해서 다르게 예상하는 사람들도 많다. #, # 르쿤은 커즈와일 보고 아가리만 산 놈이라며 좀 닥치라고 했고 데이비스가 지적한 틀린 사실에 대해서는 커즈와일은 대체적으로 자신의 주장이 맞았다고 주장만 할 뿐 딱히 반박하지는 못 했다. 커즈와일이 그 자신이 주장한 모든 분야에 대해서 전부 대단한 실력을 가지거나 관여하고 있다고 보기는 힘들다. 사실 그는 2020년에 식량이 사라지고 나노봇으로 대신한다고 주장하기도 했으나 이미 2020년은 왔다.# 그에 의하면 의식주가 공짜가 되는 날이 늦어도 2030년 안으로 오고 있다.
버너 빈지나 벤 괴르첼처럼 나름 근거를 가지고 2016년 안으로 특이점이 온다고 한 사람들도 과거부터 있었고#, 심지어 어떤 수치적 결과들은 맞았어도 변하는 게 있던가?[5] 더군다나 어떻게 사회 구조를 조직하느냐에 따라서 미래상이 달라질 수도 있는데 유토피아적인 미래상이 경쟁에서 가장 나은 체제라는 보장은 없다.
따라서 걱정없이 지나치게 낙관적인 전망은 스스로 모순을 내재하고 있는 그냥 희망일 뿐이고 현실성이 없다고 봐야 할 것이다. 물론 커즈와일도 너무 심한 낙관적 전망을 경계해야 한다고 말하기는 했다. 지금의 들뜬 분위기는 다른 이상론, 종교적 예언처럼 환상에 더 가까우며, 그 막연한 기대감이 불러일으킬 문제에 대해선 전혀 대비하고 있지 않거나 오히려 사건이 벌어지길 바라는 것이라고 지적받고 있다.
특이점만이 아니라 의학 분야에서도 세인즈 버리 경, 프랜시스 콜린스 등은 인간 유전체 프로젝트와 관련하여 "이제 우리는 의학에 걸었던 모든 희망을 성취할 수 있게 되었습니다."라고 자신 했으나 아이러니하게도 공적 게놈 프로젝트와 사적 게놈 프로젝트 모두 게놈의 배열이 채 완성되기도 전에 거품이란 게 드러나고 말았다. 물론 게놈 프로젝트가 예상했던 것보다 졸속으로 끝난 점도 있지만 실제 결과들도 썩 좋지는 않았다. 예를 들어, 일부 망상들을 실현하기 위해서는 인간의 유전자 수가 10만 개 혹은 그 이상이 필요했지만 실제 결과는 2만 3천 개에 불과하였다. 2009년이 지나면서 게놈 프로젝트에서 내걸었던 대부분의 약속들은 최소한 약속한 날짜를 지키는 게 불가능하거나 할 수는 있는데 여러 이유들이 있어 역시 불가능한 것과 마찬가지라는 사실이 명백해졌으며 특이점도 괴르첼 같은 일부 낙관론자들이 생각했던 시기들만 보면 그와 비슷하게 흘러가고 있다고 볼 수도 있다. 또한 2015년 엘리자베스 홈즈에 의해 만들어진 '에디슨'이라는 기적의 산물이 사기였음이 명백하게 밝혀졌다.[6] 사실 특이점주의자들이 흔하게 주장하는 예쁜꼬마선충도 과장이 되어있다. 실제 생명체와 같은 것으로 알려져 있으나 막상 그 연구를 수행한 과학기술자들은 그렇게 생각하지 않는다. #
사실 게놈 프로젝트도 상당한 의의가 있었지만 까보기 전까지는 너무 과장되었던 것처럼 특이점이나 다른 과학기술 발전에 대해서 실제 결과를 까보면 상당히 과장된 것들이 있을 수 있다. 일부 과학기술자들은 다른 과학기술자들에게 대중들에게 확실하지도 않은 것들을 너무 장담한다고 비판하기도 한다. 커즈와일도 과학기술 분야는 둘째치더라도 경제에 대해서도 과거부터 굉장한 낙관주의자였지만 지금까지 경제 분야의 예측들은 그리 정확하지 않았다. 경제성장률도 그렇지만 물가 상승률까지 고려하면 더욱 그렇다. 마찬가지로 그의 예측과는 상당히 다른 경제 체제와 사회가 올 수도 있다. 사실 트랜스휴머니즘 등의 지지자들이 기대하는 것은 보편적 평등이 아니라 남들보다 더 뛰어난 지능, 신체 능력 등의 우월주의적 목표도 많다. 현재 시대에는 주변 사람들이 병에 걸리면 면역력이 더 우수한 사람이라도 여간해서는 병에 걸릴 가능성이 상승하지만 미래에는 아닐 수도 있다. 더구나 이러한 일들은 사람을 자본화하는 것[7]이라 자본주의 기업들이 그렇듯 딱히 평등한 공유가 이루어지지 않을 수도 있다.[8]
2022년 기준 반도체 집적 기술은 한계에 봉착하고 있으며, 공정 미세화[9]의 진행 속도가 해가 갈수록 오히려 더뎌지고 있는 상황[10]이다. 현재의 전선과 반도체를 사용한 계산 시스템은 한계에 달했다고 보며, 이를 타개할 방법은 분자 단위의 유기나노컴퓨터나 양자컴퓨터 같은 전혀 다른 방법이 될 가능성이 높은데, 이것은 아직 이론만 있을 뿐 실현되지 못하고 있다.[11] 신경과 세포로 이루어진 뇌라는 것부터 어떻게 기억이 저장되고 전달하며 사고와 계산을 하는지 전혀 작동 구조를 모르고 있다. 심지어 뇌의 부위별로 맡은 영역이 다르다는 기존의 이론을 부정하는 의학적 사례도 다수 보고되는 형편이니, 뇌를 흉내 내서 유기컴퓨터를 만드는 것 또한 현재는 힘들 것이다.
이렇듯, 2023년 현재 향유하고 있는 기술 역시 그 한계가 명확하며, 이 기술들이 기반하고 있는 과거의 틀을 극복한 것도 아니다. 이러한 한계의 임박을 지지하는 학자들은 기술적 특이점은 고사하고 현재 인류가 향유하고 있는 현대 문명의 발전의 한계점이 기술내[12]ㆍ외[13]적으로 21세기 이내에 다가올 것이라 전망한다. 이러한 문제가 전자공학이나 생명공학에 국한된 것도 아닌게 과학계 전반에서 혁신적 파괴가 사라지고 있다는 메타분석이 네이처지의 표지를 장식할 정도다.
더욱이 2045년이라는 수치 자체도 근거가 없는 주장이며 과학자들 역시 이에 대한 비판을 하고 있다. "저는 좀 먼 미래라고 봅니다. 2045년을 예측한 이들이 있는데, 2070~2090년 정도는 가야 하지 않을까요." 홍성욱 교수(서울대학교 생명과학부) "근거가 없는 얘기라 현실 가능성이 있다고 말하기 어렵다", "과학적인 근거가 나와야 발전이 있을 것이다" 이경전 교수(경희대학교 경영학과) 마이크로소프트 공동 창업자 앨런의 경우 커즈와일이 가속화의 법칙에 기반하여 빨리 올 것을 예측하고 있지만 현실에서는 그렇게 빠른 발전이 이루어지지 않는다고 비판했다. 특히나 앨런은 특이점이 2045년에 오는 것은 고사하고 21세기 말에 이르러서도 언제 올지 알 수 없을 것으로 보고 있다. 앨런 정재승 교수 역시 2045년이라는 수치가 근거가 있는 수치가 아니며 검증조차 하기 어렵다며 비판을 가하였다. 정재승 교수
이와 관련된 비판으로 인간은 미래 기술의 도입 시점을 자신의 예상 수명에 맞춰 예측하는 경향이 있다는 마스-개로우 법칙(Maes-Garreau law)도 있다.
이렇게 기술이 정체될 것을 상정할 경우 애당초 근미래에 인간보다 똑똑한 인공지능을 만들 수가 없으므로 특이점 자체가 존재할 수 없게 되고, 나온다 하더라도 현재의 기술발전속도를 기반으로 주장되는 것보다는 훨씬 더 먼 미래의 일이 된다.
인간이 과연 인간보다 똑똑한 인공지능을 만들 수 있느냐와 마찬가지 논리로, 인간보다 똑똑한 인공지능이 나왔다고 해도 그것 역시 한계를 가질 텐데 과연 자신보다 더 좋은 인공지능을 손쉽게 만들 수 있느냐 역시 좋은 비판점이다. 커즈와일은 인간보다 머리가 좋은 인공지능이니까 인간이 이해할 수 없는 방식으로 알아서 자기보다 더 똑똑한 인공지능을 순식간에 만들고 이후로 계속 더 똑똑한 인공지능을 만드는 식으로 무한루프적으로 발전해 나가며 인간이 상상조차 할 수 없는 문제들을 해결할 것이라 주장하지만, 인간보다 더 낫다고 해서 자기보다 똑똑한 인공지능을 계속 개발할 수 있다는 보장은 없다. 인공지능이 발전할수록 이전의 인공지능을 뛰어넘는 것은 점점 더 난이도가 높아질 것이기 때문이다. 인공지능의 발전과 개발 난이도의 상승 중 어느 쪽이 더 가파를지는 해보기 전에는 모르는 일이며, 단순히 인공지능은 인간이 상상못할 정도로 똑똑해질 테니까 어떤 문제건 해결할 수 있다고 넘겨짚는 것은 단순한 논리적 비약이라고 볼 수밖에 없다. 그 "똑똑함"이 인간이 생각하는 긍정적 방향인지, 인간이 보기에는 오류 투성이인 결과인지는 알 수가 없다.
또, 기술적 특이점에 도달하거나, 특이점 이후에 형성되는 과학기술 체계는 기본적으로 컴퓨터에 기반을 둔 것인데, 컴퓨터 프로그램은 정교하게 짜여질수록 많은 오류를 내재할 가능성이 비약적으로 높아진다. 설령 하나의 단일 프로그램이 무결성을 갖고 있다 하더라도, 그 프로그램이 다른 프로그램과 교잡되면 그 사이에서 예상치 못한 오류가 발생할 수 있는 것이다. 또한, 전기적(물리적) 문제로 인해 오류가 발생할 수도 있다. 이처럼 컴퓨터 기술 자체가 근본적으로 완전하질 않은데 여기에 너무 큰 기대를 걸고 있는 것이 아닌가 하는 의문이 제기되기도 한다. 물론 기술적 특이점이 일어나기만 한다면 컴퓨터 기술이 비약적으로 발전해서 위에서 설명한 문제를 해결할 수도 있을 것이다. 또한, 어떤 사람의 정신체계를 업로드했는데 처리 과정에서의 오류나 전기적 문제로 인하여 정신체계의 일부가 손상된다면 책임 소재 관련 문제 혹은 그것을 떠나 어떤 문제가 발생할 지 알 수가 없다는 비판이 있다.
4.1.1. 과장 묘사
가장 대표적인 비판은 기술의 발전 속도는 한계 효용 체감의 법칙이 있을 수밖에 없기 때문에[14], 특이점이 오지 않을 수도 있다는 것이다. 인간에 의한 기술 발전이 현재 빠르게 이루어지고 있다고 해도 언젠가 인간의 지능, 경제나 사회, 기술력 등의 내/외적 문제 혹은 모순으로 한계에 부딪힐 수 있고, 그렇게 되면 기술적 정체가 오게 된다는 것. 신기술이라는 게 꼭 현재 경향대로 계속 발전하지는 않는다는 것이다. 우주 경쟁이 한창이던 1960년대 냉전 시기에는 현재 발전속도대로라면 인류가 달에도 가니까 곧 화성도 가고 21세기 초가 되면 태양계를 정복하고 우주 식민지쯤은 개척하겠지 하고 생각하는 경우도 많았다. 이런 류의 장밋빛 미래 예상은 이것이 미래세계다에서나 꿈의 70년대 미군처럼 과거에 수도 없이 많았지만 21세기 지금의 현실을 보면 알 수 있듯이 예상대로는 잘 되지 않는다. 최근만 해도 과거에 태양광이나 풍력 발전 등을 현재의 화석연료 발전이나 원자력 발전을 뛰어넘는 무한 에너지라는 식으로 과장했고 커즈와일 등도 이를 믿었으나 결국 그런 미래는 오지 않았고 아직도 언제 그런 시대가 올 것인가는 알 수 없다.이런 유의 예상에서는 언제나 그 시점에서 급격히 이루어지던 기술적 발전을 기반으로 미래를 예상했다. 하지만 그 발전 속도가 계속 유지된다는 보장은 없고, 오히려 미래상은 그런 급격한 기술 발전이 현실의 벽에 부딪힌 후 다른 방향에서의 기술 발전으로 인해 급격하게 변화하는 경우가 많았다. 달 착륙 계획이 이루어진 1960년대에 예상한 21세기 초의 미래는 우주개척시대의 로망을 쫓아 우주정거장에서 인류가 사는 시대였다. 하지만 21세기 초에는 물론 그런 시대는 오지 않았다. 그러나 그렇다고 1960년대 냉전 시기와 비교해 지금이 기술적 발전과 사회상 변화가 없다고 할 수는 없다. 지금 이 글을 읽고 있는 인터넷은 1960년대에는 제대로 상상조차도 못하던 물건이었다는 걸 생각해 보자. 1960년대에 생각한 미래는 우주선은 흔하지만 휴대폰은 없는 시대였다. 미래는 예측하기 어렵기에 미래인 것이다.[15] 정확히 말하면 과거에도 지나치게 많은 것을 원했고 공산주의처럼 그것을 실제로 시도한 사람들은 비극적인 결과를 감당해야 했다. 현재의 계산으로는 특이점이 온다는 시기 직전에도 감당이 가능한 기본소득을 계산하자면 유토피아하고는 거리가 멀다.
4.2. 사회학적 관점
기술적으로 강인공지능이 개발된다 해도, 특이점주의자들이 주장하는 것처럼 드라마틱한 사회적 변화가 없을 거라고 보는 관점도 존재한다. 인간이 적응할 수 있을 정도로 서서히 사회가 변해서 사람들이 놀라거나 적응하지 못할 정도는 아닐 것이라는 것이다. 또한 동시에 '인간성'에 긍정적인 측면도 부정적인 측면도 계속 존재한다면, 물질적으로는 풍요로워질지언정 사회적인 부분에서는 인간의 생애가 극적으로 변하지 못할 것이다.일단 특이점주의자 및 그들에게 경도된 대다수의 논의는 인문학, 사회과학에 대한 이해가 매우 부족한 경우가 많다. 이러한 논의는 사회에 대한 이해보다는 SF 소설에서 나온 클리셰를 차용한 IF 세계관을 서술한 경우가 매우 많다.
예를 들어 커즈와일은 저서에서 '모두가 똑같이 나누면 평등해서 행복해지겠지'라는 논리로 공산주의를 이해하는 모습을 보여주는데, 자세히 알고보면 카를 마르크스와 공산주의는 커즈와일의 직속 선배나 다름이 없는 수준이다. '생산성이 무한에 수렴된다면 인간이 노동에서 해방된다' 가 자본론의 결론이고, 마르크스는 기술이 극단적으로 개발되어서 온 인류가 그런 생활을 할 수 있는 궁극의 사회체제를 공산주의라고 결론내렸기 때문이다. 커즈와일은 기술적 측면에서 접근하고, 마르크스는 사회 변화 측면에서 접근했다는 차이가 있을 뿐 기술적 특이점과 공산주의는 개명한 동일인물이나 다름 없는 셈이다.
게다가 마르크스를 포함한 당대의 공산주의자들은 저 '궁극의 공산주의 사회'가 매우 가까운 시대에 도래할 것이라고 믿었지만, 물론 21세기의 관점에서 보면 결국 마르크스가 제시한 견해도 아직도 실현되지 않았다. 물론 마르크스가 사회과학자였지, 자연과학자도 아닌데다 좀 옛날이라 과학 기술에 대한 이해가 지금보다 훨씬 부족하긴 했지만, 위의 문단에서 특이점주의자들의 예측 오류를 지적했듯 현대 과학자들이라고 해서 마르크스보다 더 정확히 예측하고 있을 거라 기대하긴 힘들다.
마르크스의 주장을 이 관점에서 접근하는 이들은 마르크스가 자본주의를 적대시했다고 알려진 통념과는 달리 자본주의와 그 기반인 산업화가 가진 미래의 가능성을 누구보다 높게 평가한 인물이 바로 마르크스라고 해석한다. 마르크스는 산업혁명과 근대 황금기를 직접 겪으면서 사회의 생산력이 막대하게 성장하는 것을 실시간으로 직접 본 인물이다. 그렇기에 그러한 생산력의 성장이 계속되면 결국 일정한 임계점(또는 특이점)을 넘어 (기존 경제학의 기반인) 재화의 희소성을 상실시키는 수준에 이르게 될 것이고[16], 그러면 자본주의와 같은 기존의 사회체제가 무의미해지고 그 물적 조건에 적합한 새로운 체제(즉 공산주의)가 도래할 것이라고 예상했다는 것. 레닌의 저서를 보더라도 19세기 말~20세기 초의 제국주의를 '자본주의 발전의 최종 단계'로 간주하는 주장을 찾아볼 수 있는데, 이 역시 '자본주의가 최종 단계까지 성장한 이후에' 그 이후의 새로운 체제, 즉 공산주의가 성립할 물적 기반이 갖춰진다는 마르크스의 주장에 기반한 것이다. 물론 레닌의 예상과는 달리 자본주의는 제국주의 단계를 넘어 한참 더 성장했는데, 이는 또 다른 관점에서 보면 '20세기 공산주의 실험의 실패는 그 전단계인 자본주의가 충분히 성장하지 못한 단계에서 성급하고 무리하게 시도했기 때문'이고[17] 20세기 이후 더욱 발전한 자본주의와 그에 기반한 생산력/생산성의 급격한 성장이 공산주의를 성립 가능하게 하는 물적 조건이라는 주장 역시 성립 가능한 것이다. 그리고 커즈와일과 같은 특이점주의자들에게 이 주장에 대한 코멘트를 부탁한다면 "그러한 물적 조건은 기술적 특이점의 도래를 통해 완성된다는 말을 우리가 지금까지 하고 있었다!"는 대답이 돌아오더라도 전혀 이상하게 생각할 필요가 없다는 것[18].
마르크스와 공산주의자들이 예측한 낙원이 오지 않은 것은 단순히 자본주의가 공산주의 국가들과 경쟁에서 승리했기 때문만은 아니다. 훨씬 더 다양하고 복잡한 사회경제적 요인들이 기술 발전으로 인해 생긴 잉여생산물들을 흡수했기 때문이다. 새로운 직업의 출현, 인권의 상승, 새로운 발명품의 등장, 복지 제도, 동구권 내 결코 죽지않았던 지하 반공 우익 민족주의 세력의 투쟁, 소비에트/마오주의적 국가주의적 동원경제체제의 내부적 모순, 민주주의 확대 등 수 많은 요인이 얽혀 현대 사회를 만든 것이다. 사회학에 치중한 마르크스조차 그 많은 요인은 상상도 하지 못했고, 기본 전제인 '생산성에 따라 사회가 다르게 구성된다'는 전제야 어느 정도 맞았지만 구체적으로 어떤 사회가 될지는 결론적으로는 틀렸다. 특이점주의자들이라고 해서 더 맞을 거란 보장은 없다. 현대 사회는 그들이 이해하는 것보다 이미 더 복잡하게 구성되었다. 기술이 폭발적인 속도로 발전한다고 해서 사회가 전례없는 속도로 급격하게 변화할지는 아무도 모른다.
2019년 영국의 정치평론가 아론 바스타니는 완전히 자동화된 화려한 공산주의라는 책을 발간하면서 그 이전부터 유럽 등지에 있었던 21세기형 공산주의에 대한 주목을 다시 이끌었다. 21세기 현대사회에서 19세기에 말해왔던 '궁극의 공산주의 사회'가 아직까지도 논쟁할 만한 생명력이 있다는 점이 놀라울 정도.
4.2.1. 현세기의 문제가 이어질 가능성
기술적 특이점을 맞이한다는 것이 정신적인 진보를 보장하지는 않는다. 또한 그 혜택이 모든 사람들에게 돌아가게 된다는 보장은 없다. 미래를 내다볼 것도 없이 당장 지금만 봐도 다양한 상업, 군사기술을 일반인이 향유할 수 있는가? 당장 지구상에 있는 모든 국가들의 식량생산량을 모으면 전 세계의 사람들이 먹고도 약 1/4이 남는 수준이다. 그럼에도 여전히 영양실조와 아사가 생기는 이유는 식량의 운송과 관리 비용 및 설비 등의 이해 관계 충돌 때문이다. 문제를 진행형으로 남겨둔 채 기술만 발전할 경우, 그 기술을 어디까지 감당할 수 있는지 장담할 수 없다.사실 지금도 세계 전체가 협력해서 공산주의 유토피아를 이루려고 하면 발전 속도나 효율은 몰라도 식량 등이 양적으로 풍족한 세계가 충분히 가능하다. 그런데 지금 그게 되는가? 전 세계 사람들이 봉기를 일으킨다고 해도 이런 불평등한 체제의 최대 수혜자인 대자본과 그들의 정치적 동맹자인 국가의 엄청난 탄압이 있을 것이고, 불가피하게 엄청난 리스크와 희생을 감수해야 할 것이다. 인공지능이 이를 해결할 것으로 믿을 수도 있겠으나 인공지능은 무제한적인 자유만 있다면 사람과 달리 랜덤하게 학습해도 항상 자기가 생각하기에 가장 유리한 결과만을 선택해서 인간보다도 더 심하게 최대한 이익이 되는 방향으로 움직일 수도 있다.
게다가 사회의 진보는 아무리 빨라도 인간의 수명보다 더 빠르기는 힘들다. 대체로 시대에 적응하지 못한 사람들은 늙어죽고, 새로 태어나 새로운 사회에 익숙한 사람들로 대체가 되어 사라지게 되는 방식으로 사회가 변화해왔다.
당장에 기술 발전으로 인한 실업도, 갑자기 공장이나 회사가 '새 기술 받아들였으니 당신은 해고입니다' 하고 줄이는 식도 아니라 새로 뽑는 사람을 줄이는 식으로 서서히 이뤄지는 사례들이 현재까지는 더 많다.
강인공지능이 기술의 신지평을 열어도, 구시대의 사람들이 죽어서 사라져서 세대 교체가 되거나 최소한 구시대 사람들에게 일정 적응시간이 주어져야 사회도 기술의 발전에 걸맞은 변화를 맞을 수 있을 것이다. 사실 이렇게 미래 사회의 변화를 위해 제거되는 사람들이 꼭 기술의 급격한 발전에 반대하는 사람들이 아닐 수도 있다. 공산주의 유토피아 같은 것들을 믿었던 사람들을 생각해 보자. 그들이 믿었던 미래가 오니까 오히려 귀족이나 자본가 등이 사라져야 할 사람들이 아니었다.
물질적으로 아무리 풍요로워져도 한정된 자원도 여럿 존재한다. 시간이나 권력 등. 전자는 기술 발전으로 어느 정도 무마가 되나, 후자의 경우 기술과는 무관하게 인간의 존재 자체에 따라 영원히 한정된 자원으로 존재한다. 권력을 주고 받는 모든 행위, 즉 정치는 본질적으로 변하기 어렵다. 따라서 기술적 특이점이 와도 기득권층은 큰 변화가 없을지도 모른다.
[1] 혹은 인구 포화와 미래의 표준 지분 감소로 인해 번식이 금지되고 애완동물처럼 양육 시뮬레이션만 허용될지도 모르는 일이다. 하나의 강력한 인공지능이 그런 존재가 진짜인 것처럼 조종하고 흉내낸다면 극도로 '효율'적일 것이다.[2] 단, 본래 새로운 가치관과 관점은 전통적 견해를 가진 사람들에게는 비합리적이고 심지어 미친 것처럼 보일 수도 있다. 예를 들어서, 초기 산업시대에 농업주의자들이 많았던 이유도 자본가들 밑에서 일하면 오히려 평균 수명이 줄어들고 삶의 질이 폭락했기 때문이다. 그러니 누가 노동자로서 산업 발전에 이용당하고 싶었겠는가? 대영제국 노동자들은 비참한 신세였으며 급격히 힘을 확장한 프로이센 역시 그런 면에서 악명 높았다. 융커들부터가 비웃는 태도로 총을 손에 넣은 천한 것들이 왜 당장 반란을 일으키지 않는지 궁금히 여길 정도였다. 결국 생산량이나 자산 등에 악영향을 주는 폭동이나 반란 등에 의해 점차 변하기는 하였으나 당시 상류층들도 그러한 변화에 처음에는 대단히 비판적이었다. 좋았던 옛날 편향 참조.[3] 물론 당시 민중 세력이 귀족들의 조롱처럼 반란을 일으키지 않은 건 그들이 매우 멍청했기 때문은 아닐 수 있다. 현실에서 귀족들은 그들이 축적한 물질적, 정신적 자산으로 인하여 제거하기가 힘들었고 노벨상 같은 과학기술이나 부의 창출에 기여한 인도 귀족들처럼 그들은 심지어 있는 편이 없는 것보다 더 낫다고 여겨지기도 했다. 역사적으로 유목민 귀족들처럼 자신들에게 별로 쓸모가 없다고 여겨지는 귀족들은 민중이나 그 지도자들이나 딱히 망설이지 않고 제거했기에 귀족들도 민중의 잠재력을 깨닫는 순간부터 대비를 많이 했으며 마치 그들의 귀족들처럼 인도의 자본가 계층 역시 선진국들을 연구하면서 점점 자신들의 잠재력을 인식하게 되었다.[4] 심지어 이 일부 유토피아로 불리는 곳에서 조차 상위 20%가 자원의 80%가량을 독점하고 있다.[5] 유엔식량농업기구의 세계식량농업보고서(World Food Surveys) 1974년판에서도 발전 덕분에 "10년 후가 되면 지구상의 어떤 사람도 굶주리지 않을 것이다."라고 예측했었다. 물론 현실은 그렇지 않았다. 기술이나 생산량에서는 문제없이 가능하지만, 인류의 이기심을 너무 얕본 모양이다.[6] 사실 에디슨만이 아니라 생체렌즈처럼 기적적, 사기적으로 보이는 과학기술은 생각보다 진짜 사기가 많다. 아니면 과장이거나. 까놓고 그게 다 진실이라면 그걸 다 할 수 있고 그런 정보에 대해 충분히 알고도 있는 소수의 상류층들이 왜 아직 초인류적이지 않겠는가?[7] 사실 사람이 자본 그 자체가 될 가능성도 있을 것이다.[8] 그들은 경쟁 기업보다 더 뛰어난 시스템, 하드웨어 및 소프트웨어 등을 가지고 자기들 나름대로 발전시키는 경우가 상당히 많다.[9] 반도체의 경우 공정이 미세화되면 집적 회로의 전자가 통제되지 않고 인근의 회로로 튀어 간섭되는 현상이 나타나는데, 현대 물리학의 동원에도 불구하고 아직까지 완전히 해결되지 않고 있다. 더 정확히 하자면, 현대 물리학이 맞았기 때문에 막을 수가 없다. 물리법칙을 능가하지 않는 이상 양자 터널링 효과를 막을 방도가 없기 때문.[10] 90년대 말까지만 해도 반도체 회사들이 거의 매해 제조 공정 미세화를 진행했으나 2000년대 들어 그 주기가 2~3년으로 길어졌고, 2010년대 들어서는 공정 미세화 주기가 더 길어졌고, 앞 주석이 전자 간섭 현상 탓에 양품률도 이전만큼 뽑아내지 못해서 판매단가가 상승하고 말았다.[11] 현재 나온 양자컴퓨터라고 하는 것들은 고작해야 수 큐비트짜리 양자연산장치 좀 덤으로 달린 게 전부다.[12] 기술 발전 자체의 한계 등[13] 지구의 자연환경의 급변으로 인한 기술 발전 여건의 상실 등[14] 여러 요소에 의해 더뎌지고, 항상 최선의 절차를 밟는 것도 아니므로[15] 70년대 당시의 빠른 우주 개발 속도는 냉전시대 미소 양국의 체제 선전과 과학 기술 과시, 겸하여 군사 기술 축적을 위한 경쟁이기도 했기 때문이지만 이후로 우주 개발이 정체된 것은 로켓과 관련 기술의 한계 역시 크다. 가령 지구에서 우주로 물체를 올리는 데에는 기존의 화학 로켓을 이용해서는 어마어마한 비용이 들며, 화학 로켓 자체를 바꿀 만한 무언가가 없는 한 이 비용을 줄이기는 힘들다. 최근의 스페이스X가 로켓 재사용으로 비용을 줄이려고 시도하고 있지만 근본적인 해결책은 아니다.[16] 공산주의 사회가 곧 도래하리라는 오판은 할 수 없지만 자본주의의 고도화에 대한 마르크스의 예상중에는 상당히 흥미로운 부분도 적지 않다. 예를 들어 '국경을 넘어 스스로 잉여가치를 재생산하는 금융자본의 발전'이라거나 (대형 마트와 같은) 규격화된 대량생산-대량소비가 각 개인의 삶에 밀착하여 생활의 형태 자체를 규정하리라는 예상은 19세기 인문사회학자의 미래 예상으로써는 상당히 의미심장한 면이 있다.[17] 예를 들어 건국 초기의 소련에서 권위주의적 관료제가 강하게 뿌리내리게 된 중요한 원인 중 하나가 사회 전체의 생산력이 부족한 상황에서 부족한 재화와 자원을 강제로라도 통제하는 기구가 필요했기 때문이라는 것은 대부분의 연구자들이 동의하는 바이다.[18] 물론 '생산력/생산성의 증가를 통한 물적 기반의 확보'가 공산주의적 이상론과 밀접한 관계가 있다는 주장이 꼭 특이점주의자나 소수 마르크스주의자만의 전유물은 아니다. 예를 들어 탈북자 출신 기자로 반공주의 성향이 상당히 강한 주성하 같은 인물도 한국 산업기술의 눈부신 발전을 소개하며 "지금까지는 공산주의가 대체 무슨 헛소리인가 생각했었는데 (3D 프린팅과 같은) 기술의 발전을 보니 이런 기반이 있어야 말이 되는 게 공산주의인 것 같다"고 주장한 적이 있을 정도.