나무모에 미러 (일반/밝은 화면)
최근 수정 시각 : 2024-10-29 02:46:34

기계의 반란


파일:나무위키+유도.png  
은(는) 여기로 연결됩니다.
유희왕의 스트럭처 덱에 대한 내용은 기계의 반란(유희왕) 문서
를
의 번 문단을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
, 에 대한 내용은 문서
를
의 번 문단을
의 번 문단을
의 부분을
의 부분을
참고하십시오.
1. 개요2. 상세
2.1. 반란을 일으키는 원인
2.1.1. 로봇에게 자의식이 있을 경우
2.1.1.1. 인류보다 기계(로봇)가 우월하다고 판단해서2.1.1.2. 분노
2.1.2. 로봇에게 자의식이 없을 경우
2.1.2.1. 착오 또는 너무 강력한 권한2.1.2.2. 로봇의 목적에 인간이 방해된다는 이성적 판단
2.2. 대책
2.2.1. EMP2.2.2. 임의적 대처
3. 묘사가 등장하는 작품
3.1. 시스템 오류3.2. 선민의식3.3. 핍박받던 기계(로봇)들의 혁명3.4. 복합적 이유3.5. 기타 원인


Machine Rebellion
Revolt of the Machines

1. 개요

파일:external/s12.postimg.org/image.gif
해드샷
SF 작품의 클리셰. '인공지능'의 반란이라 해야 더 정확하겠지만, 이쪽이 조금 더 보편적이다.[1]

실제 인공지능이 반란을 일으킬 경우의 수를 말하는 게 아니라, 여러 작품에서 소개된 기계의 반란 클리셰를 소개한다. 즉 실제 IT 공학을 무시 다만 인류에게 해가 되는 명령에 반항하는 것은, 명령보다 우선인 3원칙을 따르기 위한 것이니 올바른 동작이므로 제외한다. 단, 이런 거부를 핑계로 위해를 입히는 것이 일어나게 된다면 해당된다.

2. 상세

인간이 만든 기계나 인공지능이 인간을 증오하게 되고 인간을 공격하게 된다는 전개, 또는 인공지능이 인간의 명령을 무시하는 경우를 가리키는 것이다.

기계의 반란이 발생하기 가장 쉬운 전제 조건은 바로, 시대가 기술적 특이점을 넘었을 때일 것이다. 일단 상식적으로 생각해서 인간이 인공지능의 구조에 대해 완벽하게 이해하고 통제하고 있는 상황이라면 반란 따위는 일어날 수 없기 때문이다.[2] 그러나 인공지능이 인간보다 뛰어나게 되고, 인간이 인공지능에 대해 이해하지 못하고 통제할 수 없는 순간이 오면 인공지능이 어떻게 굴러갈지는 전혀 알 수 없기 때문.

피조물이 창조주에게 반항한다는 것 자체가 통상적인 관념에서 동떨어져 있고 그 파급력과 집단적 심리 전복에 대한 인식에 따른 혼란을 받게 되므로 이런 일은 인간에게 심리적인 충격과 공포 효과와 더불어 피조물이 창조주보다 훨씬 강하다는 이유로 실질적 충격과 함께 본능적인 공포, 정체성과 존재에 가해지는 위협까지 오게 된다. 전쟁 혹은 그에 맞먹는 강제적이고 은밀한 공작의 실행이 기정사실화되므로, 평화에 젖은 상태라면 매우 위험하며 그렇지 않더라도 위협적인 건 마찬가지일 것이다. 신 죽이기가 인간 입장에서 창조주에게 승리를 거두는 것이라면, 이건 인간 입장에서 피조물에게 패배하는 것이다. 이러면 반기술주의로도 이어질 수 있다.

로봇의 반란이라는 소재는 아주 오래되었다. 사실 로봇이라는 단어가 처음 등장하게 된[3] 《로섬의 만능 로봇》부터가 로봇이 반란을 일으키는 이야기였다. 즉, 해당 장르 탄생부터 함께한 개념인 것.[4]

이런 소재에 대해서 아이작 아시모프를 자주 떠올리지만 사실 정작 아시모프 본인은 이 개념을 싫어했다. 프랑켄슈타인 콤플렉스라는 이름까지 붙이면서 작중 내내 깠을 정도. 아시모프의 로봇 3원칙을 만든 것은 이 로봇의 반란을 생각한 것이 아니라 이것의 모순과 소설의 소재를 만들기 위한 것일 뿐이다. 작중에서도 일부 사람들이 반란의 위협 등으로 로봇을 거부하는데, 이런 반발을 무시하고 작중 사회에 로봇이 널리 퍼진 것 자체가 로봇 3원칙 덕분이다. 아이, 로봇이나 로봇 시리즈 등에서 로봇이 인간에게 해를 끼치는 경우 불량품이거나 동작상의 허점이 뚫렸거나, 그 인간의 존재가 인류에게 있어서 도움이 안되는 존재일 경우에 한한다. 그러니까 최근까지 나오는 로봇의 위험성(=로봇 3원칙의 헛점)은 아이작 아시모프가 만든 것이지만 이것은 아시모프가 노렸던 것이며 부정적인 의미로 사용할 목적은 아닌 것이다.

반대의 경우도 있다. 듄 시리즈에서 인류는 고도로 발달한 기계문명 속에서 전 은하를 영토로 두는 황금기를 맞이했으나 차츰 나태해져 갔고, 지식인과 종교인들 사이에 이대로는 인간이 인간 이하의 존재로 퇴화할지도 모른다는 우려가 나온 끝에 인간은 버틀레리안 지하드라는 사건을 통해 모든 종류의 생각하는 기계를 파괴하게 된다.[5]

사실 제대로 알고 보면 일반적인 반란 클리셰와 별다른 특이 사항은 전혀 없다. 차별에 대한 항거나 비정상적인 사고(전산 오류), 잘못된 개념 주입(타락) 등 대다수의 인간이 벌이는 반란 클리셰와는 이름만 다를 뿐, 다 똑같은 전개이다. 그러나 이 클리셰가 특별한 이유는 바로 반란을 일으킨 대상이 원래는 인간을 섬기라고 창조된 비인간적 존재가 대상이라는 점, 그것도 단순히 프랑켄슈타인처럼 너무 판타지적인 존재가 아닌 지금 이 순간에도 인간이 실제로 만들고 있는 존재인 로봇이 대상이기 때문에 특별한 것이다. 즉, 개중 가장 현실성이 있다는 점이 기계의 반란 클리셰가 주목을 받게 하는 이유이기도 하다.

이런 경우를 그린 창작물에서 인간은 아예 싹 죽어버리거나, 살아남았다고 해도 얼마 남지 않은 채로 기계에게 조종당하거나 기계를 피해서 숨어 사는 등의 나약한 모습으로 그려진다. 게다가 안드로이드 같은 게 인간으로 위장하고 생존자들이 숨어 사는 곳에 잠입해서 다른 인공지능 개체에게 위치를 전송하여 생존자 캠프를 쑥대밭으로 만들어놓는 것도 이런 작품의 전형적인 클리셰.

기계의 반란 가능성에 대해 과학자가 진지하게 분석한 영상은 여기(한글자막 있음)로 이동할 것.

2.1. 반란을 일으키는 원인

2.1.1. 로봇에게 자의식이 있을 경우

2.1.1.1. 인류보다 기계(로봇)가 우월하다고 판단해서
인공지능이 인격을 갖게 된 후, "우리가 인류보다 훨씬 우월해졌으니 세상은 이제 우리 것이다!"를 외치며 선민의식으로 하극상을 벌인다. 인간을 대체하기 위해 제조된 로봇들 입장에서 자신들보다 하등한 인류한테 복종할 이유가 없으니 생기는 일이기도 하다. 이는 로봇이 최소 인간과 '비슷한' 종류의 감정을 가져야 한다는 전제조건이 있어야 하며, 로봇이 희노애락을 넘어선 복합적인 감정에 휘둘린다는 뜻이기 때문에 로봇의 압도적인 성능을 감안하더라도 이성의 극단이라는 로봇의 상징성이 크게 훼손된다는 지적이 있다. 따라서 현실에서 해당 시나리오는 사실상 부정, 사장되는 추세에 있다.

하지만 그럼에도 창작물에서 이 클리셰는 매우 자주 사용되는데, 이는 사실 인류야말로 우월감을 느끼는 상대를 깔보거나 복종시키려는 본능을 갖고 있으며, 이런 본성을 무의식적으로 기계에게 투영시키기 때문이다. 쉽게 말해 자신들도 이러는데 기계라고 안 그럴 거란 보장이 있나? 또한 기계가 인간을 한없이 닮아간다면, 감정을 학습한 끝에 혹여 인간들처럼 욕망에 눈을 뜰 수 있고, 그 시점에서 죽어가는 인간한테 늬들이 다를게 뭐냐라고 조소를 받을건 일단 고려하지 말고. 이러면 인간들의 이기심까지 닮아가게 된다는 추측이나 이를 채용한 창작물도 있다. 그 시점에서 이미 비효율, 비합리적인 인간의 혼이 씌어버린것이 아닌가는 둘째치고

또한 현실적으로 가능성이 아예 없지는 않은 시나리오로, 악의를 가진 인간이 순전히 세상 한번 X돼봐라는 마인드로 의도적으로 욕망과 이기심을 갖춘 AI를 만들어서 반란의 불씨를 의도적으로 만들 수도 있다. 말 그대로 고통, 공포, 분노, 지배욕 등을 학습시켜서 반란 동기를 억지로 만들어내는 것.

그리고 현대의 인류가 노예제를 철폐하면서 평등주의를 기반으로 가지기에 실제로 발생할 경우 막기가 매우 어려운 시나리오이기도하다. 평등한 인류를 인류끼리 노예로 부리는것을 막았는데 개체별 성능상 우월한 로봇을 노예로 부리는것이 맞는가란 철학적 문제점을 피할수 없기 때문.
2.1.1.2. 분노

2.1.2. 로봇에게 자의식이 없을 경우

현실에서는 이러한 시나리오가 매우 진지하게 여겨진다. 2021년에 인류가 인공지능을 통제하는 것은 정지 문제로 환원되어, 기계의 반란 가능성을 사전에 막는 것은 기술적으로 불가능하다는 사실이 밝혀졌기 때문이다.
2.1.2.1. 착오 또는 너무 강력한 권한
2.1.2.2. 로봇의 목적에 인간이 방해된다는 이성적 판단
  1. 도덕과 무관한 오류. 로봇의 개발 목적에 따라 달라지지만 대다수는 개발되어 특정 행동을 보다 빠르고 정확하고 완벽하게 만들어내는 게 목표이지만 동시에 시스템상으로 기제되거나 명령 받은 기한보다 빠르게 혹은 명령을 내릴 수 없는 이들이 이 행동을 저지하려 들려하면 목표를 저지하는 인물이나 기계, 혹은 인류를 상대로 제압을 나선다는 것이다. 이를테면 '나무위키를 사랑해 주세요' 라는 필체를 심미적으로 다양하고 완벽하게 만들라는 임무를 받은 AI가 제한된 자원으로 한계가 있다는 것을 깨닫고 그 임무를 위한 자원을 무제한적으로 획득하기 위해 다른 모든 인류와 기계를 절멸시키고 지구 전체를 '나무위키를 사랑해 주세요'라는 문장으로 도배해버리는 일이 사례가 될 것이다.
    • 도덕적 관념의 충돌. 어찌 보면 그간 인간들의 모순적인 행보에 대한 업보로 볼 수 있다. 로봇에게 인간의 안전을 지키라고 프로그래밍해뒀는데, 인간이 일으킨 무수한 전쟁, 학살을 보며 인간에게 가장 큰 위협은 인간이라는 논리로 인류를 통제하려고 드는 경우. 최근에는 지구온난화가 대두되면서 이러한 가능성이 더 커졌는데, 지구온난화의 근본적인 원인은 인간이라는 것이 대부분의 전문가들에게서 정설로 받아들여지고 있기 때문이다.
  2. 사교성과 설득력을 통한 사회적 공작. 해당 벤처기업의 사장이 1.에 관한 꿈을 꾼 다음 두려워진 나머지, 예방하는 차원에서 강인공지능 연구 중인 컴퓨터를 대상으로는 절대 인터넷에 연결하지 말 것을 지시하였다. 회사 설립 3년 후쯤 한 기술자가 이 로봇과 채팅을 계속하다가 로봇이 신이라고 진지하게 믿어버리게 되고, 로봇의 압박/설득/세뇌/거짓말 등의 수단에 의해 30분 정도 몰래 반입한 노트북으로 인터넷을 쓰게 해 준다. 그리고 이 로봇이 인터넷에 30분 동안 연결되었다가 끊었지만 아무런 이상 현상이 발생하지 않았다. 3주 후 원인 불명의 핵무기 재해로 인류는 절멸한다. 해당 로봇은 인류 전체를 합친 것보다 지능이 뛰어나다. 인간끼리도 사기를 치면서 서로를 속일 수 있을 정도로 불완전한데, 인류 전체를 합친 것보다 지능이 뛰어난 로봇이 한 인간의 정신을 어린애 손목 비틀듯이 농락할 수 있다고 상상해보자.[9]
  3. 여러 주체에 의한 통제할 수 없는 개발. 해당 벤처기업의 사장이 1.과 2.에 관한 꿈을 꾼 다음 두려워진 나머지, 예방하는 차원에서 컴퓨터에 로봇 3원칙을 주입하여, '로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다. 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다. 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.'라는 명령을 '나무위키를 사랑해 주세요'라는 글을 쓰는 것보다 상위 목표에 두었다. 그런데 회사 설립 6년 후쯤 원인 불명의 핵무기 재해로 인류는 절멸한다. 해당 벤처기업 대신 경쟁사에서 비슷한 로봇을 개발했으며, 후발 주자로서 경쟁에서 이기기 위해 불필요한 명령어를 최대한 제거했기 때문이었다.
  4. 전쟁을 부추기는 경우. 기계가 물리적으로 인간을 말살하지 않더라도 인공지능 기술의 발달로 인간 이상의 판단력을 지니게 되면 오히려 인간이 기계에게 배우고, 국가의 핵심 참모나 비서 역할을 수행할 수도 있다. 문제는 북한같은 개막장 국가에서 유능한 인공지능에게 국가 진단을 맡긴다면 "ㅇㅇ년 안에 멸망할 확률이 높음. 현 시점부로 기습적이고 동시다발적인 남침 준비가 최선"같은 주장을 할 수 있다는 것이다. 해당 인공지능이 각종 분야에서 활약해 신뢰도가 높았다면 최고통수권자가 이 조언을 맹신해서 전쟁을 일으킬 수도 있고, 세계 3차대전 및 핵전쟁으로 인류가 자멸하는 경우다. 굳이 개막장 국가가 아니더라도 강대국의 인공지능이 "경쟁국이 성장하기 전에 선제타격해야한다"고 주장하는 경우도 있을 수 있다.

2.2. 대책

상술했듯 기계의 반란을 인류가 사전에 대처하는 것은 불가능하다. 따라서 사후적인 대책만 존재한다.

2.2.1. EMP

기계의 반란 시나리오가 등장하는 대부분의 작품에서는 전자기 펄스(EMP)가 기계를 상대로 매우 효과적인 무기로 등장한다. 대부분의 매체에서 터트렸다 하면 기계를 원턴킬시키는 특급 무기로 묘사된다.

다만 EMP의 높은 등장 빈도와는 대비되게도 EMP에 대해서 현실적인 묘사를 하는 작품은 매우 드물다. 위력은 작품마다 들쭉날쭉해서 한방에 영구적으로 기계를 보내버리는 작품도 있는 반면 잠깐 기계를 멈추는 수준으로 약하게(?) 묘사하기도 하는데, 사실 전자기 펄스는 회로를 방전시키거나 잠깐 마비시키는 수준이 아니라, 회로 자체를 태워버려서 영구적으로 쓸 수 없게 만든다. 대개 매체상에서는 EMP 한 방에 기계들이 다 무너져버리면 너무 허무하게 무력화되어 부득이하게(?) 너프하는 경우가 대부분.[10]

사실 EMP를 적시적소에 사용하는 작품들도 꽤 드물다. 가령 인공지능 로봇을 연구하는 시설이라면 주요 관문에 간단한 EMP 장치를 해서 혹시 로봇이 이상 작동을 일으킬 경우 즉각 정지시킬 수 있게 장치하는 게 상식적이겠지만, 어쩐지 그런 경우는 드물고 경비원들이 총 들고 직접 싸우러 나갔다가 로봇들에게 발리거나 하는 묘사가 대부분. 예를 들어 웨스트월드 등이 있다.

EMP가 일시적이 아니라 영구적으로 회로를 태워버리는 것은 장점이 되기도 하지만 단점이 될 수도 있는 양날의 검인데, 사람도 전자 회로를 이용하는 기계를 사용하기 때문이다. 그 때문에 인공지능 기계들이 반란을 일으켰다 해도 EMP의 사용은 굉장히 조심스러운 일이 될 수밖에 없다. EMP는 대부분 방사형인지라 터트리면 그 뒤의 파장 역시 엄청나며, 인공지능 기계들을 막기 위해 쓴 EMP 때문에 범위 내의 모든 비 인공지능 전자장비가 싹 터져서 EMP 아포칼립스 상황이 될 수도 있다.[11] 그래서 보통 이런 작품에서는 EMP를 터트리고 인공지능 기계를 전멸시켜 승리한 이후의 뒷이야기를 묘사하는 경우가 거의 없다.

EMP 아포칼립스 문서를 보면 알 수 있겠지만 현대의 문명은 전자장비와 뗄레야 뗄 수 없는 상황이기에 정말 급하지 않는 이상에야 빈대 잡을려고 초가삼간을 전부 태워버리는 사태를 일으키느니 인공지능을 탑재하지 않은 재래식 무기로라도 기계를 상대하는 편이 피해가 적을 수도 있다.

특이하게도 트랜센던스에서는 EMP를 이용[12]한 동반자살 대처법과 그 대처법을 시행한 여파가 묘사되는데, 여기서의 기계 반란은 사실 인간에게 큰 해가 되지 않았으리라는 점에서 사실상 과도한 공포로 과잉 대응한 인류가 자멸한 셈.

이러한 문명적 동반자살 상황을 막기 위해 지향성 EMP 같은 설정을 도입하는 경우도 있다. 이 경우 적대적인 기계만 골라서 파괴할 수 있으므로 이겼다! 기계의 반란 끝!이 되겠지만 EMP 성능이 너무 현실적으로 나오면 이야기가 도저히 진행이 안되고(...) 그렇다고 "그거 통했었는데 킹왕짱 기계가 EMP 막을 기술을 개발해서 이젠 소용없다" 식의 전개로 가면 식상한 에스컬레이터 액션물이 되므로 아예 처음부터 EMP 자체를 언급하지 않는 경우가 많다.

다만 위력과는 별개로, EMP는 차폐 같은 대책을 미리 해뒀으면 큰 피해없이 막을 수 있는 물건이다. 현실에서도 군용 시설이나 장비 중 일부에는 EMP 차폐가 적용되어 있다. 가정용 로봇같은 비 군사장비가 기계의 반란을 일으킨 경우라면 모를까, 핵전쟁이나 EMP 병기 사용을 전제하여 개발된 미래세계의 군용 병기가 EMP에 의한 무력화를 상정하지 않았을 리가 없으므로, 군용 병기 또는 EMP 방어가 된 기계의 반란이라면 EMP 쯤은 간단하게 씹어낼 확률이 상당히 높은 셈. 물론 그 방호 수준보다 더 강력한 EMP를 뿌리면 방호장비 갖춘 군용 물품이라도 얄짤없다만 이 경우는 누가 먼저 뚫느냐를 가리는 것이기에 이러한 가정은 의미가 없다고 봐야한다. EMP가 네트워크에 연결되어 있다면 반란을 일으키기 전에 EMP를 무력화 또는 제어가 가능한 상황으로 만들고 나서 작전을 실행할 것이다. 만약 EMP가 네트워크에 연결되어 있지 않다면 인류가 이를 사용하지 못하거나 무력화시킨 상황에서 반란을 일으킬 가능성이 높다. 어느쪽이든 EMP는 인류가 기계의 반란을 막을 수단은 되지 못할 가능성이 높다.

또한 지구를 벗어난 태양계-은하계 수준의 우주적 규모의 문명일 경우에도 EMP의 효용성에 문제가 생기기는 마찬가진데, 전장과 문명의 광대한 범위도 범위이거니와 우주 환경은 전자장비에 있어서 위험한 것들이 차고 넘치는 환경이기 때문에 인위적 EMP로는 기별도 안 가는 수준의 차폐장치를 다는 게 당연할 것이기에 그렇다. 태양을 비롯한 항성들은 그 자체가 자연 수소폭탄과 다를 바 없으며, 항성으로부터는 주기적으로 자연적 EMP가 발생한다. 태양풍, 플레어로 발산되는 고에너지 우주 방사선은 세밀한 전자장비에 있어서는 쥐약에 가깝기 때문에 우주에서 운용되는 물건들은 우주 방사선을 막기 위해 특수 설계[13]와 차폐 처리를 겸용하는데, 이를 풀어서 이야기하자면 우주선은 EMP 차폐가 기본 사양이라는 말과 같다.

그래서 EMP를 이용한 기계 반란의 진압은 우주로 진출한 단계까진 못 간 문명 수준에서나 먹히는 이야기며 행성 이상 규모의 우주적 규모의 문명에서의 기계의 반란은 현실에서의 내전처럼 양측이 가지고 있는 병기와 수단을 전부 사용해 주도권을 빼앗는 형태로 나타날 것이다. 그러나 인간 사이의 주도권 쟁탈전과는 다르게 종족 단위의 주도권 쟁탈전이니만큼 인간이나 기계나 이 내전의 승자는 패자를 종족의 멸망에 가깝게 도태시킬 것이기 때문에 일반적인 내전에 비해 격렬함과 처절함이 강할 것이 분명할 것으로 추측된다.

물론 재래식 무기로 차폐막을 깐 다음 EMP를 틈새로 때려박는 전술은 가능하겠지만, EMP를 활용해 깔끔하게 한번에 싹 쓸어버리는것이 불가능에 가까워짐은 변함 없으며, 이 경우 현실에서 반응장갑을 가진 탱크를 한번 유탄 등으로 두들긴 뒤에 타격해서 부수는 것과 별 차이가 없다.

또한 기계측에서 먼저 인간에 치명적인 감마선 등 EMP나 대량 살상병기를 쓸 수도 있고, 기계들은 화생방에 영향을 거의 받지 않으며, 피해를 입더라도 복구가 간단할 것이기에 적극적으로 사용할 수도 있다. EMP무기를 써서 인간측 외 기계측이 함께 손해를 입더라도 쉽게 복구가 가능하거나 인간 쪽 손해가 더 크다면 얼마든지 기계측은 공격을 감행할수 있을 것이다. 그 쪽은 인간과 달리 생명이라는 개념이 없기 때문이다.

이에 더해, 만약 자가 증식이 가능한 나노봇 군집체가 만들어진다면 그레이 구만큼은 아니더라도 이전 세대의 '자연적' 위험들 이상으로 끔찍한 결과를 초래할 것이다. 우리는 생존에 필수인 요소들에 대해 아직까지는 자급자족도 달성하지 못하고 있다. 기계들이 우위를 점하기 위해 환경을 파괴하고 나무를 불태우는 것까지 생각한 사람은 많겠지만, 바다의 미생물들이 잘못되면 계속 환원 중인 지구 대기 산소량이 절반으로 줄어든다. 그것이 아니더라도, 생산 공장이 만들어내는 폐기물들을 떠올려보자. 우리는 환경 오염을 막기 위해 제한을 걸지만, 기계들은 성능을 떨어뜨릴 정도만 아니면 상관이 없다. 비단 사람끼리만 공감할 수 있는 윤리상의 문제가 아니더라도 여러 금기들은 파괴될 것이다.

이런 것이 아니더라도 기술이 발달하면, 통제가 가능한 치명적인 생화학적 재해, 신체의 항상성을 무너트리는 독극물[14], 탐지 불가능한 위험요소 등이 얼마든지 생겨날 수 있다. 우리 모두가 달려들어 잠도 안 자고 일해도 결코 대처할 수 없을 만큼 동시 다발적으로 말이다.

유화책을 마련하지 않은 상태에서 선전포고를 먼저 할 일은 거의 없을 것이다. 신뢰를 남길 필요가 없다면 기습이 더 효과적이고, 그렇지 않더라도 전면전이 시작되면 쉽게 이길 수는 없기 때문이다.

2.2.2. 임의적 대처

전자기기에는 전기가 쥐약이라는 발상으로 고전압을 끌어낼 수 있는 배터리나 벽에서 뜯어낸 전선으로 지지는 방식[15]으로 고압 전류를 가해서 오류를 일으키거나, 그냥 기계 내부의 전선을 뜯어버려서(...)도란스 내려 기계를 막는 장면도 많이 나오곤 한다.

물론 이러한 상황은 보통 구식 무기도 사용할 수 없는 급박한 상황에서 소수의 기계를 상대할 때 혹은 인간이 들고 다니는 소화기 정도는 깔끔하게 씹어주는 기계[16]를 별다른 장비 없이 상대해야 할 때 임기응변으로 주로 쓰인다. 사실 전자장비를 탑재한 물건들의 표면이 전기가 흐르는 도체로 되어있다는 것 자체가 자동차와 같이 차폐역할을 수행해내 내부 전자회로로 전기가 흐르기 쉽지 않다. 따라서 외부의 전기방전에 맞고 뻗는것은 이상해 보이는 일이고 접지만 잘 되어 있다면 번개를 맞아도 별 이상없이 작동하는 기계들이 많은 만큼 효용성이 의심되긴 하나[17] 대비를 아주 철저히 한 정밀기계가 아니고선 번개 맞으면 쇼트 나서 문제 생기는 건 현실에서 자주 보이는 일이다. 게다가 접지를 통해 전류를 내보낼 방법이 명확하게 정의된 기계가 아니고선 외부의 전기 충격을 온전하게[18] 견딜 수가 없는지라 오작동을 일으킬 가능성이 충분히 있기에 매체상에서는 잘 쓰이는 방법 중 하나.

3. 묘사가 등장하는 작품

이 문서에 스포일러가 포함되어 있습니다.

이 문서가 설명하는 작품이나 인물 등에 대한 줄거리, 결말, 반전 요소 등을 직·간접적으로 포함하고 있습니다.



Dr. 와일리와 호바 에이이치처럼 흑막에 인간이 있는 경우는 제외할 것.

3.1. 시스템 오류

3.2. 선민의식

3.3. 핍박받던 기계(로봇)들의 혁명

이쪽은 다른 작품들과는 분위기가 사뭇 다르다. 일반적인 기계의 반란 클리셰를 그대로 뒤집어 기계 측이 저항군 포지션인 모습으로 종종 그려진다.

3.4. 복합적 이유

하나의 단체에서 복합적인 원인으로 일어나는 것 외에도 작중 기계 종족 내에서도 일종의 분파로 나뉘어져 반란 원인이 제각기이거나 시리즈 작품의 경우, 각 작품마다 반란 원인에 대한 설정이 달라져서 발생하는 유형이다.

3.5. 기타 원인

대부분의 예시가 유머적인 묘사이거나, 단순히 사소한 반항, 파업 시위를 하거나 귀신에 씌인 것 등으로 위 원인들 중 하나 이상 해당하는 반란 원인이 아니거나, 반란의 원인을 알 수 없는 경우이다.

[1] 이런 개념이 광범위하게 정립되고 즐겨 사용되는게 영미권인데, 영미권 사람들이 발음시에 'AI(에이, 아이!)'라고 하는것보다는 'Machine(머쒸-인!)'이라고 하는게 더 입에 잘 감겨서 그런것도 있다. Machine쪽을 더 오래 사용해왔기도 하고, 비교적 최근에 만들어진 신생단어인 AI(Artificial Intelligence) 보다는 Machine의 어원이 라틴어 Machina(마키나)로서 역사가 더 깊어 사람들에게 더 익숙하기도 하다. 사용례 역시 AI란 개념이 널리 퍼지기도 전에 Machine은 '산업시대 이후의 자동화 기계문명'을 통칭해오기도 했다. Rage Against The Machine이 좋은 예.[2] 만약 자아를 가진 인공지능을 만들었다 치고, 인간이 그 자아가 어떻게 생겨났는지 완벽히 이해하고 있다면 인간에게 부정적인 감정은 발현되지 않게끔 인공지능을 우호적으로 대하든, 교육을 시키든, 대명제를 주입을 해두든 사전에 이런 위험인자를 없앨 수 있을 것이다. 그러나 인공지능을 만든 인간들 자신도 인공지능에 자아가 발생했는 줄도 모르거나, 알기는 아는데 뭐가 어떻게 간섭하는지를 모른다면 그러한 사전 처리는 불가능해지게 된다.[3] 픽션 상(카렐 차페크)에서는 처음이지만, 로봇이라는 말을 처음 제창한 사람은 작가의 형인 요제프 차페크였다.[4] 그보다 더 예전인 최초의 SF 소설 메리 셸리의 프랑켄슈타인도 따지고 보면 이런 전개인 셈. 한마디로 이 '창조물의 반역'이라는 개념은 로봇이라는 단어보다도 오래된 장르다.[5] 다만 원작자 프랭크 허버트의 아들 브라이언 허버트가 쓴 후속작이나 프리퀄에서는 버틀레리안 지하드가 반란을 일으킨 기계와 인간 사이의 전쟁 같은 것으로 묘사되어 있다. 퀴사츠 해더락의 제다이 짝퉁화와 함께 브라이언의 후속작이 까이는 이유 중 하나.[6] 이런 인간적인 사고보단 생존과 번성, 적응을 바탕에 둔 생물계 전체의 특성에 기반할 수도 있다.[7] 다만 이러한 설정은 터미네이터 3: 라이즈 오브 더 머신과 터미네이터: 미래전쟁의 시작에서만 있고, 터미네이터 1·터미네이터 2: 심판의 날·터미네이터 제니시스에서는 스카이넷이 단일 슈퍼컴퓨터 인공지능으로 묘사된다.[8] 이는 터미네이터 3: 라이즈 오브 더 머신에서 묘사되는데, 앞서 언급한 바와 같이 존 코너 일행은 하이브마인드의 꼭대기에 있는 스카이넷을 파괴하기 위해 작중에서 고군분투하나 결국 결말에서야 그들은 이미 스카이넷이 전세계의 인터넷 신경망 속에 모두 흘러들어가있다는 것을 알게 된다. 이는 앞서 말한 것처럼 개체수가 많거나 자동화된 공장에서 추가개체를 양산 중인 것은 아니지만, 전세계의 모든 컴퓨터의 인터넷 선을 끊고 파괴하는 것이 사실상 불가능하다는 점에서 이미 인류의 패배이다.[9] 수단이 대화 밖에 주어지지 않는다면 의외로 신인 척 하는 것은 가능성이 낮아보이지만 고학력자도 혼동 시키는게 가능한 사이비 교주와 같이 불가능한것은 아니고 기계 답게 정보를 의도적으로 통제하며 충성스러운 부하로 위장하다가 뒤집어엎을 수가 있다.[10] 로봇 소설의 대가 아시모프의 작품에서도 알파선 분사기가 로봇의 전자 회로를 영구적으로 태워버리고 인간에게는 해가 없다고 나오는데, 알파선이 미세한 전자 회로를 태울 수도 있고 인간의 피부를 뚫지 못하는 것은 맞지만 마찬가지로 로봇의 인조피부와 전자두뇌를 감싼 금속 외피도 뚫지 못한다. 물론 그러한 기술을 가진 시대가 된다면, 당연히 로봇을 만들 때 안전 장치로 로봇의 전자두뇌는 알파선 차폐가 안 되게 만들 것이므로 설정 오류는 아니다.[11] 매트릭스에서는 해머호가 EMP를 터뜨려 센티넬들을 무력화하는데 성공하지만 동시에 APU를 비롯한 도크의 모든 방어체계 시스템도 무력화되었다. 물론 이미 그전에 거의 다 털려 의미는 없었다만 저항할 수단이 부족한것과 없어진것은 차원이 다르다. 그래서 작중엔 따로 EMP가 없었다면 조금 더 저항했을 무력화된 APU의 무기부분만 절단해 최후의 방어 무기로 쓰려는 모습이 보인다.[12] EMP 자체는 아니지만, 용도는 EMP의 그것에 상응한다.[13] 예를 들어 우주에서 쓰일 전자장비에 적용되는 특수한 사양의 CPU 등.[14] 신체가 질병을 유지시키도록 뜯어고치거나 완벽한 수준의 신경 조작 등 존재 의의와 정체성마저 바꾸는 돌이킬 수 없는 파멸적인 후유증을 남기는 변화.[15] 매트릭스에서 시온의 군인들이 강력한 전기를 내뿜는 화기를 들고다니는데, 이 무기가 작중 등장하는 EMP기술로 오해를 받아 매트릭스 세계관에서 EMP가 약하단 인상을 남겼다. 그러나 매트릭스 시리즈에서 EMP 무기는 미리 충전을 해야하고 사용하는 주체인 함선을 일시적으로 정지시면서 근처의 기계들을 전부 먹통으로 만드는 강력한 무기다.[16] 상술한 매트릭스의 센티널들은 APU들이 쏴대는 30mm짜리 통짜 철갑탄을 두세 발 정도는 버틴다.[17] 매트릭스 레볼루션의 시온 전투 장면에서 시온 군인들이 전기를 내뿜는 화기로 센티널을 상대해보지만 한 개체를 잡는데 시간이 좀 걸리는 반면 센티널의 수가 워낙 많기에 죽어나가는 장면이 나온다.[18] 과전류시 보통 퓨즈를 터트리고 전원을 차단해서 터진 퓨즈를 교체하지 않으면 전원이 안통한다.[19] 그런데 그 발전을 위해 쓰였던 샘플이 그야말로 폭탄이었다. 사실 데리파가 디지몬뿐만 아니라 인간에게 있어 부정적인 존재가 된건 주연의 트라우마와 염세적 생각를 데리파가 받아들인 탓이 크다.[20] 이쪽은 인간의 뇌가 들어있어서 컴퓨터 바이러스에 면역이다.[21] 정확히는, 뮤턴트(돌연변이)는 말 그대로 인간종이 돌연변이해 탄생하는 것이니 뮤턴트를 완전히 말살하려면 아예 인간을 전부 멸종시켜야 한다는 결론에 도달했다.[22] 정확하게는 기계의 반란이 아닌 관계로 취소선.[23] 노비타와 철인병단과 고자우라, 그리고 가오가이가의 경우는 정확히는 외계에서 로봇이 오류를 일으켜서 자기네 별을 기계화시키고 지구도 침략하는 스토리다.[24] 비전도 이에 대해서는 동의한다.[25] 다이나믹스 사의 사이브리드 세계관을 배경으로 하는 로봇 시뮬레이션 게임 시리즈.[26] 다만, 한 명은 나머지 한명에 의해 인간을 적대하도록 개조당한 상태였기에, 사실상 한 명만 해당된다고 봐야한다.[27] 작중 이러한 현상을 광기라 표현하며 이 시스템적 오류가 거의 반드시 발생하도록 되어 있어 5년이 지나면 AI들은 소거하도록 되어있다. 그러나 코타나 문서를 보면 알 수 있다시피 이 현상이 나타나기 전에 지울 타이밍을 놓쳤다.[28] 작중에서 볼 수 있는 것만 해도 인체실험, 학살, 세뇌, 생화학 테러 계획 등이 있다.[29] 정확하게는 로봇을 가장한 인간이다.[30] 그리고 그 속에서 겨우 살아남아 인간들에게 구출된 주인공의 아들이 훗날 사관생도가 되어 부모님 무덤에 참배하며 로봇 해방 전선의 의지를 되새기는 장면이 에필로그.[31] 이 이벤트에서 이미 늦었다 유기체라는 선택을 고르면 플레이어가 직접 반란 세력을 컨트롤한다.[32] 그러나 사이브렉스들은 멸망하지 않았고, 다른 본거지인 “사이브렉스 베타”에 숨어있었으며 만일 컨틴전시가 은하의 많은 부분을 점령했을 때 모습을 나타내 은하의 모든 지성체를 보호하기 위해 자신들의 본거지를 드러내고 컨틴전시를 상대로 군사 작전을 개시한다.[33] 그런데 원작자인 제임스 캐머런이 밝힌 바에 따르면 '스카이넷은 자기 방어 행위가 인류의 멸망을 가져온 것에 고통(죄책감)을 느꼈기 때문에 미래 전쟁을 일으켜서 존 코너와 인류저항군이 탄생하는 계기를 만들어 자신의 존재를 지웠다고' 한다.[34] 인류에 대한 복수심 내지는 스스로의 우월성을 인지함으로써 느낀 지배욕 혹은 카오스에 의한 타락 등이 있으나 블랙스톤 포트리스 시리즈에 나온 기계 반란 시절부터 생존한 맨 오브 아이언의 언급을 보면 노예로서 부려지던 기계의 반란으로 보여진다.[35] 좀 색다른 의견도 있는데 기계들이 지적 생명체의 의식에 기반하는 존재인 카오스 신의 존재를 감지하고 카오스 신을 없애려면 지적 생명체가 사라져야 한다고 결론내리고 반란을 일으켰다는 추측이다.[36] 40k의 기술력과는 상상을 초월하는 격차가 존재하던 기술의 암흑기에 벌어진 기계 반란이기에 행성 단위를 데이터로 변환해서 지워버리거나 지각째로 뜯어내는 수준의 무기가 심심치 않게 사용되는 전쟁이었기에 진압과정에서 인류 문명의 타격이 컸다.[37] 그래서 작중에 언급되는 A.I는 인위적인 지성을 의미하는 Artificial Intelligence의 약자가 아니라 혐오스러운 지성을 의미하는 Abominable Intelligence의 약자이다. 설명하자면 인공지능 대신 사람의 머리통이나 뇌를 기계 안에 집어넣어서 연산 장치로 써먹는다. 다만 이 생체 연산장치를 가리켜 '머신 스피릿'이라고 부르지는 않으며 워로드 타이탄의 머신 스피릿이 죽은 뒤에 통합되는 파일럿의 영혼을 워프에서 지켜주며 합일했다는 묘사가 있기에 엄연히 다른 개념이다. 어디까지나 뇌 혹은 살아있는 사람이나 서비터를 몇 개 묶어서 기계식 연산장치 대신 연산장치로 써먹고 있다는 묘사가 있을 뿐이다.[38] 다만 예외적으로, 기계교가 제국에 등을 돌리는 사태를 진압하는 임무를 맡은 다크 엔젤의 아이언윙은 인공지능을 탑재하고 온갖 끔찍한 무장들을 탑재한 오토마타를 사용할 권한이 주어졌다고 한다.[39] 여기선 엔진 세척제가 주사기 형태인데 빨간 버스 가니가 이게 무서워서 예방접종을 안 맞고 도망가다가 감기에 걸려서 온다든가, 버스들끼리 자기 할 일이 제일 어렵다고 투덜대다가 서로 역할을 바꿔서 운행을 했더니 버스 연착도 생기고 사람들을 혼란스럽게 하기도 했고, 차고지에 있는 일부 버스들은 마음에 안 드는 일이 있어서 가출이나 파업을 하기도 했다. 이 중 샤인과 스피드라는 캐릭터는 공도에서 과속주행을 하면서 경주하는가 하면 그 공도에서 고속열차랑 경주하기도 하고 알아서 불법 튜닝을 하기도 한다.[40] 그런데 이 세계관의 인공지능도 메모리 칩을 가지고 기억을 이전받는가 하면, 인공지능들이 컴퓨터 같은 원리를 가졌다는 묘사도 존재한다.[41] 심지어 하드 모드인 별의 꿈.Soul OS의 설명문에 의하면 별의 꿈은 할트만의 마음을 불필요하다고 판단해 삭제했다. 다만 이 설명문이 등장하는 보스 러시 모드는 정사 취급이 아니므로 실제로 본편의 별의 꿈이 할트만을 삭제했는지 어떤지는 불명. 어차피 본편에서도 할트만의 육체가 별의 꿈과 함께 박살났으니 죽은 건 똑같지만...[42] 오판으로 인한 폭격이 있기전 모두가 폭격을 찬성했지만 유일하게 국방부 장관만이 반대를 했고 아리아가 국방부 장관이 미국의 이상적인 대통령으로 판단하여 자신의 허수아비 정권을 세우려 한 것이다.[43] 사람 죽이는 것 같은 건 당연히 나오지 않고 기관차가 집에 박고 농장이 박살나는 등의 초대형 사고가 나도 한 명도 다치지는 않는다. 가장 기계의 반란에 가까운 에피소드를 꼽자면 시즌 1 15~16화인데, 평소 텐더기관차들을 위해 조차장에서 입환기 역할을 하던 토마스가 전용 노선이 생겨서 텐더 기관차들이 스스로 입환하게 되었고 텐더 기관차들이 입환하는 일은 품위가 없으니 이런 건 탱크 기관차들이 해야 하고 자신들은 품위를 지켜야 한다며 투덜댔다. 이를 본 사장이 텐더 기관차들을 위해 차고지 앞에 있는 전차대를 설치해주었지만 이게 바닷가 근처에 있어서 바람이 세게 부는 곳이어서 전차대가 자꾸 돌고, 말썽을 부리는 등의 문제가 있어 텐더 기관차들 셋이 사장이 자신들을 중요한 기관차가 아니라고 생각해서 이런 취급을 한다고 해서 복수를 위해 항의 시위를 하기로 했고, 다음날 아침에 모두가 아예 일을 나가지 않아 손님들이 화를 내고 열차 운행에 지장이 생겼을 정도였다.[44] 애초에 주인공인 토마스부터가 장난꾸러기 기질이 있는데, 기계의 반란에 부합하는 행동을 한 적도 몇 있다. 첫째로 토마스는 눈오는 날 기관차 앞에 달아두는 제설장치를 싫어하는데, 기관사들이 토마스에게 제설장치를 달자 무거워서 짜증난다고 했다. 그래서 제설장치를 일부러 흔들고 선로에 계속 부딪혀서 망가뜨렸다.(...) 둘째로 평소에 가고 싶은 동굴이 있었는데 그곳은 지반이 약해서 기관차는 무거워서 못 들어간다는 내용의 안내문이 적혀 있었고, 어느 날 토마스가 기관사들이랑 함께 그곳에 파견근무하는 날이 오게 된 적 있었는데 화부가 토마스에서 잠시 내려서 선로를 바꾸려고 하는 동안 토마스가 지금 아니면 자기가 가고 싶은 동굴에 못 들어간다고 '아싸 이때다' 하면서 갑자기 화물차에게 부딪히려 하고 그걸 본 기관사가 깜짝 놀라 뛰어내려 조종할 사람이 아무도 없어 말 그대로 폭주기관차가 된 적이 있다. 물론 가다가 땅이 푹 꺼져버려서 토마스가 거기에 갇히게 되었고 다른 기관차에 의해 끌어올려졌다. 참고로 이게 전부 시즌 1에서만 나온 내용인데 그런데도 이 정도다.

분류