| 인공지능의 단계 | ||
| 약인공지능 | 강인공지능 (인공 일반 지능, 인공 의식) | 초인공지능 (인공지능 특이점) |
1. 개요
Strong AI, True AI약인공지능(Weak AI)에 대비되는 의미로 만들어진 용어이다. 약인공지능은 어떤 특정한 한 가지 분야의 주어진 일을 인간의 지시에 따라 수행하는 인공지능을 말하는데 이러한 약인공지능의 제한된 기능을 뛰어넘어 더 발달된 인공지능이 바로 강인공지능이다.
2. 특징
강인공지능은 인간의 지성을 컴퓨터의 정보처리능력으로 구현한 시스템이다. 인간과 동일한 지성을 가진 프로그램이건, 뇌를 통째로 스캔을 떠서 컴퓨터로 돌리건 상관없다. 당연히 아예 하나의 인간으로 보아도 무방한 수준의 지적 능력을 가지고 있다는 의미가 되는데 이 때문에 현재 논란이 되는 인공지능의 문제도 대부분 강인공지능으로부터 비롯되고 있다.3. 현황
사실 강인공지능이라고 불릴 만한 수준의 인공지능은 지금도 개발되지 않았다. 개발은커녕 개념조차도 모호한데, 인간의 지성이 대체 무엇인지 명확히 정의되지 않았기 때문이다. 기계가 어느 정도의 일을 할 수 있어야 인간과 동등하다고 볼 수 있을까? 과거에는 체스를 둘 수 있거나 바둑을 잘 둘 수 있으면 사람하고 비슷하지 않을까라고 생각했다. 그러나 특정한 일의 수행 가능 여부를 기준으로 인간의 지성 유무를 판단하는 건 의미가 없고, 이는 지금까지 수없이 증명되어 왔다. 그림을 보는 것이나 소리를 듣는 등 기존에 사람만이 가능하다고 생각되던 일들을 이제는 대부분 컴퓨터로도 얼마든지 처리할 수 있기 때문이다.사람과 비슷한 수준의 일을 할 수 있게 되었다고 해도 강인공지능이 탄생하기 위한 장벽은 많다. 예컨대 의식이나 마음, 생각이 어떻게 발생하는지는 뇌 과학이 완벽하지는 아닐지라도 많이 해명됐다. 그러나 이를 넘어 뇌를 완벽히 모방했을 때, 의식이 존재하는지 알아낼 수 없다는데 있다. 자세히는 아래문단에서 설명.[1] 아무튼 이와 관련하여 심신 문제라고 하는 것이 있는데 하드웨어로 볼 수 있는 뇌와 소프트웨어라고 볼 수 있는 정신을 서로 떼어놓고 생각할 수 있는지 없는지에 대한 논제다. 육체와 영혼을 서로 별개의 존재로 보는 관점을 이원론, 하나로 보는 관점을 일원론이라 한다. 대게 이원론은 종교적으로 지지 받는 이론이라(참, 거짓이 증명 불가능) 과학적인 측면에서 이 토의는 보통 일원론을 전제로 진행하게 된다.
강인공지능의 개발 가능 여부는 곧 정신을 뇌가 아닌 컴퓨터에 구현할 수 있냐의 여부인데, 이게 가능하려면 뇌만 인위적으로 재현해도 정신이 나타나야 한다. 따라서 강인공지능을 가능하다고 보는 것은 심신일원론적인 시각과 부합된다. 현재 과학계에서는 당연히 심신일원론의 입장을 취하고 있고[2] 각종 실험으로 증명도 했지만 "어떻게?" 라는 질문에는 아직 더 연구가 필요하다.
위에서 언급된 중국어방 논변이 이런 문제에 대해서 인공지능의 지능 유무를 판정하는 튜링 테스트를 디스하기 위한 논변인데, 한 마디로 요약하면 정보처리기계는 문제를 이해하지 못하더라도 계산과 정보처리를 통해 그 문제에 맞는 답을 찾아 제시할 수 있지만, 이는 문제를 이해하는 능력, 즉 지능을 가졌다고 볼 수는 없다는 것이다 물론 이 논변 역시 많은 반박을 받았으나, 결정적으로 반론되었다고 말할수도 없다[3]. 이는 강인공지능의 개발에 대해서도 상당히 유의미한 문제인데, 만약 강인공지능(이라고 여겨지는 무언가)이 개발되었을때 그것은 정말 인간과 같은 의식을 가지고 있을수도 있지만 단지 알고리즘에 따라 단순히 정해진 반응을 내놓는 것 뿐이지만, 그 알고리즘이 진짜 의식의 결과물로 오인될만큼 정교하게 짜여 있는 것일 뿐일수도 있는 것이다. 그렇다면 이 차이를 무엇을 기준으로 어떻게 판단할 수 있을 것인가?[4]
게다가 이게 끝이 아니라 더욱 근본적인 문제도 있다. 사람들은 일반적으로 자유의지를 가진 인간의 의식을 알고리즘에 따라 반응하는 프로그램과는 다른 별개의 무언가로 생각하지만 사실 자유의지의 존재도 증명되지 않았다. 쉽게 말해 위에서 언급된 것처럼 '인간처럼 진짜 의식이 있는 것'과 '프로그램처럼 외부에서 볼 때 의식이 있는 것처럼 보일 뿐인 것'을 구분하려 한다면, 먼저 '인간처럼 진짜 의식이 있는 것'이 무엇인지부터 정의해야 하는데, 아직 대다수 학자들이 합의하는 결론이 없다는 것이다. 따라서 어쩌면 인간의 의식은 그저 많이 복잡한 프로그램이라는 공식은 사실일 수도 있다. 이에 대해서는 중국어 방, 자유의지, 결정론 항목 등을 참고하자. 또한 경험주의적인 관점에서 강인공지능은 받아들이기 어려운 것인데 인간 스스로가 경험하지 않은, 인공지능에 의해 성찰 없이 입력된 정보는 정보가 될 수 없기 때문이라는 문제도 있다. 관료제의 문서만능주의나 사이버 렉카질이 인공지능의 오용에 의해 일어날 수 있다는 것이다. 다만 현재 대다수 엔지니어들은 철학적인 문제보다는 눈앞의 현실적인 문제의 해결에 집중하므로 당장은 그리 중요한 사안은 아니라 할 수 있겠다. 바빠서 그런 것까지 신경 쓸 여유가 없기도 하고.
아무튼 위의 내용 말고도 각 분야 박사들 입장에서 머리 터지는 문제가 산재해 있기 때문에 지금의 강인공지능 연구라는 것은 이론을 토대로 만들기보다는 뇌의 동작방식을 직접 뜯어서 연구하거나 아니면 시뮬레이션을 목표로 연구가 진행되고 있다. 하지만 뇌를 현실에 가깝게 시뮬레이션 한다는 것 역시 현대 컴퓨터의 정보처리 능력으로는 아직 무리이기에 근시일 내에 결과물을 보기 어렵다는 점은 확실하다. 결국 '인간의 지성이라는 것은 무엇인가?' 에 대한 물음의 해답이 아직도 나오지 않은 것이 가장 큰 장애물인 셈이다.
과학자들이 저마다 강인공지능의 출현시기를 예측하고 있기는 하지만, 아직까지는 기술적인 갈피조차 잡지 못하고 있는 상황이기 때문에 '아무도 모른다'라고 하는 것이 정확할 것이다.
강인공지능은 일반적으로 모든 상황에 대해 스스로 행동과 학습이 가능하며, 그것을 수행할 수 있는 인간 수준의 지능을 지닌 인공지능을 말한다. 실제로 사람들이 AI에 대해 떠올리는 보편적인 이미지는 강인공지능이라서, AI가 뭐든지 할 수 있다고 믿으며, 약인공지능을 데이터와 환경을 외운 것이 아니라 AI가 스스로 지성을 갖추고 행동하는 것이라 오해하기도 한다. 강인공지능은 상술한 바와 같이 아직 기술적인 갈피조차 잡지 못하고 있는 상황[5]이기에 정확한 출현시기를 특정할 수 없다.[6]
한편 2023년 3월 24일 마이크로소프트가 Sparks of Artificial General Intelligence: Early experiments with GPT-4라는, 즉 AGI의 불씨: GPT-4에 대한 초기 실험라는 제목의 논문이 arxiv.org에 기재함에 따라 기존엔 완전 불명(不明)이던 진척 상황에 말 그대로 불씨가 지펴졌다는 주장이 제기되기도 했다. 물론 arxiv.org에 올라온 논문은 피어 리뷰가 끝나지 않은 경우가 많고, 오류가 포함되어 있을 확률이 여전히 높음을 감안해야 하는데 이 논문을 근거로 일부 커뮤니티에서 AGI 구현에 윤곽이 잡힌 것 같다는 주장이 제기되는 것은 다소 섣부른 판단일 수 있다.
또한 GPT-4가 인간의 입장에서 봤을 때 일반적으로 보이는 문제를 해결하기 시작했다고 해서 정말로 앞으로 미래에 드러날 모든 문제에 일반적으로 적용 시킬 수 있는 지능은 아닐 수 있다. GPT-4도 딥러닝과 강화학습에 기반한 인공지능이며, 그러므로 일반적인 문제를 푸는 것처럼 보이는 것도 해당 영역의 문제에 대해 학습된 결과물일 수 있다는 이야기이다. (알고리즘이 학습되어 있고, 이 알고리즘을 어떤 경우의 문제에 적용시켜야 되는지에 대한 학습이 있었다면 가능한 일이다.) 만약 GPT-4가 정말로 (아주 초기적인 성능이라고 할지라도) 일반 인공지능이라면, 이 지능을 이용해서 다른 인공지능 시스템에서 발생하는 특수한 경우가 아닌 일반적인 경우에 대해 해결할 수 있는 단초가 제공될 수 있다. 그렇지 않다면 이를 AGI라고 지칭하는 것은 무리가 있다.
아직까지도 연구자나 공학자들마다 인공지능에 대한 다른 정의를 가지고 있으며, 용어가 표준화 되어 있지 않다. 중국어방 시스템이라고 할지라도 의식이 구현되었다는 주장이 있다는 것을 감안해보자. 따라서 업계가 내놓는 "인공 일반(범용) 지능" 또는 AGI라는 용어는 정말로 인간과 같은 생각을 하기 시작한 강인공지능이라기보다는, 인간이 일반적으로 봉착하는 문제들에 대한 답변을 하거나 해결 능력을 일정 기준 이상으로 보여주는 인공지능을 통칭하여 부르려는 시도일 수 있다. [7]
최근 OpenAI를 비롯한 회사들은 나름대로 저마다 희망하는 미래의 인공지능에 대해서 성명을 발표하거나 하는 식으로 추구하는 목표를 제시하고 있다. [8] 그러는 도중에 AGI라는 용어도 사용하고 있어서 약간의 혼란이나 논란의 소지가 있다. 모든 인공지능 과학자/공학자들의 궁극적인 목표는 AGI를 구현하는 것이지만, 사실 과학적으로는 당연하고 철학적으로도 아직 인간의 지능은 명백하게 규명이나 정의가 되지 않았다는 것을 감안해볼 때 이러한 기업의 활동은 투자를 받기 위한 마케팅의 일환으로 수행하는 것이며[9], 순수한 의미의 강인공지능이나 인공 일반 지능 구현과는 약간 거리가 있다고 보아야 한다.
4. 세분화
강인공지능이라는 개념은 더 구체화되어서 일반적으로 생각하는 인공지능의 발전 단계인 인공 일반 지능Artificial General Intelligence과 그와는 별개의 개념인 인공 의식Artificial Consciousness이라는 개념으로 분리되었고, 그 중 인공 일반 지능은 더 나아가서는 초지능이라는 개념을 만들어 냈다.5. 관련 문서
[1] 약간은 다른 말이지만 일부 물리학자들은 생명이 탄생하면 의식은 창발적으로 발생하는 것이라 생각한다. 폴 데이비스 "우리뿐인가?" 123-24쪽. 김영사[2] 아주 당연한 소리지만 의식을 인공으로 구현하고자 하는 강인공지능 입장에서 이원론은 아예 승산이 없다. 상식적으로 뇌를 완벽히 똑같이 만들었는데도 정신이 재현되지 않으면 어떻게 강인공지능을 만든단 말인가?[3] 단, 2014년 영국 레딩대학교에서 개발한 <유진 구스트만>이 '우수한 지능보다 알고리즘의 약점을 심리학으로 때워' 튜링 테스트를 통과함으로써 존 설 교수의 논리를 다시 한번 입증해버렸다' 식으로 주장하는 이들도 있으나, 이는 지나치게 과장된 주장이다. 일단 레딩대의 유진이 튜링테스트를 통과했다고 판정된 기준 자체가 정해진 시간동안의 테스트에서 심사위원중 33%에게 인간으로 인정을 받음으로써 합격 기준인 30%를 넘었다는 의미이기 때문. 즉, 이전에도 20%대의 인정을 받은 AI는 있었고, 유진은 그런 AI들보다 좀 더 질문 DB와 배경설정을 공들여 짜서 조금 높은 성과를 냈다는 정도의 의미이므로 튜링 테스트 및 중국어방 논변을 둘러싼 논쟁에 대해 어떤 유의미한 변화의 계기를 제공했다고 볼 정도는 아니다.[4] 예를 들어 대안중에는 그 차이를 굳이 구별할 수 없다, 학자들은 둘째 치고라도 일반인들이 대상이 의식이 있다고 여기고, 의식을 가진 상대로 인식한다면 그것에는 의식이 있다고 인정해 줄 수 있다는 의견이라거나, 의식과 구별할 수 없을 정도로 고도로 정교한 알고리즘에 대해 우리는 어렴풋이 상상할 수 있을 뿐 구체적인 예측은 아직 할 수 없으며, 그 정도로 극히 복잡한 알고리즘이라면 우리가 의식이라 부르는 무언가에 필적하는 복잡성을 가질 수도 있을 것이라는 의견 등도 제시되고 있다.[5] 인간의 지능에 대한 정의 문제, 인공적으로 구현한 지능이 인간이 정의한 지능과 상통하는지에 대한 문제 등.[6] 전문가들의 인터뷰나 트위터 내용 등으로 보자면 최소한 아무리 못해도 5년 이상은 지나야 윤곽이라도 보일 듯하다.[7] 업계가 제시하고 있는 AGI의 조건을 보면, 여전히 튜링 테스트에 기반한 것임을 알 수 있다. 튜링 테스트는 통과하면 인간의 지능에 준하는 지능이 있는 것으로 간주하기 위한 테스트이다.[8] OpenAI - Planning for AGI and beyond[9] 상술한 GPT-4 관련 논문은 마이크로소프트가 자신이 후원하고 있는 OpenAI를 밀어주기 위한 전략이라는 시각도 있다.