닉 보스트롬 '슈퍼인텔리전스'

슈퍼인텔리전스 - 경로, 위험, 전략
닉 보스트롬. 조성진 옮김. 까치 

 

---

경제학자 로빈 핸슨은 과거의 경제, 인구 수치를 바탕으로 세계 경제의 규모가 이전보다 2배 증가하는 데에 필요한 시간을 다음과 같이 추산하고 있다. 즉 홍적세(Pleistocene)의 수렵채집 사회에서는 22만4,000년이 소요되었고, 농경 사회에서는 909년이, 그리고 산업 사회에서는 6.3년이 걸린다고 한다 (핸슨의 모델에서는 현시대의 발전 양상을 농업과 산업이 혼합된 형태로 보고 있다. 그 이유는 세계 경제 전체를 보았을 때, 현재의 증가율이 산업 사회의 증가 기간인 6.3년에 아직 미치지 못했기 때문이다). 그러나 만약, 과거의 농업혁명과 산업혁명에 견줄 정도로 큰 변화를 일으키는 새로운 발전 단계로 이행할 수 있다면, 세계 경제의 규모는 2주일마다 2배씩 늘어나게 될 것이다.
현재의 시각으로 이러한 성장률은 불가능해 보인다. 그러나 세계 경제가 2배씩 커지는 사건이 한 세대에 몇 번이나 일어나리라는 것도 이전 시대의 관찰자들에게는 터무니없어 보일 것이다. 그러나 현재는 그렇게 비정상으로 보이는 성장이 일상적인 것으로 받아들여지고 있다.
버너 빈지의 중요한 최초 논문으로부터 레이 커즈와일 같은 사람의 문헌에 이르기까지 모든 논문들이 조만간 기술적 특이점(technological singularity)이 나타날 것이라고 내다보고 있다. 그럼에도 ‘특이점’이라는 단어는 서로 다른 여러 가지 개념들로 그 의미가 분명하지 않게 사용되어왔고, 이 단어로 인해서 (새천년에 대한 낙관론과 비슷한) 그다지 탐탁지 않은 ‘기술-유토피아적’ 분위기가 생기게 되었다. 이러한 대부분의 의미와 관점들은 이 책에서 다룰 논지와는 관련이 없으므로, ‘특이점’이라는 단어 대신 더 정확한 ‘지능대확산’을 사용한다.

(19쪽)

---

미래의 일을 본격적으로 생각해보기 전에, 현재까지의 기계지능의 역사를 간단히 돌아보도록 하자.
1956년 다트머스 대학교에서 열린 6주일간의 워크숍에서 10명의 과학자들은 신경망(neural net), 자동기계 이론(automata theory), 그리고 지능 연구에 대해서 의견을 나누었다. 이 다트머스 하계 프로젝트는 인공지능 분야 최초의 학술적인 연구로 간주되며, 참여자들 대다수가 이 분야의 개척자들로 인정받고 있다. 이 모임의 자금을 제공한 록펠러 재단에 제출된 제안서에는 그곳에 모인 과학자들의 낙관적인 전망이 잘 드러나 있다.
“인공지능에 대해서 2개월간 10명의 인원이 참가하는 연구를 제안합니다...학습이나 지능의 모든 특성들을 자세하게 기술하여 이를 바탕으로 학습이나 지능을 모방할(simulate) 수 있는 기계를 만들 수 있다는 생각으로 이 연구를 진행할 것입니다. 또한 언어를 사용하고, 관념과 개념을 형성하고, 지금은 오로지 인간만이 해결할 수 있는 문제들을 해결할 수 있으며, 스스로를 향상시킬 수 있는 기계를 만드는 방법을 찾으려고 시도할 것입니다. 신중히 선발된 과학자들이 이 여름 한철 동안 협력한다면, 이 문제들 중 몇 가지는 의미 있는 진척을 이룰 것으로 생각합니다.”
(24쪽)

---

인공지능 분야의 연구는 이렇듯 자신만만하게 시작되었지만, 이후 60년 간, 과대선전의 대상이 되어 높은 기대를 받은 때도 있었고 또 발전이 정체되어 실망을 안겨주는 시기도 번갈아가면서 나타났다. 다트머스 회의로 시작된 첫 번째 흥분의 시기를, 훗날 존 매카시(모임의 주최자였다)는 “엄마, 이것 보세요. 내가 손도 대지 않고 해냈어요!(Look, Ma, no hands!)“의 시기였다고 회고했다. 초창기의 연구자들은 당시 기계로는 불가능하다고 인식되던 일에 도전하기 위한 시스템들을 만들었다. 즉 “기계는 이러이러한 일(X)은 절대 할 수 없어”라는 회의적인 편견을 깨뜨리기 위해서 ‘마이크로 월드’(microworld : 주어진 단순화된 작업을 수행하는 비교적 경계가 명확하고 범위가 제한적인 영역) 내에서 주어진 작업 X를 달성하는 소규모 시스템들을 만들어서 이러한 구상을 입증했으며, 기계는 해낼 수 없다고 생각되던 작업 X를 이론적으로는 기계도 해낼 수 있음을 보여주었다.
예를 들면 ‘논리 이론가(the Logic Theorist)’라는 초기 정보처리 프로그램은, 화이트헤드와 러셀이 공저한 수학 원리서(Principia Mathematica)의 제2장에 나오는 대부분의 수학 정리들을 증명했고, 심지어 한 정리에 대해서는 기존의 증명보다 훨씬 더 명쾌한 증명방법을 찾아내기도 했다. 그리하여 기계는 “오직 계수적으로만(numerically) 사고할 수 있다”는 관념을 뒤집고, 기계도 추론할 수 있고 논리적인 증명을 고안할 수 있다는 것을 보여주었다. 후속작인 ‘일반 문제 해결자(the General Problem Solver)’는 형식에 맞게 구체적으로 표현된 다양한 문제들을 해결할 수 있었다! 뿐만 아니라 대학교 1학년 수준의 미적분학 문제나 IQ 테스트에 출제되는 시각적 유추 문제, 그리고 구두로 서술되는 간단한 대수학 문제를 해결할 수 있는 프로그램들도 개발되었다.
또한 논리적 추론(logical reasoning)과 지각(perception)을 통합하여 물리적 운동을 계획하고 제어하는 데에 사용할 수 있음을 셰이키 로봇(Shakey robot : 작동 중에 흔들거리는 특성 때문에 이름 붙여짐)으로 입증했다. 
ELIZA 프로그램은 컴퓨터가 마치 자신이 로제리안 심리치료사(Rogerian psychotherapist : 칼 로저스가 창시한 인간 중심 치료로, 기존의 정신병원과 달리 환자와의 상담을 통해서 정신질환을 치료하는 방법/옮긴이)인 척하는 것이 가능하다는 것을 보여주었고, 1970년대 중반에 만들어진 SHRDLU 프로그램은 기하학적 블록으로 이루어진 가상세계에서, 사용자가 영어로 입력한 지시사항에 따라 가상의 로봇 팔을 이용하여 문제를 해결할 수 있었다. 뒤이어 여러 클래식 음악 작곡가들의 스타일을 모방하여 음악을 작곡하는 프로그램, 특정 임상적 진단에서 수련의보다 더 월등한 결과를 내놓는 프로그램, 자동차를 스스로 운전하는 프로그램, 그리고 특허를 받을 만한 발명을 하는 프로그램도 만들어졌다. 심지어는 독창적인 농담을 고안하는 프로그램도 있었다. 
(26쪽)

---

폭탄 제거 로봇, 감시용 또는 공격용 드론, 그밖의 다양한 무인 자동차 등의 대규모 운용에 관한 최첨단 기술은 미국 군과 정보기관들이 가장 앞서서 개발하고 있다. 대부분이 여전히 사람에 의해서 제어되지만, 점차 자율적인 운용이 가능하도록 개발 중이다.
지능형 계획관리(intelligent scheduling)도 큰 성공을 거둔 분야 중 하나이다. 1991년 사막의 폭풍 작전(Operation Desert Stom)에서 사용된 DART 기법이 자동화된 병참 계획 및 관리에 대단히 유용하게 사용되어, 미 국방고등연구기획청(DARPA)이 지난 30년간 인공지능에 투자한 비용이 이 프로그램 하나로 모두 보상을 받은 것이나 다름없다고 할 정도였다. 항공기 예약 시스템들은 정교한 항공편 운항 계획 및 가격 책정 시스템을 사용하고 있고, 기업들은 재고 관리 시스템에 폭넓은 인공지능 기술들을 활용하고 있다. 또한 음성 인식 소프트웨어와 연결된 자동화된 전화 예약 시스템과 전화 상담 서비스를 활용하여 소비자들이 헤매지 않고 원하는 서비스를 받을 수 있도록 하고 있다.
인공지능 기술은 다양한 인터넷 서비스의 기반을 이루고 있다. 이러한 소프트웨어들은 전 세계의 이메일 통신을 관리한다. 스팸 메일을 막는 조치를 피하고자 계속 대응해나가는 스팸 메일 제작자들의 노력에도 불구하고, 베이지언 스팸 필터는 대체로 스팸 문제를 잘 저지해왔다. 인공지능을 사용하는 소프트웨어는 신용카드 거래의 자동 승인 및 거부 작업에 사용되고 있고, 사기 행위를 감시하는 데에도 이용된다. 정보 회수 시스템들 또한 머신 러닝 기법을 광범위하게 사용하고 있다. 이견이 있기는 하지만, 구글의 검색 엔진은 지금까지 만들어진 가장 위대한 인공지능 시스템으로 칭송받고 있다. 이 시점에서 우리는 인공지능과 일반적인 소프트웨어 사이의 경계가 그다지 뚜렷하지 않다는 것을 강조할 필요가 있다. 
(43쪽)

---

-HLMI(High-Level Machine Intelligence)가 언제쯤 등장할 것인가에 대한 전문가 조사
모든 여론조사 결과들을 하나로 합쳐서 보았을 때(중간 값 추정), HLMI가 2022년까지 개발된다고 본 비율은 10퍼센트, 2040년까지 개발된다고 본 비율은 50퍼센트, 그리고 2075년까지는 90퍼센트이다(응답자들은 “인간의 과학적 활동이 심각하게 저해되는 일없이 계속된다”는 가정하에 예측을 해달라고 요청받았다).
탐색, 계획, 지식 표현, 그리고 로봇 공학 분야에서 오랫동안 활발한 연구활동을 해왔으며, 또한 인공지능에 대한 여러 권의 교과서를 쓴 저자이자, 최근에는 이 분야의 역사에 대해서 현재까지 가장 포괄적으로 쓰인 책을 집필하기도 한 닐스 닐손에게 언제쯤 HLMI가 개발될 것인지 묻자, 닐손은 다음과 같은 견해를 밝혔다.
10퍼센트 확률 : 2030
50퍼센트 확률 : 2050
90퍼센트 확률 : 2100
(49쪽)

---

(유전자 선별로) 태어난 개인들의 평균적인 지능은 매우 높아서, 어쩌면 인류 역사상 가장 똑똑한 인간과 같거나 약간 높은 정도의 수준이 될 수도 있다. 지능이 높은 인간들이 많이 존재하는 사회(물론 이에 적합한 문화, 교육, 통신 기반시설 등등이 있다는 전제하에)는 일종의 집단적 초지능으로 볼 수도 있을 것이다.
그러나 여러 가지 요인들에 의해서 이 기술의 효과가 약화되고 지연될 것이다. 우선 가장 최종적으로 선택된 배아들이 성인으로 성숙하려면 시간이 필요하다. 유전적으로 향상된 아이가 최대 생산성에 도달하는 기간은 적어도 20년이고, 전체 노동력에서 상당한 기여를 하는 존재가 되기 위해서는 이보다 더 오랜 시간이 걸린다. 뿐만 아니라 이 기술이 완성된다고 하더라도 실제 적용률은 낮게 시작할 것이다. 몇몇 국가들에서는 윤리적 또는 종교적 이유로 아예 사용 자체를 금지할지도 모른다.  
유전자 선별이 허용되는 나라에서도 많은 부부들은 자연적 임신을 선호할 것이다. 그러나 체외수정 시술의 이득-태어날 아이가 재능이 뛰어나다든지 또는 병에 걸릴 유전적 소인이 없다든지-이 사실상 분명하다면, 이를 이용하려는 시도가 늘어날 것이다. 유전자 선별로 인한 사회적 의료비용의 감소와 기대소득의 증가 같은 점들도 선별을 찬성하는 근거가 될 것이다. 시술이 점점 더 보편화되고, 특히 사회지도층 사이에서 널리 이용되게 되면, 책임감 있고 교육을 많이 받은 부모라면 반드시 유전자 선별을 해야만 한다는 새로운 육아 규범이 사회적 인식으로 자리잡게 될 가능성도 있다. 자신의 친구나 동료들의 유전적으로 향상된 또래 아이들에 비해서 자신의 아이들이 뒤쳐지지 않게 하려고, 처음에는 이 시술을 꺼리던 사람들도 시술을 받으려고 할 수도 있다. 일부 국가에서는 시민들이 유전자 선별을 택하도록 장려책을 펼 수도 있다. 

(81쪽)

---

초지능이 궁극적으로 획득할 능력들은 어떤 경로를 따랐느냐에 크게 의존하지 않지만, 그러한 능력들을 어떻게 이용할지, 우리 인간이 기계 초지능의 성향에 어느 정도의 통제력을 가지게 될지는 우리가 접근한 경로의 세부사항들에 영향을 받을지도 모른다, 예를 들면, 생물학적 또는 조직적 지능의 향상으로 인해서 기계 초지능에 대한 위험을 예측하고 이것을 안전하고 유용하게 설계하는 능력이 발달할 수도 있다,
현재의 지능 수준에서 약간 향상된 정도가 아닌 진정한 의미의 초지능은 야마도 인공지능의 개발이라는 경로를 통해서 가장 먼저 등장할 수도 있을 것이다. 그러나 이 경로에는 근본적으로 불확실한 점이 존재한다. 이러한 불확실함 때문에 이 방식이 얼마나 걸릴 것인지, 장애물이 얼마나 존재하는지 철저하게 따져보기가 어렵다. 
전뇌 에뮬레이션 경로 또한 초지능으로 가는 가장 짧은 경로일 가능성이 있다. 이 경로에서의 진전은 이론상의 문제에서 돌파구가 필요한 것이 아니라 점진적인 기술 발전에 더 의존하기 때문에, 결국 성공할 가능성이 충분히 높다고 볼 수 있다. 그러나 전뇌 에뮬레이션 방식에서의 진전 속도가 상당히 빠르더라도, 인공지능 방식이 결국 초지능에 먼저 도달할 가능성이 훨씬 더 높아 보인다. 이는 전뇌 에뮬레이션이 완성되기 전에 뇌 기능을 부분적으로 에뮬레이션한 신경모방 인공지능이 먼저 만들어질 가능성이 있기 때문이다.
생물학적 인지능력의 향상, 그중에서도 유전자 선별에 의한 인지능력 향상은 확실히 실현 가능해 보인다. 
(101쪽)