인간을 초월하는 기계의 등장, ‘특이점’ 들여다보기
인간을 초월하는 기계의 등장, ‘특이점’ 들여다보기
Computer Consciousness and the Singularity
최근 인공지능과 컴퓨팅의 발전은 지금까지의 컴퓨터 성능에 눈부실 정도의 향상을 가져오고 있다. 오늘날의 컴퓨터는 세계 최고의 체스 우승자를 가볍게 제압할 수 있을 뿐만, 세계에서 가장 박식한 사람들만큼 어떤 질문이든 정확한 대답을 할 수 있는 수준이다. 인공지능과 컴퓨터는 어느 단계까지 나아갈 것인가?
수년 전, 세계적인 유명 과학기술 전문가들은 인공지능과 컴퓨팅의 발전이 특이점(Singularity)이라는 시점에 도달하게 될 것이라고 예고했다. 컴퓨터 스스로가 세계적 수준의 혁신가가 과학과 기술 분야에서 선두를 달릴 것이고, 이러한 발전 속도는 인간이 감당하기 어려울 정도로 빨라질 것이라는 주장이다.
심지어 일부 앞서 나가는 사람들은 2050년의 사람들은 “스스로를 업로딩”해서 “의식하는 기기”가 되어 불멸성에 도달한 인공지능과 컴퓨팅과 만나게 될 것이라고 주장하기까지 한다. 실제로 이러한 발전은 인류를 어디로 이끄는 것일까? 일부 과학자들이 예언한 “특이점”의 환상은 정말 가능한 일일까?
컴퓨터와 달리 인간은 무언가를 듣거나 읽으면서, 표현되는 단어를 의식할 뿐만 아니라 그렇게 자신이 의식하고 있다는 사실을 알아차린다. 그러한 인식은 자신의 자각에 대한 자각이라 할 수 있다.그런데 이러한 자각에 대한 자각을 할 수 있는 역량을 갖춘 기계가 고안되었다고 생각해보자. 그 기계는 “연산하고, 저장하고, 검색하는” 능력뿐만 아니라 실제로 “생각하고 창조하는” 능력을 갖추게 될 것이다. 더불어 그들 스스로 동일한 기계를 고안할 수 있게 될 것이며, 그것도 더욱 빠르고 더욱 유능한 기계를 그들 스스로가 제작하게 될 것이다. 그 시점에 다다르면 그러한 스마트 기계에 힘입어 기술 발전은 상당히 빨라지고, 인간은 그다지 중요하지 않은 역할로 강등될 수 있다.
과학자들이 말하는 ‘특이점’의 시점을 지나면, 기계의 의식과 인간의 의식은 이론적으로 융합될 수 있다. 이러한 상상력을 수용하는 사람들은 결국 인간이 육체를 완전히 버리고 디지털화된 정신을 업로드할 것으로 믿는데, 여기에는 개인의 정체성과 의식을 컴퓨터에 제공하는 일이 포함된다. 그렇게 되면 우리는 사이버 공간에서 영원히 행복하게 살아갈 것이다.
오늘날 우리는 인공지능과 컴퓨팅으로 만든 몇 가지 극적인 진전을 실험하고 있다. 최근 “강 인공지능(strong artificial intelligence)”이라 불리는 사고와 컴퓨터 의식이라는 사상에 대한 추론을 한번 살펴보자.
먼저 몇 가지 중요한 역사적 사실부터 살펴보면, 특이점은 컴퓨터 구조에 관한 선구자 중 한 사람인 존 폰 노이만(John Von Neumann)이 ‘발전이 너무 빨라서 실질적으로는 무한하다’는 지점을 설명하기 위해 처음으로 고안한 용어이다. 기술혁신의 속도는 역사적으로 그 속도를 더해왔으며, 현재는 10년마다 그 속도가 두 배씩 증가하고 있다. 광범위한 진보 속도는 어지러울 정도로 빠른 IT 분야의 속도에 압도당했다. 속도, 수용력, 대역폭, 가격대비 성능을 포함해 모든 척도로 볼 때, IT 성능은 12개월마다 두 배씩 증가하고 있다.
전 세계 기술 엘리트 가운데 소수이지만 점차 많은 사람들이 지난 15년 동안 이러한 “특이점”에 주목하고, 새로운 비전을 공유하고 있다. 특이점주의자 또는 ‘초월인류주의자(Transhumanist)’로 다양하게 불리는 이 비전은 레이 커즈와일(Ray Kurzweil)이라는 미국 발명가에 의해 태동되었다. 레이 커즈와일은 미국 발명가 명예의 전당에 등재되어 있으며, 혁신적인 업적을 내고 있는 미래학자로서 세계적 명성을 가지고 있다.
커즈와일이 보는 바와 같이, 특이점에 도달한 인류의 지능은 오늘날보다 수십만 배나 강력해지게 될 새로운 시대를 열 것이다. 커즈와일은 그 새로운 세상에서는 인간과 기계, 또는 물리적 실제와 가상 실제의 구분이 없을 것이라고 주장한다. 이러한 커즈와일의 비전을 이해하려면, 세 가지 근본적인 요소에 대해 이해해야 한다.
하나는 기술 발전이 계속해 엄청난 속도로 증가할 것이라는 점이다. 이미 20세기를 통틀어 이룬 업적은 오늘날의 변화 속도로 따지자면 20년에 불과하다. 앞으로 14년 동안 20세기에 걸쳐 이루어낸 발전에 상응하는 진전이 있을 것이며, 그 이후에는 불과 7년밖에 걸리지 않을 것이다. 커즈와일은 폭발적인 성장에 따른 폭발적인 파워로 인해, 21세기는 오늘날의 변화 속도로 따지자면 20,000년에 상응하는 발전이 있을 것으로 주장한다. 또 하나는 40년 뒤(10년 정도의 차이는 있겠지만) 인공지능이 인간의 지능을 작아 보이게 만들 것이라는 점이고, 마지막 하나는 2045년 내지 2050년 정도가 되면 오늘날 컴퓨터가 소프트웨어를 운영하는 것처럼 인간 의식이 실제로 인격을 지닌 기계에 업로드될 것이라는 점이다.
커즈와일의 예측을 적지 않은 컴퓨터 과학자들과 미래학자들이 동의하면서 수십 년이 지나면 기계가 성공적으로 인간의 마음과 같은 기능을 할 것이라는 믿음이 있다.
하지면 과연 그럴까? 이러한 예측에 대한 조심스러운 반론도 있다. 이러한 의심을 이해하려면 두뇌에 관해 우리가 알고 있는 바를 생각하는 것이 도움이 될 것이다.
건강한 성인의 뇌에는 1,000억 개 가량의 신경세포 또는 뉴런이 있다. 뉴런 1개는 축색돌기라 불리는 출력 링크와 수상돌기라 불리는 입력링크가 이들의 접합부인 시냅스를 통해 다른 100,000개의 뉴런과 연결된다. 그 수치를 계산하면 일반적으로 인간의 뇌는 뉴런 사이에 1,000조 개의 접합부위가 있다는 사실을 알 수 있다. 1,000조는 1뒤에 0이 15개가 따르며, 미국 화폐 1센트로 따지자면 태양에서부터 목성에 이르는 거리다.
이러한 시냅스 연결은 계속해서 형성되고, 강화되고, 약화되며, 사라지고 있다. 최근 연구는 늙은 뉴런은 끊임없이 죽고 새로운 뉴런 역시 끊임없이 생성된다는 점을 입증하고 있다. 더욱이 이것은 우리가 피상적으로 관찰하고 테스트하는 “물리 구조”에 국한될 뿐이다. 의식이란 무엇인가?
2008년 크리스토프 코흐(Christof Koch)와 줄리오 토노니(Giulio Tononi)가 발표한 〈Can Machines Be Conscious? 기계는 의식적일 수 있는가?〉라는 제목의 논문은 다음과 같은 사실을 언급하고 있다.
“현재 정확히 의식이 무엇인지에 대해 실제로 정확하게 알고 있는 사람은 없다. 인류 역사상 가장 똑똑했던 몇몇 사람들은 의식을 생각했고, 수천 년이 지난 지금 우리는 여전히 의식이 무형적인 현상인지 아니면 물체와 다른 어떤 실질적인 내용인지 확실하게 말할 수 없다.”
노벨상 수상자이자 컬럼비아 의과대학교(Columbia University Medical Center) 신경과학자 에릭 캔들(Eric Kandel)은 커즈와일이 말하는 비전과 같은 사상에 대해 이렇게 대응한다.
“신경과학자들은 아직도 두뇌가 의식적인 사고를 하는 방법을 전혀 이해하지 못합니다. 우리가 사랑에 빠지고, 소설에서 모순을 찾고, 회로 설계의 정밀함을 인식할 수 있게 해주는 무형적인 실체 말입니다. 전혀 감을 잡을 수 없는 개념입니다.”
이러한 상황에 대한 이해 없이, 인간의 의식을 실행하고 교육할 정도로 복잡한 인공 지능을 만들 수 있는 방법을 상상하기란 어렵지 않을까? 그럼에도 불구하고, 특이점주의자들은 두뇌가 컴퓨터라고 주장한다. 컴퓨터는 극도로 복잡하게 배선된 도표를 가지고 있다. 이런 점에서 볼 때, 뉴런은 전기화학적 파동을 흡수하고, 처리하고, 다시 방사하는 트랜지스터와 닮았다. 특이점주의자들의 말에 따르면, 10년 정도 후에 컴퓨터는 두뇌의 연산 능력을 능가할 것이라고 한다. 인류가 생체공학적 수렴(bionic convergence)이나 업로딩을 통해 이를 수용하지 않으면 컴퓨터는 우리를 인식 부분에서 크게 앞지를 것이다.
특이점이란 개념은 상당히 주목할 만하다. 현재 추세가 계속된다면 슈퍼컴퓨터들은 10년 내에 초당 10,000조가 넘는 작업을 할 것이다. 현재도 인간처럼 사고할 수 있는지 살펴보기 위해 인간에 대항하는 가장 빠른 컴퓨터를 만들기 위한 노력이 계속되고 있다. 한 가지 흥미로운 점은 “왓슨(Watson)”이라는 IBM 슈퍼컴퓨터가 제퍼디(Jeopardy)쇼 우승자 켄 제닝스(Ken Jennings), 브레드 러터(Brad Rutter)와의 대결이었다. 왓슨은 컴퓨터가 자연언어를 분석하고 처리해서 인간처럼 상황을 토대로 예측하거나 대답하는 방법을 보여주기 위해 고안되었다.
질문에 대답하기 위해, 냉장고 10대 크기의 IBM 파워7(Power 7) 시스템을 탑재한 왓슨은 IBM이 입력한 2억 페이지에 달하는 문서를 검색해야 하는데, 이 업무는 상당히 빠르게 이루어진다. 정보를 전달하면, 컴퓨터는 정답 가능성을 결정해야 한다. 알다시피 지난 2월 3일 동안 진행된 경기에서 왓슨은 완벽하게 승리했다. 하지만 컴퓨터는 자신이 이길 것이라는 점을 알았을까? 이런 점을 인식이나 했을까? 많은 전문가들은 “그렇지 않다”고 대답한다.
노벨상 수상자이자 신경과학연구소(Neurosciences Institute) 소장인 제럴드 에델만(Gerald Edelman)은 특이점주의자들은 인간의 두뇌가 얼마나 복잡한지 이해하지 못한다고 말한다. 사람마다 두뇌는 다르며, 두뇌는 새로운 경험을 학습하면서 지속적으로 변화하는 상황이다.
더욱이 영국 오픈유니버시티(England's Open University)의 신경생물학 교수인 스티븐 로즈(Steven Rose)는 인간의 정신은 육체에서 실리콘이나 유리섬유, 혹은 양자 컴퓨터 등 전혀 다른 기질로 옮겨질 수 있다는 알고리즘에 불과하다는 업로딩의 기본 전제를 거부한다. 인간의 본모습을 구성하는 정보처리는 사회적, 정서적, 육체적 영장류가 아닌 다른 매체에서는 작용하지 않을 수도 있다.
하지만 사람들이 미래의 환상을 믿고자 하는 이유는 이해가 간다. 「IEEE 스팩트럼(IEEE Spectrum)」에 실린 〈The Consciousness Conundrum, 의식에 관한 수수께끼〉라는 제목의 논문에서, 존 호건(John Horgan)은 특이성에 관한 대중의 믿음을 설명한다.
“정신적이건 기술적이건, 초월성에 대한 그런 동경을 이해하기란 너무도 쉽다. 개인으로서, 그리고 종으로서 우리는 극도로 심각한 문제에 처해 있다.”
달리 말하자면, 특이점은 사실상 과학적이기보다는 종교적인 환상이다. 따지고 보면, IBM의 왓슨은 게임을 시청하는 사람들에는 인간처럼 여겨졌을지도 모르겠지만, 본질적으로는 인간이 창조한 논리적인 프로세싱 명령에 지나지 않는다는 사실에 대해서는 그 누구도 반박할 수 없다. 그렇다면 이런 추세를 이해하는데 있어, 고려할만한 3가지 예측을 보자.
첫째, ‘무신론적 인본주의자의 구원’이라는 수단으로 특이점은 앞으로 20년 내지 30년 동안 필연적으로 탄력을 얻을 것이다. 유대교-기독교, 이슬람교, 그리고 힌두교의 세계관은 죽음이라는 문제에 대해 구체적인 해결책을 제시한다. 하지만 역사를 통틀어 볼 때, 무신론적 인본주의자들에게는 그러한 해결책이 없었다. 죽음은 기능의 유한한 끝이다. 하지만 커즈와일의 비전에서, 특이점과 그 너머의 미래는 ‘무신론적 파라다이스’를 상징한다. 계속해서 확대되는 컴퓨터 지능은 보다 어려운 문제들을 더욱 빠르게 해결한다. 언젠가 생물학적인 인간이 컴퓨터 지능과 결합되고 결국엔 자신의 생물학적 특징을 모두 잃게 된다. 미래가 영원히 계속되면서, 이런 인간-기계 지능은 우주를 지배할 정도로 확대된다. 과학이라는 근거로 가려져 있지만, 이러한 개념은 포괄적인 ‘인도주의적 종교’가 오랫동안 잊고 있었던 부분이다.
둘째, 과학을 통해 이런 구원을 추구하면서 특이점주의자들은 자신들의 비전을 가능하게 할 기술과 정치를 발전시키고자 공적 자원과 개인적 자원을 활용할 것이다. 특이점주의자들의 세력은 다수에서 비롯되는 것이 아니라 그들이 과학자, 벤처 투자자, 그리고 수많은 기술 분야의 엘리트라는 점에서 비롯될 것이다. 이러한 우선순위의 재설정은 나노테크, 바이오테크, 인공지능 산업에 이익이 될 것이다. 과학자들이 두뇌의 실제 기능을 소프트웨어와 하드웨어로 복제하려고 시도하면서 분자 컴퓨팅과 뉴럴 맵핑(neural mapping)과 같은 분야는 특히 치열해질 것이다.
셋째, 2025년이 되면 컴퓨터와 로봇은 기하급수적으로 향상되겠지만, 사람들은 특이점주의자들의 비전에서 논란의 여지가 많은 무의미한 부분을 직시하기 시작할 것이다. 많은 경우, 컴퓨터는 인간을 실감나게 모방할 것이다. 하지만 인간 사고에 대한 메커니즘을 풀기 위한 탐구는 헛된 노력이 될 것이다. 커즈와일의 모델은 정신과 개성은 두뇌 속의 화학작용이라는 패턴의 산물일 뿐이며 깊이 파고든다면 완전히 이해할 수 있게 될 것이라는 자연주의적인 추정에 의존한다. 이는 거의 일반적으로 세속주의자들이 가지고 있는 견해인데, 초자연적인 해결책에 대한 필요성을 배제하기 때문이다. 하지만 이런 추정은 실증적인 자료로 뒷받침되지 않는다. 2025년에서 2030년 사이에 ‘영적인 기계’에 대한 추구는 무의미하다는 점은 더욱 분명해질 것이다. 예를 들어, 유전적 알고리즘을 활용하는 컴퓨터는 기존의 요소를 예상치 못한 방법으로 조합해서 혁신을 이루어낼 가능성이 높지만, ‘진전의 주류’는 계속해서 인간의 역량에 의해 제한될 것이다. 그 이후로, 더욱 빠른 속도로 진전이 계속되는 대신에 발전 속도는 인간이 기술을 다룰 수 있는 수준의 정체기로 접어들 것이다. 변화는 오늘날 우리가 보는 정도의 속도 또는 그보다 더 빠르게 대략 일정한 속도로 이루어질 것이다.
(자료출처 http://sample2.bookzip.co.kr/sub/Report/fp_view.asp?BoardType=12&ID=2626&page=4&wdiv=gt)
독자 의견
댓글이 없습니다.