강한 인공지능이 가능하다면 인류의 미래는 어떻게 될 것인가

뇌과학, 뇌인지과학을 공부하고 KAIST 전기, 전자과 교수로 재직 중인 김대식 교수의 인공지능, 딥러닝(Deep Learning) 관련 강연을 활자로 재구성한 책. 이른바 ‘알파고(AlphaGo) 쇼크’ 이후 범람하듯 출간된 인공지능 관련 서적 중 하나인데, 얇기도 얇고 읽기도 쉽다.


기계에게 쉬운 일, 인간에게 쉬운 일

과거 전통적인 인공지능 개발에서 겪었던 어려움은 바로 인간에게 쉬운 일(ex. 걸어 다니는 것, 물체 인식하는 것, 목소리를 알아 듣는 것 등)을 기계에게 구현시키기는 매우 힘들다는 점이었다(이른바, 모라벡의 역설Moravec's paradox).


먼저, 지능이 있다는 것은 ‘무언가를 인식할 수 있다는 것’이라고 정의된다. 그러므로 어떻게 기계에게 지능을 줄 것이냐는 물음은 어떻게 기계에게 사물을 인식시킬 것이냐는 물음으로 이해할 수 있다. 전통적인 방식으로 하자면 기계가 이해할 수 있는 논리적인 언어로 기계를 인간 수준으로 이해시킬 설명을 찾는 것인데, 그건 거의 불가능에 가깝다. 일단, 언어의 해상도가 인식의 해상도보다 훨씬 낮다(이른바, Many to one mapping 문제. 그래서 언어로 표현이 어려운 ‘직감’이라는 게 존재하는 것.). 그리고 그 경우의 수가 너무 많다.


(그렇다면, 이 무한에 가까운 변이를 설명으로 다 묶어내는 대신에 무한에 가까운 데이터Big data를 기계에게 학습시킨다면? 그게 가능한 시대가 도래했다.)


한편, 인간은 어떻게 기계가 어려워하는 일을 쉽게 해낼 수 있는가? 인간의 뇌는 생물체의 진화 과정에서 이 문제들을 풀었고, 그 답을 뇌 안에 신경회로망으로 갖고 있다. 결국, 그냥 답을 알고 있으므로 쉬운 것이다. 인간이 만든 논리 언어 기계(폰 노이만von Neumann 기계)인 컴퓨터가 연산을 쉽게 해결하는 것도 같은 이치이다. 이미 기계 언어를 통하여 논리적으로 정의된 문제에 대하여 답을 내어놓을 뿐이다.

컴퓨터와 인간의 뇌의 차이

컴퓨터가 인간의 뇌를 본떠 만들어졌다고는 하지만 몇 가지 차이점이 있다: 정보를 획득하는 방법과 정보를 저장하는 방법이 다르다.


컴퓨터는 정보를 가감 없이 입력하는 반면, 뇌는 오감을 통해 들어오는 정보를 해석을 거쳐서 받아들인다(ex. 착시현상 ― 착시가 재미있는 이유는 우리가 착시의 진실을 과학적으로 이해했음에도 여전히 눈에서 착시가 일어난다는 점이다. “아무리 알아도 세상이 똑같아 보인다.”).


또한, 컴퓨터와 달리 인간의 뇌는 정보의 저장을 일종의 무늬(패턴) 형태로 하게 된다.


여기에 더하여, 20세기 들어 이루어진 연구에 의하면 인간의 뇌는 계층적인 구조를 갖고 있다고 한다. 층마다 서로 다른 일을 하는 것처럼 보인다.

딥러닝(Deep Learning)의 등장

자, 드디어, 딥러닝(Deep Learning). 이 알고리즘은 인간의 물체 인지 과정을 개념적으로 모방한 시스템이다. 더 이상 인간이 기계에게 세상을 설명하지 않고, 세상에 관한 엄청나게 많은 데이터(Big data)를 집어넣어(Input) 이 데이터에 포함된 통계학적인 정보에 대해 점점 더 압축된 표현을 만들어가도록 하는 것이다(이 과정을 학습Learning이라고 한다).


이 획기적인 패러다임의 변화가 태동한 것은 1957년. 프랭크 로젠블라트(Frank Rosenblatt)가 발명한 퍼셉트론(Perceptron)부터. 이후, MIT의 마빈 리 민스키(Marvin Lee Minsky) 교수와 시모어 페퍼트(Seymour Papert) 교수에 의해 단층 퍼셉트론의 한계가 지적되고, 데이비드 룸멜하트(David Rumelhart)와 데이비드 클라렌스 맥클리랜드(David Clarence McClelland)가 다층 퍼셉트론(MLP, Multi-Layer Perceptron)을 효율적으로 학습시킬 수 있는 ‘오차 역전파법’(backpropagation)을 제시하였다고.


이 다층 퍼셉트론에도 치명적인 문제가 있었으니, 바로 오차 값이 깊은 층수들로 역전파되면 점점 왜곡되어버리는 ‘사라지는 경사도’(diminishing gradient) 문제. 또한, 깊은 신경망 층수들은 깊은 층수를 가질수록 더 추상적인 학습이 가능했지만 동시에 새로운 사실을 추론해내기 어려워한다는 약점도 갖고 있었음. 토론토대학의 제프리 힌튼(Geoffrey Hinton) 교수 연구팀은 깊은 층수의 MLP 역시 ‘사전 학습’(pre-training)을 통해 트레이닝 시킬 수 있음을 밝혀냈다. 인공신경망을 랜덤으로 ‘죽여주면’ 추론능력을 개선할 수 있다고.


(오차 역전파와 사라지는 경사도 문제 그리고 인공신경망을 랜덤으로 죽여준다는 게 대체 무슨 얘기일까…)


어쨌거나 이 정도까지가 개략적인 딥러닝 개발사(史)이고, 이제 본격적으로 딥러닝의 학습 과정에 대하여.

딥러닝의 학습 과정

딥러닝 학습은 크게 세 가지 방식: (1)슈퍼바이저 학습(supervised learning). 가장 많이 사용되는 방식이고 데이터와 함께 결과값까지 컴퓨터에게 알려주어 그 다음부터는 스스로 답을 찾아낼 수 있도록 시스템에 있는 파라미터(parameter)들을 최적화시키는 방법. 학습은 가장 잘 되지만 비현실적인 방법임.


(2)비슈퍼바이저 학습(unsupervised learning).


(3)보상 학습(reinforcement learning). 이 방법은 시스템이 답을 냈을 때 정답을 말해주는 것이 아니라 맞았는지(o) 틀렸는지(x)만 알려주는 것.


알파고(AlphaGo)를 개발한 딥마인드(DeepMind)는 2015년 ‘깊은 보상 학습’(DQN, deep Q-network)이라는 혁신적인 알고리즘을 발표.

딥러닝의 진화

“딥러닝이라는 모델을 뇌를 이해하려고 만든 것인데 딥러닝이 복잡해지니 딥러닝 자체를 이해 못하게 되었다.”


딥러닝을 기반으로 한 인공지능은 ‘인지자동화’에 가깝게 발전하고 있다. 자동화의 핵심은 대량생산. 앞으로는 상당 수의 지적 노동도 자동화 되어 대량생산이 가능해질 수도 있다. 가장 가능성이 높은 시나리오가 바로 자율주행기술이 적용된 무인자동차의 등장. 무인자동차 시대는 생각지도 못한 변화가 올 것(ex. 현재 자동차의 10%로 수요를 충족할 수 있고, 교통정체가 사라지고, 연료가 절감됨). 완성차 제조업은 쇠락하고 자동차부품업은 건재할 것이며, 컨텐츠 산업이 더욱 강해져서 결국 운송수단 요금의 무료화에 이르게 될 것이라는 전망도 가능.


일어나지 않을 일 같다고? 특이점은 온다. 추수감사절 하루 전 날, 지난 1년 동안 행복했던 칠면조는 다음 날 아침 맞이하게 될 변화를 알지 못한다. 만약 우리 인간이 그 칠면조의 처지라면? 생각해보라.

약한 인공지능과 강한 인공지능, 인류의 미래

‘약한 인공지능’이란 사람과 비슷한 수준으로 세상을 인식하고 글을 쓰고 정보를 조합하고 이해하는 정도의 인공지능을 의미하고, 이에 더하여 독립성, 자아, 정신, 자유의지가 있는 기계를 ‘강한 인공지능’이라고 한다.


강한 인공지능은 불가능할 것인가? 만약 강한 인공지능이 가능하다면 인류의 미래는 어떻게 될 것인가?


스티븐 호킹(Stephen Hawking) 박사와 엘론 머스크(Elon Musk)는 강한 인공지능이 생기면 인류가 멸망한다, 강한 인공지능은 핵폭탄보다 더 위험하다고 이야기 했고, 닉 보스트롬(Nick Bostrom) 교수는 『슈퍼 인텔리전스』(Superintelligence)라는 책에서 인공지능은 만들어 질 수 밖에 없고 그냥 인공지능이 아니라 초지능으로 나아갈 수밖에 없다고 썼다. 실제로 강한 인공지능이 생겼을 때 인류에게 주는 영향에 대한 모든 시뮬레이션은 인류멸망으로 끝이 났다고.


앤드류 무어(Andrew Moore) 교수는 이렇게 이야기 한 적도 있다고: “강한 인공지능이 등장하면 인류는 멸망한다. 그런데 그게 왜 나쁜가? 인류가 멸망하는 것이 왜 나쁜지 설명해봐라.”


그렇다면, 강한 인공지능의 등장을 막을 수 있을까? 여러 제안이 있지만 그다지 실효성이 없어 보이고 그나마 가장 나은 것은 강한 인공지능이 ‘지구에 인간이 있는 것이 좋다’라는 결론을 스스로 내리도록 하는 것이라고. 그렇다면 지금부터라도 인간은 미래 기계의 평가 수준에 맞도록 행동하여야 한다. 인류가 없으면 인공지능도 외로울 테니 살려달라고 재롱을 부리거나, 아니면 계몽을 완성하여 도덕적으로 성숙하거나.


이제 인간은 지금껏 스스로 해왔던 약속을 지켜야만 한다. 지금껏 인간이 인간의 약속을 어겨도 별 문제가 없었지만, 이제는 더 뛰어난 지능이 그 약속의 존재를 알게 되어 인간이 그 약속을 지키는지 아닌지를 판단할 것이므로.


김대식의 인간 vs 기계 - 6점
김대식 지음/동아시아


무엇이 좋은 습관이 알고 있더라도 이를 실행하는 일은 때때로 강한 저항감에 부딪힌다. 예를 들면, 식사 직후에 설거지 하기(설거지는 미루면 미룰수록 하기 싫어지고 힘들어진다), 알람을 끈 채 다시 잠들지 않고 새벽 5시에 곧장 일어나 달리기 등이다.


설거지를 하면 청결은 물론 기분이 개운해지고, 운동을 하면 틀림없이 활력이 느껴질 것을 잘 알면서도 우리는 왜 이렇게 실행을 주저하는 것일까? 그것은 우리가 인간이기 때문에 그렇다.


이럴 때, 사용할 수 있는 방법으로 '10분 법칙'이 있다. 


이 법칙의 내용은 매우 간단하다.


바로, 아무것도 묻지도 따지지도 않고 그저 10분만 해보는 것이다. 10분 동안 하고, 그다음에 판단하는 것이다.


실행하고 싶은지 아닌지 스스로에게 묻지 마라. 계획하지 마라. 대신 씩씩하게 걸어서 헬스클럽으로 가라. 그리고 운동 기구를 집어 들어라. 그냥 하라. 10분만 하면 된다. 가서, 바로 시작하라!


실행하는 데 10분 법칙을 적용하면, 시간을 절약하고 두통을 없앨 수 있을 뿐만 아니라 생각만 하고 아무것도 하지 않으려는 경향을 피하도록 함으로써 어떻게 우선순위를 정하고 어떻게 자원과 에너지를 배정해야 하는지 재빨리 의사결정을 할 수 있다. (219쪽)


이 '10분 법칙'의 장점은 아래와 같다:

  • 빠르게 완료할 수 있다: 중요하고 필수적인 것을 해야 하는가? 즉시 그 일을 하라. 바로 지금. 딱 10분만 하면 된다. ... 오늘 반드시 해야 하는 일이 있다면 나중보다는 지금이 낫다. 그러니 바로 시작하라. 그러면 어느새 끝나 있을 것이다. 10분 법칙을 가동시키면서 하루를 시작해보라. 
  • 자유롭게 집중할 수 있다.
  • 갈등 없이 인내력을 발휘할 수 있다.


허슬, 멈추지 않는 추진력의 비밀 - 6점
닐 파텔.패트릭 블라스코비츠.조나스 코플러 지음, 유정식 옮김/21세기북스


서가를 거닐다 '어머니'라는 글자가 박힌 책을 볼 때면 그냥 지나칠 수가 없다. '일본 국민작가'라는 이노우에 야스시가 쓴 ⟪내 어머니의 연대기⟫를 집어든 것도 그런 이유 때문이다. ⟨꽃나무 아래에서⟩, ⟨달빛⟩, ⟨설면⟩, 이 세 단 편은 몇 년의 간격을 두고 쓰여지고 발표되었다. 이들을 묶어 «내 어머니의 연대기»라는 책으로 펴낸 것이다.


그렇다고 이 단편들이 실제로 어머니의 삶의 연대기를 전부 다루고 있는 것은 아니다. 어머니의 삶에 대한 기록이 시작된 것은 순전히 아버지의 죽음 때문이었다고 할 수 있다. 아버지의 죽음은 저자에게 지금껏 가리워 있던 죽음이라는 존재를 마주하게 되는 직접적인 계기였다. 이 계기에 관하여 저자가 쓴 표현을 아래에 옮겨봤다. 읽어보면 알겠지만, 참 멋스럽다. 부모라는 존재 덕분에 자식은 죽음과 거리를 둘 수 있게 된다.


살아 계셨던 아버지가 죽음으로부터 나를 보호하는 역할을 해주고 있었음을 나중에야 알게 되었다. 아버지가 살아 계셨을 때 나는, 아버지도 아직 살아 계시는데 뭘, 하고 생각했다. 물론 의식하지 않았지만 그런 기분이 마음속에 잠재해 있었기에 자신의 죽음은 생각해본 적이 없었다. 그런데 아버지가 돌아가시고 나자, 갑자기 죽음과 나 사이를 가로막고 있던 막이 사라지고 시야가 트이면서 어쩔 수 없이 죽음이라는 해면(海面)의 일부를 바라볼 수밖에 없게 되었다. 다음은 나라는 기분이 들었다. 아버지가 돌아가시고 나서 처음으로 깨닫게 된 일이었다. 아버지가 살아 계시다는 것만으로 자식인 나는 아버지로부터 든든하게 보호받고 있었던 것이다. (19쪽)


내 어머니의 연대기 - 8점
이노우에 야스시 지음, 이선윤 옮김/학고재


무라카미 하루키가 쓴 ⟪직업으로서의 소설가⟫를 읽었다. (하루키가 쓴 픽션을 그다지 좋아하지 않는데, 그가 쓴 에세이는 매우 좋아한다.) 이 책의 주요 독자는 글을 써보고 싶은 사람들일테고, 나 역시 그 중 하나에 속하는데, 하루키가 그들을 위해서 아래와 같은 대목을 쓴 것 같다는 느낌을 받았다.


오리지낼리티는 그것이 실제로 살아 움직일 때는 좀체 형체를 알아보기 힘든 것입니다.


특정한 표현자를 '오리지널'이라고 하기 위해서는 기본적으로 다음과 같은 조건이 채워져야 합니다.


1. 다른 표현자와는 명백히 다른 독자적인 스타일(사운드든 문체든 형식form이든 색채든)을 갖고 있다. 잠깐 보면(들으면) 그 사람의 표현이라고 (대체적으로) 순식간에 이해할 수 있어야 한다.


2. 그 스타일을 스스로의 힘으로 버전 업 할 수 있어야 한다. 시간의 경과와 함께 그 스타일은 성장해간다. 언제까지나 제자리에 머물러 있을 수는 없다. 그런 자발적.내재적인 자기 혁신력을 갖고 있다.


3. 그 독자적인 스타일은 시간의 경과와 함께 일반화하고 사람들의 정신에 흡수되어 가치판단 기준의 일부로 편입되어야 한다. 혹은 다음 세대의 표현자의 풍부한 인용원이 되지 않으면 안 된다.


1.이야 어찌 되었든 2.와 3.에 관해서는 어느 정도의 '시간의 경과'가 중요한 요소입니다. 요컨대 한 사람의 표현자가 됐든 그 작품이 됐든 그것이 오리지널인가 아닌가는 '시간의 검증을 받지 않고서는 정확히 판단할 수 없다'는 얘기입니다.


그 스타일의 질을 논하기 이전에 어느 정도 몸집을 가진 실제 사례를 남기지 않고서는 '검증 대상에 오르지도 못하게' 됩니다. 


작가가 할 수 있는 일은 자신의 작품이 적어도 연대기적인 '실제 사례'로 남겨질 수 있도록 전력을 다하는 것밖에 없습니다. 즉 납득할 만한 작품을 하나라도 더 많이 쌓아 올려 의미 있는 몸집을 만들고 자기 나름의 '작품 계열'을 입체적으로 구축하는 것입니다.


폴란드 시인 즈비그니에프 헤르베르트는 말했습니다. '원천源泉에 가 닿기 위해서는 흐름을 거슬러 올라가야만 한다. 흐름을 타고 내려가는 것은 쓰레기뿐이다'라고. (로버트 해리스의 ⟪아포리즘⟫에서 인용).


나는 '소설을 쓴다'는 것에 처음부터 그다지 깊은 생각이 없었기 때문에 그런 무욕無慾이 오히려 다행이었다고 할까, 거꾸로 그게 쉽게 되어버렸는지도 모릅니다.


어찌 됐든 그게 내 출발점이었습니다. 나는 그 이른바 '숭숭 뚫린' 바람 잘 통하는 심플한 문체에서부터 시작해 시간을 들여 한 작품 한 작품마다 조금씩 내 나름의 살을 붙여나갔습니다. 구성을 좀 더 입체적 중층적으로 만들고 골격을 조금씩 키워 좀 더 범위가 넓고 복잡한 이야기를 채워 넣을 태세를 정비했습니다. 그에 따라 소설의 규모도 점차 커져갔습니다. 앞에서도 말했듯이 '언젠가는 이런 소설을 쓰고 싶다'라는 대략적인 이미지가 내 안에 있기는 했지만, 진행의 과정 자체는 의도적이라기보다 오히려 자연스러운 것이었습니다. 나중에 뒤돌아보고 '아, 결국 그런 흐름이었구나'라고 깨달은 것이지 처음부터 정확히 계획했던 것은 아닙니다.


만일 내가 쓰는 소설에 오리지낼리티라는 게 있다면 그건 '자유로움'에서 생겨난 것이라고 생각합니다. 나는 스물아홉 살이 되었을 때 '소설을 쓰고 싶다'고 지극히 단순하게, 별다른 이유도 없이 불현듯 생각이 나서 처음으로 소설을 썼습니다. 그래서 별 욕심도 없었고 '소설은 이렇게 써야 한다'라는 제약 같은 것도 없었습니다.


이건 어디까지나 내 개인적인 의견이지만, 만일 당신이 뭔가 자유롭게 표현하기를 원한다면 '나는 무엇을 추구하는가'라는 것보다 오히려 '뭔가를 추구하지 않는 나 자신은 원래 어떤 것인가'를, 그런 본모습을, 머릿속에 그려보는 게 좋을지도 모릅니다. '나는 무엇을 추구하는가'라는 문제를 정면에서 곧이곧대로 파고들면 얘기는 불가피하게 무거워집니다. 그리고 많은 경우, 이야기가 무거우면 무거울수록 자유로움을 멀어져가고 풋워크는 둔해집니다. 풋워크가 둔해지면 문장은 힘을 잃어버립니다. 힘이 없는 문장은 사람을 -- 혹은 자기 자신까지도 -- 끌어들일 수 없습니다.


생각해보면, 굳이 자기표현 같은 것을 하지 않아도 사람은 보통으로, 당연하게 살아갈 수 있습니다. 하지만 그럼에도 불구하고 당신은 뭔가 표현하기를 원한다. 그런 '그럼에도 불구하고'라는 자연스러운 문맥 속에서 우리는 의외로 자신의 본모습을 마주하게 될지도 모릅니다.


내 경우에는 소설을 쓰고 싶지 않을 때, 혹은 쓰고 싶은 마음이 퐁퐁 샘솟지 않을 때는 전혀 글을 쓰지 않기 때문입니다.


— 무라카미 하루키, ⟪직업으로서의 소설가⟫, 97~111쪽에서 부분 발췌.


직업으로서의 소설가 - 8점
무라카미 하루키 지음, 양윤옥 옮김/현대문학


+ Recent posts

티스토리 툴바