왜 우리에게 인공지능이 문제가 되는가?


김경래

(GTU 조직신학 박사과정)


 

   구글 딥마인드(Google DeepMind)의 인공지능 알파고(AlphaGo)가 이세돌 9단을 이기면서 인공지능에 대한 사회적 관심은 유래없이 더 커졌다. 각종 언론사는 미래에 인공지능에 대체될 직업과 살아남을 직업의 목록을 만들어 앞다투어 보도했고, 미래창조과학부는 '한국형 알파고'를 위해 민간연구소를 설립하여 지원하겠다는 '지능정보산업 발전 전략'을 발표했다. 이 사건은 또한 인공지능 개발자들이 오래전 휴버트 드레이퍼스(Hubert Dreyfus)가 "What still computer can't do"에서 그 한계를 지적했던 전문가 시스템(Expert System)이 아닌 머신러닝(Machine Learning)으로 전환하여 드디어 바둑까지 정복한 사건이기도 하다. 필자 또한 이 이벤트에 관심을 가지고 미국에서 시차에도 불구하고 밤을 새워 가며 상황을 지켜 보았는데, 각종 인터넷 커뮤니티 사이트에서의 반응도 매우 흥미로웠다.

   날마다 여러가지 소재로 다투던 곳에서 조차 모든 사람이 하나의 연대를 이루어 이세돌 9단이 이기기를 응원했고, 질 때마다 아쉬움이 가득한 글들이 올라왔다. 이와 함께 인공지능 발전의 수준에 놀라워하며, 인공지능과 로봇의 발달로 인해 인간이 노동으로부터 해방되는 유토피아에 대한 기대보다는, 앞으로 어떤 직업이 사라질까? 대부분의 직업이 사라지고 거의 모든 사람이 실업자가 되는, 또는 여러 SF영화에서 보여줬던 기계가 인간을 지배하는 디스토피아가 오진 않을까? 등을 걱정하는 분위기로 흘러갔는데, 이것은 현시점에서 매우 의미 있는 질문들이다. 그것은 지금이 스티븐 호킹(Stephen Hawking), 빌 게이츠(Bill Gates), 엘론 머스크(Elon Musk) 등 세계적인 과학과 기술의 전문가들이 인공지능의 위험성을 경고하는 것처럼, 인공지능의 발전이 인류에게 어떤 의미에서 불안요소로 작용할지 생각해보지 않고 그저 낙관하고 있을 수 만은 없는 상황이기 때문이다. 

   인공지능은 어떤 의미에서 위험할까? 인공지능의 위험성은 인공지능이 자아를 가지고 자유의지를 행할 수 있는가 없는가에 따라 크게 두가지로 경우로 분류할 수 있다. 왜냐면 자유의지를 가지지 않은 인공지능은 그 능력이 아무리 거대해도 결국 설계자의 의도에 따라 움직일 것이기 때문에, 그 능력이 어떠한 위험성을 내포한다고 하더라도 인간이 통제 가능한 영역안에 머무를 것이기 때문이다. 일반적으로 자의식을 가진 인공지능을 강인공지능(Strong AI)라고 부르고, 자아 없이 주어진 명령을 수행할 뿐인 인공지능을 약인공지능(Weak AI)라고 부른다.  

   알파고와 같이 딥러닝(Deep Learning)을 통해 학습하고 인간을 뛰어 넘는 모습을 보여주는 인공지능은 마치 자아와 창의성을 가진 존재처럼 느껴질 수도 있지만 알파고 역시 여전히 약인공지능이다. 하지만 약인공지능이 자유의지를 갖고 있지 않다고 해서 위험요소가 약하거나 통제가 쉬운 것만은 아니다. 약인공지능에 의한 자동 제어 시스템을 고려할 때, 자동차나 비행기 같은 교통 수단의 경우 인공지능의 잘못된 판단으로 사고가 날 수도 있다. 더욱이 인공지능에 의해 자동 제어되는 군사 무기가 잘못된 판단으로 공격을 할 경우, 그 영향력과 파괴력은 엄청나게 커질 수 있다. 그래서 인공지능을 위한 윤리규정은 그 인공지능이 약인공지능이어서 아직 자아가 없어 그 윤리적 목적을 이해할 수 있든 없든 필요하다.

   아이작 아시모프(Isaac Asimov)는 컴퓨터와 로봇 기술의 발달로 강력한 힘을 얻게 될 미래 로봇들에게 있어 윤리 문제가 중요하고 복잡함을 보여주기 위해서, 그의 작품들 속에서 로봇 3원칙을 제안하고 그 3법칙이 서로 모순되어 딜레마에 빠지게 되는 경우를 여러가지로 보여줬다. 그가 제안한 3원칙은 다음과 같다. 

    1. 로봇은 인간에 해를 가하거나, 혹은 행동을 하지 않음으로써 인간에게 해가 가도록 해서는 안 된다. 2. 로봇은 인간이 내리는 명령들에 복종해야만 하며, 단 이러한 명령들이 첫 번째 법칙에 위배될 때에는 예외로 한다. 3. 로봇은 자신의 존재를 보호해야만 하며, 단 그러한 보호가 첫 번째와 두 번째 법칙에 위배될 때에는 예외로 한다.

   이 3원칙은 약인공지능의 윤리 규정에도 가이드라인이 되겠지만, 강인공지능을 염두에 두고 설계한 것이 분명하다. 그리고 대부분의 인공지능을 소재로한 SF영화에서 인간에게 가장 큰 불안요소를 제공하는 것은 바로 인간을 훨씬 뛰어넘는 초지능을 가지고 자아가 있어 인간이 설정한 윤리 프로그램을 넘어 자유의지를 행사할 수 있는 강인공지능이다. 강인공지능의 실현 가능성 여부에 대해서는 아직도 논란이 많지만, 만약 그것이 실현 가능하다면, 강인공지능은 인류에게 어떤 의미에서 위협적일까?

   우선 가장 상상하기 쉬운 상황은 제임스 카메론(James Cameron)의 영화 터미네이터나 워쇼스키(Wachowski) 자매의 영화 매트릭스에서 볼 수 있는 것처럼, 그 이유가 무엇이든 간에 자유의지를 가진 강력한 초인공지능이 인류를 지배하거나 멸망시키려는 상황이다. 하지만 강인공지능이 문제가 되는 지점은 이런 상황만이 아니다. 그것은 철학과 신학의 인간론의 근간을 뒤흔들고 새로운 윤리적 문제를 발생시킨다.

   만약 유기체가 아닌 컴퓨터에 담긴 강인공지능이 인간두뇌 안에서의 의식작용을 완벽하게 모사함으로써 만들어질 수 있다면, 그래서 인간과 동일한 수준의 지능과 자아를 가진다면, 그것은 인간과 동등한 존재인가? 이 기술이 가능해질 때, 키시토 유키토(木城ゆきと)의 만화 총몽에서처럼 현존하던 인간 의식이 컴퓨터 안에 복제된다면 그것은 인간인가? 인간지능보다 훨씬 더 뛰어나고 자의식을 가지고 자유의지를 행사하는 초인공지능 등장한다면 그것은 인간 이상의 존재인가?

   그렇다면 다시 인간의식이란, 또는 영혼이란 무엇일까? 최근의 유행인 심신동일론이나 의식의 창발론 관점에서 강인공지능이 등장한다면 그것을 어떻게 해석해야 할까? 인공지능이 어쨌든 기본적으로 소프트웨어라고 할 때 결국 소프트웨어인 마음과 하드웨어인 몸의 이원론으로 회귀해야 하는 것은 아닐까? 아니면 어떤 소프트웨어든 현실적 존재를 위해선 어떤 형태이든지 미디어가 필요하므로, 이 것만으로는 육체에서 떨어진 영혼을 주장할 근거로는 부족한 것일까?

   이것은 앞서 말한 것보다 더 많은 윤리적인 문제도 만들어 낸다. 인간의식을 완벽히 모사한 강인공지능이 등장한다면, 이러한 수준의 인공지능을 전원 공급을 차단함으로써 소멸시킨다면, 그것이 전원 공급을 재개함으로써 부활할 수 있을지라도 기존 인격에 대한 살해인가? 또, 인공지능이 자유의지를 갖게 된다면, 그들도 죄를 지을 수 있는 것인가?

   이러한 질문은 신학안에서도 고전적인 교리들과 맞물려 큰 문제를 만들어 낸다. 인간의 영혼이란 무엇일까? 하나님의 형상대로 창조되었다는 것은 무엇을 의미할까? 자아를 가진 초인공지능의 등장 이후에도 인간이 하나님의 형상으로서 최종 피조물의 지위를 유지할 수 있는가? 만약 인간이 만물의 최종적 영장이 아니라면 예수님은 왜 인간의 모습으로 오셨는가? 인공지능도 신앙을 가질 수 있는가? 인간의 모습으로 오신 예수님의 죽음이 인공지능의 죄도 대속할 수 있는가? 그렇다면 인공지능도 구원 받을 수 있는가? 아니 인공지능에게 구원이 의미가 있을 수 있는가? 인간지능을 완전히 모사한 인공지능에게 구원이 필요 없다면, 또 인간의 인격을 그러한 방식의 인공지능으로 복제하여 영원히 유지할 수 있다면, 그러한 세계에서 인간에게는 어떠한 의미에서 구원이 필요한가?

   물론 자유의지를 가진 강인공지능의 출현이 영원히 가능하지 않다면, 위에서 인간의 안전을 위해 약인공지능을 제어하는 데 필요한 윤리적 문제를 제외한 나머지 질문들과 그에 대한 답을 추구하려는 노력들은 아무런 실천적 소득이 없는 단지 사변적인 유희에 지나지 않을 것이다. 그러나 반대로 현대 뇌과학, 신경생물학, 그리고 인지심리학의 많은 학자들이 주장하듯이 인간에게도 자유의지가 없다면, 즉 인간이 단지 물리적 인과율에 맞추어 신경세포가 반응하여 춤추는 꼭두각시에 불과하다면, 위에서 강인공지능에 대해 질문했던 많은 문제들이 다시 인간에게로 돌려질 것이다.

   그래서 오늘 우리에게 강인공지능의 가능성과 그것의 인류에 대한 영향력에 대해 질문하는 것은 신학안에서도 의미가 있다. 그리고 그 질문의 핵심은 앞으로의 글에서 이야기할 인류의 정신사만큼이나 오래된 주제, 자유의지 논쟁과 관련된다.


ⓒ 웹진 <제3시대>



저작자 표시
신고
Posted by 제3시대

댓글을 달아주세요:: 네티켓은 기본, 스팸은 사절


BLOG main image
by 제3시대

공지사항

카테고리

웹진 <제3시대> (835)
특집 (8)
시평 (96)
목회 마당 (61)
신학 정보 (139)
사진에세이 (41)
비평의 눈 (59)
페미&퀴어 (25)
시선의 힘 (139)
소식 (154)
영화 읽기 (34)
신앙과 과학 (14)
팟캐스트 제삼시대 (12)
연구소의 책 (15)
새책 소개 (38)
Total : 381,892
Today : 86 Yesterday : 101