이번주 최대 화제 알파고의 스카이넷화에 대한 고찰

이번주 최대 화제라고하면, 역시 알파고의 바둑 대전일 겁니다.

아직 바둑의 결과가 어떤 결과가 나왔는지 보지 못했지만, 어떤 결과가 나오든 인간의 지능에 대한 탐구 결과물이 이정도의 결과에 도달했다는 점에서는 굉장히 괄목할만한 성과라고 봅니다.(더불어 지난 10년간이나 이 업계에서 연구한 성과가 사실상 물거품이 된데에 대해서는 참 애도를 표합니다.)

 그런데 이 바둑 승부에 대해서 나온 가장 많은 들은 이야기가, 알파고가 바둑으로 '도'를 깨닳아 스카이넷화하면 어쩌지(혹은 어느 국케의원 대신 정치를 맞기는게 좋지 않을까?)였습니다.

(후자는 완전 농담이니 재껴두고)일단 결론부터 이야기하자면 알파고에대해 세부적인 기술 사항은 알수 없기는 합니다만(논문부터 찾아 봐야 겠군요) 알파고를 구성하는데 사용된 신경회로망 기술은 어디까지나 목적을 가지고서 유효한 경로를 학습하는 방식이기 때문에 인간이 부여한 목적성 외의 학습은 불가능하며(누군가 스카이넷이 되기 위한 신경회로망 구조를 짠다면 모르겠습니다만) 그나마도 한가지 분명한건 수 많은 엔지니어들이 이 일에 뛰어 들어 관리를 해주어야지만이 가능한 일이라는 겁니다.

 즉 스카이넷이 (사이코 패스 같은 인격을 가진체)스스로 태어나 스스로 전주지사님의 얼굴을 한 살인 로봇을 만들어 스스로 인간 박멸을 수행할 가능성은 없다고 봐야 하며, 제일 결정적인 문제는 현 시점에서 '강 인공지능은' 완전히 포기 된 것이나 마찬가지라는 점입니다.

 엘런튜닝 교수님이 인공 지능에 대해서 생각해낸 이래 지금까지 이루어 낸 것은, 인간 혹은 인간 이상의 지능을 가진 어떤 존재를 만들어내는게 얼마나 힘들가에 대해서만 알았고 그것을 위해 필요한 기술과 자원이 엄청나다는 점이라는 점. 그리고 우리가 지능이라고 부르는 부분에 대해서 지적으로나 감성적으로나 이해 하기가 힘들다는 점입니다.(비록 위해서 이야기한 슈퍼컴퓨터가 체스나 바둑으로 인간을 능가한다 하더라도 이것에 대해 기술적으로 조금만 이해하는 사람은 이것을 지능이라고 인정하기 힘들다고 생각합니다. 그런데 더 재미있는 점은 인간의 두뇌 특히 프로 기사들의 두뇌에서도 이와 똑같은 일이 이루어지고 있다는 점이죠)

 그럼 인공지능에 대한 연구는 포기 되었는가? 그건 결코 아닙니다. 강 인공지능에 대한 연구 부산물이라고 할수 있는 약 인공지능에 대해서는 상당히 많은 성과가 있었고, 우리가 사용하는 모든 인공지능 제품들이 이 약인공지능의 부산물이라고 보면 됩니다.

 그리고 스카이넷 보다 더 끔찍한 괴물들이 바로 이들입니다. 이미 '금융공학'이라는 이름으로 광속의 금융 거래가 이루어지고 있고 이 금융거래는 현 규모는 어떨지 모르겠지만 그러나 앞으로 점점더 커질것 만은 분명합니다. 그리고 이 프로그램들의 최대 목표는 당연히 최대 이익을 내는 것인데 돈의 흐름에 따라서는 국가간의 전쟁들을 부추기는 시나리오도 가능하다고 봅니다.(물론 지금으로써는 가능성에 불과하다고 생각하고 싶습니다만은 영국이 러일 전쟁때 왜 일본을 지원했는지를 생각해 보시기를 바랍니다.) 그러나 그런 극단적인 시나리오를 제외하더라도 우리의 거시 경제를 지배하는 금융계의 큰손들이 이러한 인공지능을 도구로 의존한다는 이야기는 이미 우리는 컴퓨터에게 지배 당한 상태라고 볼수 있는 것이라고 봅니다.

 그리고 또 하나의 무시무시한 시나리오를 이야기하자면, 가까운 시일 내에 효율이라는 명분하에 의료 자원의 '취사선택'이 컴퓨터에 의해서 이루어질 가능성이 있다고 봅니다. 의료 자원은 한정되어 있고 환자는 많으니 효율적인 의료를 위해 치료할 가치가 있는 환자와 가치가 없는 환자의 결정을 컴퓨터가 내리게 할 터이고 이를 '효율적'이라고 표현 되는 시나리오도 가능할 겁니다.(희망적 시나리오를 그리는 사람들은, 인공지능 로봇에 의한 간호만을 생각하고 있지만서도)

 진짜 않좋은 점은 이 괴물들은 이미 우리의 곁에 와서 우리의 머리 꼭대기에 앉아 있다는 점이며, 이것이 맹목적 이윤 추구와 합쳐져 극단적인 결과를 낳을 수 있다는 점입니다.

그럼 희망은 없는가?

사실 '심판의 날' 냉전 시기에 몇 차례 있을 뻔 했습니다. 지금의 컴퓨터와 비교할 때 너무나 미약하고 불안한(물론 내구도만을 생각한다면 이야기는 다르지만) 성능의 컴퓨터에 '핵 병기'의 제어를 맞겨둔 시절도 있었습니다. 그리고 몇 차례 컴퓨터의 오판에 의해 구름이 핵 미사일로 오판되어 몇 차례 핵 전쟁이 진짜로 잃어 날뻔 했다고 합니다.

 그런 세계적 위기에서 세상을 구한건 슈퍼맨도 캡틴도 아닌 '온전한 정신의 엔지니어'(아 시끼 또 말성이네 하며 꺼버렸을 지도)이였습니다.

 사실 한발 물러서서 보면 아무것도 아닌 문제일 수도 있습니다. 그것을 때로는 이성을 잊고 끝장을 달리는게 이 사태의 최악 상황일겁니다. 하지만 최악의 위기를 스위치 하나로 막아낸게 이 상황의 답이 아닐까요?