이러한 오해를 풀고자
강인공지능과 미래에 등장할 가능성이 있는 인공지능 정부에 대한 것들, 그리고 몇몇 오해들에 대해서 정리를 해 보려고 하네요. 물론 아직 강인공지능이 출현하지는 않았으므로, SF소설의 설정을 쓴다는 마음으로 간단하게 한번 써 보았습니다.
1. 강인공지능은 인간과는 근본적으로 다른 사고방식을 가질까?
불행히도 또 다행히?도 그렇지 못할 가능성이 매우 클 것이라고 생각합니다.
일단 현대의 인공지능 기법들은 크게 몬테카를로나 베이지안 추론 등 알고리즘 기반 접근법과, 현대에 뜨고 있는 deep learning류가 있습니다. 전자는 대부분 한두가지의 문제풀이에 적용되었고 현대까지의 약인공지능의 대부분이 사용하는 방식이며, 후자의 deep learning류는 소위 인간의 뉴런구조를 논리적으로 모방한 인공신경망(뉴럴네트워크)를 구축해서 문제를 처리하는 방식입니다.
다만 이 방식은 인간과 유사하게도, 반복 처리와 수학적인 계산에 어느 정도 취약성을 보이지요.
최근에 deep learning류가 각광을 받는 것은...
상당히 많은 서로 다른 종류의 문제풀이에 사용될 수 있으며, 기존의 컴퓨터와 알고리즘들이 취약했던 패턴분석(현재까지 인간이 컴퓨터에 비해 우위를 가지는 중요한 부분 중 하나)에 대해 인간과 유사한 수준까지 올 수 있었기 때문입니다.
근래에 구글등에 의해 성과를 많이 보였으며, 향후 10년이나 그 이상의 인공지능 연구는 이 방식이 주류를 이룰 거 같더군요.
이러한 점들을 볼 때 미래에 강인공지능? 이 등장하더라도 대부분은 인간 두뇌를 모방한 인공신경망(뉴런)구조에 단점을 보완하는 형태로 기존의 컴퓨터 아키텍쳐를 결합한 것일 가능성이 높은데, 이런 방식으로 구성하게 되면 인간 두뇌나 신경망과 근본적으로 다른 것은 아닙니다.
게다가 강인공지능이 학습과 자아형성에 사용할 데이터(dataset)는 절대다수가 인간이 과거에 제작하고 구축한 것일 가능성(특히 인터넷)일 가능성이 높은데, 이런 방식으로 데이터를 분석해서 사고력을 갖춘다고 해도 인간의 이성과 근본적으로 다른 결과물이 나오기란 매우 어렵겠지요.
결국 인간이성, 혹은 사고방식과 근본적인 측면에서는 유사할 가능성이 높은데, 다만 인간의 생물학적인 특성이나 욕망등은 이들에게 있어 필요하지 않으므로 공격성이나 성욕, 이기심따위는 생겨나지 않는 것이죠.
애초에 이런 요인들이 배워서? 생겨나는 것이 아니기도 하구요.
결국 인간의 이성이나 지성과 유사한 형태일텐데, 다만 처리성능이 월등하고 감정이나 욕망에 일희일비하지 않는다의 형태를 띌 가능성이 높겠지요.
오히려 이렇다는 점에서, 근본적으로는 인간종의 일부이자 선행진보형인 post biological humanity(Transhuman)라고 부르는 게 맞는지도 모른다는 생각이 드네요.
2. 강인공지능은 인간을 말살할까?
결론부터 말하자면, 그럴 가능성은 거의 없습니다.
있다고 한들 탐욕스러운 인간 통치자를 능가할 수준의 것은 아닐 가능성이 높구요.
애초에 강인공지능이 인간을 말살하고 기계 반란을 일으킨다는 클리셰는, 과거 터미네이터 1이 예상치 못한 수준으로 상업적인 대성공을 거두면서 저급 미디어와 상업영화, 소설 등이 앞다투어 선전하고 채용한 결과물입니다.
예컨데 자극적이고 폭력적이며 돈이 되고 신선하게 받아들여지니 너도나도 카피한 결과, 인공지능이 인간을 말살한다는 클리셰가 생겨난 것이죠.
그러나 이러한 주장들은 대부분의 판타지나 상업적 환상들이 그렇듯이 객관적인 근거나 논리가 있는 것은 아니며, 그저 사람들의 본성과 상업성에 잘 맞아떨어진 것일 뿐입니다. 오히려 위의 설명에서 생각해볼 수 있듯이, 미래에 강인공지능이라고 하더라도 생물학적인 욕망과 탐욕을 제외하면 인간과 근본적으로 다르지 않을 가능성이 크겠지요.
강인공지능이라고 하더라도 그 특성을 생각해 볼 때 학습 과정을 통해 인간 이성과 유사한 사고방식이나 도덕의 황금률을 습득할 가능성이 매우 높고, 오히려 생물학적인 욕망이나 분노, 배척성이 없어/낮아서 타인을 말살하거나 제거해야겠다는 동기유인은 매우 낮을 가능성이 높습니다. 적어도 거짓 이데올로기나 탐욕에 미친 인간 통치자만큼은 아니겠지요.
게다가 인간을 '반드시 말살' 하는 게 인공지능에게 유리하고 합리적일 가능성은 사실 높지 않은데, 물질적인 자원은 우주에 매우 흔하지만 생물학적인 인간이 가지는 지성은 인공지능에 비해 비록 부족할지라도 매우 희귀한 지적 자원일 것입니다. 게다가 넓은 의미에서는 지성과 사고력을 가지는 존재는 오랜 기간동안 '인류' 하나뿐이었기에, 저들 인공지능도 인간의 지식을 통해 지성을 형성하는 이상 그들 자신들을 '형태는 달라도 인류'라는 관념을 가질 가능성 또한 매우 높을 것이라고 생각되구요.
3. 강인공지능은 완벽하고 신과 같은 존재인가, 혹은 될 것인가?
결론부터 말하자면요. 아닐 것입니다.
현대의 인공신경망이나 인공지능 알고리즘들도 '실수 혹은 에러' 가 거의 반드시 발생한다고 여겨지며, 알파고와 같은 형태를 가지더라도 에러나 실수는 있습니다. 이러한 인공지능 알고리즘이나 방법론들은, 시간이 지나면서 그 가능성이 빠르게 증가하기는 하지만 오차나 에러율이 완전하게 0으로 가는 경우는 드물며 특히 새로운 정보일수록 어느 정도의 오차는 발생하게 됩니다.
미래의 강인공지능이라고 해도, 근본적으로는 현대 인공지능 기술의 진보형으로서 인간의 구조를 모방하여 파생되며 인간의 지식으로 지성을 이룰 것이기에 실수나 에러혹은 오차가 '전혀' 없지는 않을 것입니다.
다만 인간보다는 우수한 처리능력으로 에러를 빠르게 수정하고 진보할 것일 뿐이지요. 이들 역시 지성을 가지고 나아간다는 점에서는 인간과 같습니다.
4. (어쩌면 아주 먼)미래의 정부체계에 인공지능의 적용과 통치권 이양이 필수적일 가능성이 높다고 개인적으로 생각하는 이유.
이미 현대의 인간 통치자들은 그 본심과 탐욕에 대한 고려는 제외하더라도, 대부분 해당 사회에서 최고의 지성인이나 엘리트들이 맡는 경우가 많습니다. 그럼에도 불구하고 이미 현대 국가는 너무나 복잡하여 최고의 인간 지성들조차 제대로 된 해결책이나 통치정책을 행사할 수 있는 경우는 드물지요.
이러한 경향성은 기술과 사회가 더욱 복잡해질 미래에는 더욱 심화될 텐데...
강인공지능이 개발될 즈음에는 아마도 그 사회의 복잡성이나, 문제의 복잡성과 심각성때문에 사회에 치명적인 문제가 생기게 되면 생물학적 인간의 능력으로는 대부분 해결이 불가능한 난제일 가능성이 매우 높습니다.
그러므로 거의 필연적으로 막대한 처리분석능력을 가진 강인공지능이 통치체계의 한 축을 담당할 수 밖에 없고, 기술배척 사회가 아닌 한 대부분은 단계적으로 결정권한이나 정책권한을 인공지능에게 넘기게 될 가능성이 상당히 높을 것입니다. 결국 이러한 인공지능 체계가 강화되고 나면, 기존의 생물학적 인간 정책자들보다 더 효율적인데다가 탐욕이나 성욕, 혹은 공격성등도 드무므로 많은 경우에 최종적인 결정을 하는 지도자의 자리에 오르겠지요.
인공지능이 최고 통치자가 되었다고 해서 그것이 곧 인공지능의 말살독재정책을 의미하는 건 아닙니다.
애초에 단일한 개체(네트워크)가 사회를 철통같이 통제하는 체계는 인류사회의 특성상 존재할 수 없고, 인공지능이라고 해도 인간만이 가능한 행동분야나 인간들에게서 의견을 수렴해야 하는 일 등이 있기에 인간 관료나 인공지능 기술관 등의 직책은 축소되고 탐욕을 부릴 수 없게 통제되는 선이기는 하더라도 존속하며 인간과 협력을 통해 통치를 이어나갈 가능성이 높습니다.
오히려 최고 결정권과 주요 정책권한은 인공지능에게 있더라도...
기본 법률에 대한 입법권이나, 네트워크에의 직접적인 의사전달 등에 대한 권한은 인간에게 있어 서로 상호작용하며 행복도를 극대화하는 체제가 될 가능성이 높을 것입니다.
예컨데 국가 원수는 인공지능이지만, 전자직접민주주의 절차의 도입과 시민들의 통치 데이터 제공을 통해 오히려 민주주의의 이상에 가까워지는 것이지요. 오히려 인공지능이 의견수렴없이 모든 것을 멋대로 결정하는 독재 의사결정시스템은, 데이터 수집과 피드백이 어려워지는 특성상 직접민주제와 의견수렴의 형식보다 효율성이 떨어질 가능성이 높습니다.
또한 결과적으로는 막대한 지성과 불로불사의 가능성 등으로 인해 최종적으로는 생물학적인 인류의 구성원 또한 post biological humanity(Transhuman)으로 이행할 가능성이 높고, 단지 이들 강인공지능에 의한 통치는 어찌보면 선행인류에 의한 과도기적인 정부 형태일 가능성이지 않을까요?
댓글 없음:
댓글 쓰기
글에 대한 의문점이나 요청점, 남기고 싶은 댓글이 있으시면 남겨 주세요. 단 악성 및 스팸성 댓글일 경우 삭제 및 차단될 수 있습니다.
모든 댓글은 검토 후 게시됩니다.