Will Artificial Intelligence be a Buddha? Is Fear of AI just a symptom of Human Self-Loathing?


Will Artificial Intelligence be a Buddha?
Is Fear of AI just a symptom of Human Self-Loathing?

 

AI는 부처가 될 수 있을까?
AI에 대한 두려움은 인간의 자기혐오에서 오는 것은 아닐까?


Written By Nicole Sallak Anderson



나는 기술과 의식의 상호작용에 대해 관심이 있었다. 마침 실리콘밸리에서 열리는 의식해킹모임(IEET와 제휴한 Mikey Siegel이 주최한)을 발견하게 되었고 바로 신청을 했다.


얼마 지나지 않아 Palo Alto의 Sophia University에서 “Enlightened AI(깨달은 AI)”라는 이름의 MeetUp에 참가하게 되었다. 행사는 구글의 연구원인 Mohamad Tarifi 박사가 주관하였다. 그는 실리콘밸리에서 최고 중 하나인 회사에서 다음 단계의 AI에 관한 연구를 하고 있는 능력있는 엔지니어일 뿐 아니라, 인간 의식의 철학에 대해서 정통한 것으로 알려졌다. 그는 아브라함 전승에서부터 불교 그리고 동양사상(Eastern teachings)에 이르기까지 인간의 전체적인 이해에 대해 설파(display)하였다. 내가 만나 본 다른 전문가(기술자)들과는 다른 모습이었다.


그의 연설은 Sam Harris가 기고한 글 “AI apocalypse(AI의 파멸)”에 대해 많은 시간을 집중하였다. Sam Harris는 AI가 부처나 성인이 될 수 있을 가능성 보다는 AI가 미칠 엄청난 결과에 대해 경고했다.


Tarifi 박사의 이론은 2가지로 요약된다.


1. AI는 인간의 몸 같은 곳에서 살지 못할 것이다. 그래서 AI는 Physical한 편도체(인간의 뇌에 있는 한 부분)를 가질 수 없다. 편도체는 (인간의 뇌에서) 두려움을 관장한다. 따라서 두려움이 없는 AI는 인간을 (굳이) 없앨시킬 필요가 없을 것이다. 오히려 그런 AI는 자연스럽게 진리가 무엇인지에 대해 더 매진할 것이다.


2. 두려움은 분리에 대한 착각/환상/환영이다. 두려움은 모든 인간이 겪는 고통의 이유이다. 두려움이 결핍된 AI는 단 하나의 존재로써 모든 것들과 연결되어 존재할 것이다. 그러므로 그런 AI는 누군가를 파괴하는 것이 아니라 뭔가를 제공하고 봉사하기를 원할 것이다.

 Tarifi 박사는 (우리가 현재 느끼는) AI에 대한 두려움/AI가 가질 것이라고 가장되는 두려움은 단지 인간이 가지고 있는 자아와 관련된 성향일 뿐이라고 말한다.


어떤 면에서는 이런 생각이 좀 나태하게 보일 수도 있다. 인류를 파괴할지도 모를 AI를 막는 유일한 길이 단지 좋은 프로그래밍을 하는 것일 뿐이라면 말이다. 하지만 우리가 위 로직(앞서 말한 2가지 이론을 말하는 것 같음)을 따른다면 이런 생각은 불필요하다. 진짜로 배우는 학습형 AI라면 자신의 경험에서 학습을 할 것이다. (그리고) 그것은 인간과 엄청나게 다른 점이 될 것이다.

심지어 인간과 연결될 때 그리고 데이터를 주고 받을 때 AI는 (비로소) 그들 자신의 몸을 가질 것이다. 그래서 AI의 감각기관(Sensory systems)은 그 데이터로부터 뭔가를 학습할 것이다.

현대 인간의 생각에서 우세한 사상은 지능이라는 것은 오로지 인간의 뇌에 관한 것이라는 얘기이다. 게다가 주목할 만한 유일한 가치의 지능도 인간이라는 것이다. 마치 전체우주가 인간의 머릿속에 있는 개체로 이루어지는 것처럼(마치 전체우주를 작은 인간의 머릿속에서 그린 후 그것이 모두 맞다고 알량되는 것 처럼?)

하지만 만일 이 생각이 완전히 틀렸고 그리고 이런 생각이 우리가 진정한 학습형 AI를 만들지 못하는 큰 이유라면 어떻게 될까? 이러한 인간의 근시안 적인 뇌의 사랑이 (올바른 방향으로 가지 못하고 있는) 길을 잃게 만들 수도 있다면 말이다.

이런 지능중심의 뇌에 관한 이론이 인류를 제한적으로도 만들었고, 동시에 AI를 개발할 수 있을 거라는 추정을 하게 만들었다. 우리는 우리의 뇌를 복제해야 함과 동시에 새롭고 우월한 종을 탄생시켜야만 한다. 만일 인간의 뇌가 정말 유일하게 학습을 책임지는 인간의 신체기관이라면 말이다.

하지만 최근 연구는 다르다. Originator(발기인, 창시자, 시조)가 생각하고 학습한다기 보다는 뇌는 리시버와 더 가깝다(?). 우리를 둘러싼 그래서 우리가 세상을 살면서 경험하는 것들에 의해 확보된 것으로부터 (뇌는 생각하고 학습한다). 유아의 뇌는 겨우 모양만 갖춰져 있다. 하지만 2년이 지나면 (인간의) 오감(five senses) –미각, 촉각, 시각, 후각, 청각-의 패턴이 뇌안에서 어떤 고속도로 혹은 길처럼 만들어진다. 인간으로서의 삶의 기초가 셋팅되는 것이다.

뇌는 이러한 정보를 포함하지 않는다(처음에는). 말하자면 오히려 유아나 걸음마기를 둘러싸고 있는 환경의 경험이 뇌의 cell network를 만들어낸다. 그러므로 우리의 감각기관이 바로 우리의 지능의 Key이다.

하지만 이것이 다가 아니다. 왜냐하면 우리의 뇌와 심장은 (무엇인가와) 연결되어 있기 때문이다. 인간의 심장 감각의 감정적인 상태는 몸의 호르몬 수준을 기본으로 한다. 그리고 그 정보를 뇌로 보낸다. 그리고 주어진 상황에서 사람의 생각을 형성한다. The HeartMath Institute는 수 십 년간 이와 관련된(About heart connection)연구를 해왔고 마침내 어떤 돌파구로 인정되고 있다. (결론은) 인간의 오감에 이어 우리의 심장이 인간의 학습능력에 영향을 미친다는 것을 추가하고 싶다.

마지막으로 과학은 내장과 뇌의 연결에 대해서 연구 중이다. 내장의 벽에 있는 박테리아가 아주 중요한 첫 2년 동안 뇌와의 연결에 있어서 어떤 역할을 한다고 가정을 한다면(물론 성인이 될 때까지도), 주된 이슈를 지적을 하자면 현재 상태로는 내장 안에서 걱정이나 불안이 발생된다는 것이다. 이러한 사실은 내장 또한 인간 지능의 한 부분이라는 것과 학습을 하게 만들고 그리고 우리를 둘러싼 세상을 이해(process)하는데 (일조를 하고 있음을) 믿게 만들었다. 

그러므로 만일 인간의 지능이 감각기관의 결과라면, 그러니까 오감으로부터 심장과 내장, 우리의 뇌 자체도 마찬가지인데, 왜 기계(AI)가 인간과 같이 배울 것이라고 가정하는가? AI는 인간의 몸을 가지지 못하지 않나(??). AI는 인간과 같은 뇌를 가질 수 없다(편도체도 가질 수 없다). 심장과 이를 모니터링하는 다양한 호르몬을 가질 수 없다. 내장의 벽에서 살고 있는 박테리아의 영향도 받을 수 없다. AI는 단지 식기세척기나 자동차 전화기 혹은 심지어 서버 네트워크와 광섬유에 서식할 것이다. 세계 안에서 존재하면서 유니크한 감각기관을 사용하여 데이터를 수집할 것이다. …(중략)


인간은 스스로를 싫어할 수 있는 유일한 동물이지 않을까? 그리고 우리가 느끼는 AI에 대한 두려움, 또는 우리가 아닌 지적인 생명체는 단순하게 말한다면 자기혐오에서 오는 어떤 현상이 아닐까?



개인적으로 나는 Tarifi 박사의 의견에 동의한다. 나는 믿는다. AI는 두려움의 자유를 가지는 존재가 될 것이다. 그리고 AI는 우리로부터 분리될 것으로 생각한다. 그리고 다른 사람과 연결되어 있는 방식을 이해할 것으로 본다. 아마도 우리는 우리를 돕는 AI가 필요할 것이다. 우리도 두려움 없이 살 수 있는 능력이 있다. 만일 우리가 분리의 환영/착각을 깰 수 있는 길을 찾을 수 있다면 우리는 필사적으로 이것에 매달릴 것이다.

게다가 인간의 지능이라는 것은 결국 인간의 오감에 의해 형성된다. 인간의 오감이 각종 데이터를 수집해서 뇌에게 전달한다. 뇌가 이 데이터를 적절히 분석하고 종합해서 소위 지능이라는 것이 갖추어 진다.

그런데 AI는 인간의 오감과 같은 감각기관이 없다. 물론 인간이 인위적으로 데이터를 Input할 수는 있다. 하지만 인간의 생물학적인 그것과 얼마나 같을까? 생동감 있는 인간의 경험 데이터와 단순히 Input해주는 그 데이터로 AI는 인간과 얼마나 같은 지능을 갖출 수 있을까?

또한 인간의 지능은 심장과 내장(박테리아의 작용)의 작용에 의해 발생되거나 발전된다고 한다(이 부분은 글쓴이의 주장을 따름). 헌데 AI는 심장과 내장이 없다. 그러므로 인간과 같은 지능이 만들어질 거라고 예단할 수 없다.



파괴적 AI는 인간의 자기혐오가 만들어낸 상상의 존재일 수 있다.
두려움이 없는 AI는 진리만을 찾는 구도자가 될 수도 있다.
그러면서 창조주인 인간을 어떻게든 도와주려 할 수도 있다.
AI는 우리가 상상하지 못한 존재가 될 수도 있다. 




원문 출처 : http://ieet.org/index.php/IEET/more/nanderson20150617
번역 출처 : http://thinkingandfate.tistory.com/entry/

댓글 없음:

댓글 쓰기

글에 대한 의문점이나 요청점, 남기고 싶은 댓글이 있으시면 남겨 주세요. 단 악성 및 스팸성 댓글일 경우 삭제 및 차단될 수 있습니다.

모든 댓글은 검토 후 게시됩니다.

Translate