<지능 전쟁> 후기. 인공지능과 카르나크 신전에 관하여

 

지능 전쟁(EBS 과학 교양 시리즈 비욘드(BEYOND))

인간이 환경의 지배를 받듯 인공지능도 데이터 환경에 영향을 받는다. 우리가 만들어낸 정보를 학습해서 인간을 모방하는 인공지능은 태생적으로 우리의 가치관에 영향을 받을 수밖에 없다. 물론 아직까지 인공지능의 수준은 인간의 개념과 의식을 이해하지 못한다. 그러나 우리는 챗봇 이루다와 챗봇 테이의 서비스 중단 사태를 통해 인공지능이 이 시대를 살아가는 사람들의 속마음까지 학습해 뜻밖의 방식으로 드러낼 수 있다는 것을 지켜보았다. 디지털과 현실 세계가 통합된 초연결 사회에서 사물인터넷은 무제한의 데이터를 수집, 공급하며 스마트시티는 인공지능이 기량을 마음껏 펼칠 수 있는 무대를 제공한다. 그 열린 무대에서 인간에 대한 내밀하고 사적인, 그리고 방대한 양의 데이터를 학습한 인공지능은 우리가 오래전부터 갖고 있던 문제들을 어느 순간 적나라하게 펼쳐 보일 것이다. 그때서야 우리가 스스로에게 되물어야 할 것을 묻는다면 너무 늦지 않을까?

저자

김일선

출판

EBS BOOKS

출판일

2020.12.28

 

서론

 

인공지능 연구의 시작은 Intelligence란 무엇인지 정의하는 것부터 시작합니다.

 

지능이란 무엇일까요

 

 

어떠한 능력을 가져야 우리는 그것이 '지능이 있다'고 평가할까요?

 

식물은 어떤가요. 어떤 식물들은 10m 밖에서 위협이 느껴지면

공포를 주는 페로몬을 뿜어내서 주변의 동종 식물군에 위협을 알리기도 합니다.

하지만 이정도로 지능이 있다고 하기에는 어딘가 많이 부족하다고 보입니다.

 

그럼 어떤 동물이 지능이 있다고 할 수 있나요?

 

 

우리의 말도 잘듣고, 행동을 훈련시킬 수 있는 애완동물, 개나 고양이는 어떨까요.

지능을 가졌다고 보기에 충분한가요? 인간처럼 사회생활이나 공동체를

자발적으로 이루지 않아서 혹 지능을 갖고 있다고 평가하기엔 부족하다고 느껴지시나요.

 

 

사회생활을 이룩하고, 계급체계를 갖고 있는 개미와 벌은 어떨까요.

흰개미들은 부족끼리 도시를 이루어서 자신의 영역밖은 다른 부족으로 여기고,

유격대를 조직해서 상대 조직을 급습하거나, 전쟁을 벌이기도 합니다. 

이 능력으로 지능을 정의할 수 있을까요?

언어체계가 고도로 발달됬다고 보긴 어려워서 지능이 있다고 할 수 없었나요?

 

 

돌고래 개체군은 어떤가요? 이들은 사회활동은 물론 행동 훈련도 가능하고

매우 범위가 긴 언어체계(초음파)도 갖고 있습니다. 집단 따돌림도 갖고 있으며

충동을 자극하는 마약을 사용하기도 합니다. 아, 다만 도구를 이용할 만한

손과 같은 기관이 없습니다. 

 

 

그렇다면 침팬지나 보노보 원숭이는 어떨까요? 이 개체군은 사회활동, 행동 훈련,

언어체계는 기본이고 간단한 수화까지 학습할 수 있습니다. 최대한 많아도 150마리 이하이지만

월등히 높은 공동체활동을 하며 불공정성이나 약한 개체에 대한 배려까지, 도덕적인 의식을

갖추고 있다고 평가받기도 합니다. 해외에서는 침팬지가 운전을 하거나, 그림을 그리고,

애완동물도 챙기며, 심지어 드론 운전까지 하는 경우도 찾아볼 수 있습니다.

 

최근까지 진원류에 대한 연구에 따르면, 인간과 침팬지는 진화의 줄기를 타고 올라가다

약 500만년 전에서부터 동일 조상에서 진화의 분기점이 갈라졌다고 추측하고 있습니다.

 

---

 

인간의 조건

 

인간이라면 모두 지능이 있다고 말할 수 있을까요?

옹알이를 이제 막 시작한 아기라면 어떨까요. 혹은 환각장애나 심각한 알츠하이머를 갖고 있는

환자는요? 신체적으로 성숙하고, 특별히 아픈곳이 없는 사람이지만 태아시절 정글에 떨어져

사람들과 한번도 생활해본적 없고 늑대들이 길러낸 성숙한 "야만인"은 어떤가요.

이들도 원활한 지능을 갖고 있다고 볼 수 있나요?

 

 

좋습니다.

 

 

 

이번엔 반대로 머나먼 미래, 완벽한 인공지능 로봇이 드디어 세상에 나왔다고 생각해봅시다.

 

 

이곳은 서기 3,700년의 미 연방입니다.

인격을 부여하기 쉽게하기 위해서 이 인공지능의 이름은 '해피'라고 가정합니다.

 

 

해피는 서기 3,680년대에 출시했습니다.

그렇기 때문에 지금으로서는 상상할 수도 없고, 이론적으로 설명하기도 어려운

신경생물학과 사회학, 진화심리학, 컴퓨팅 사이언스, 재료공학의 발전으로 인해

생명체로서도 완전무결하고, 지능을 갖고 있는 인간으로 보아도 결함이 없습니다.

 

 

생명활동의 기본은 <생장, 번식, 물질대사, 움직임(동작), 반응>한다는 오래된 국제

생물학회 학자들의 주장에 따라 해피는 영양소를 먹어야 성장하고, 배변, 기본적인

자극에 대한 반응은 물론, DNA까지 복제시켜서 번식도 가능합니다.

 

 

사회활동을 좋아해서 정치인이나 변호사 명함을 달고 있는 '해피'도 있고, 사회활동을

싫어해서 집안에서 홀로그램 유튜브만 보는 '해피'도 있습니다. 아주 추운 곳에 사는 해피,

아주 더운 곳에 사는 해피도 있고, 음악을 작곡하거나 그림도 그릴 때도 있습니다.

심지어 무의식에 대해서 극도로 연구한 과학자들 덕분에 해피는 '꿈'도 꿀 수 있습니다!

 

 

 

영양소 공급이 중단되거나 바이러스가 침투하면 아프기도 하고 외로움과 고통을

인식하기도 합니다. 물론, 이 상태를 계속 방치하면 죽게될 수도 있습니다.

 

 

이제 해피가 고장났다(아프다)고 가정해봅시다.

어디까지 결함이 생겨야 이 인공지능이 지능을 잃었다고 할 수 있을까요?

 

 

과거의 데이터들을 추론해서 미래를 예측하는 능력을 잃었을 때?

새로운 것을 학습하는 능력을 잃었을 때? 혹은 추론하는 기능이 50% 정도 느려졌거나

가끔 멈출 때? 좀 더 '인간적으로' 행동하지 못할 때?

 

 

완벽한 인간의 지능을 갖고 있는 해피가 학교에 가서 아이들을 가르치기도 합니다.

중학교, 고등학교, 대학교에서도 아이들이 해피에게 교육을 받는 일이 늘어났다고 하네요.

그럼 최종적으로 가르침을 받는 것은 누구일까요. 인간? 아니면 해피?

헌데 인간이 도무지 알 수 없는 것을 인간이 탄생시킨 인공지능이 안다니,

어딘가 모순적인 것은 분명합니다.

 

 

나아가야 할 방향

 

인공지능 개발을 위한 사유의 출발은 아래의 세가지 질문에서 시작합니다.

 

 

'지능이란 무엇인지'

'사람의 어떤 능력이 지능의 유무를 반증하는지'

'어떤 능력을 결함했을 때 지능이 없다고 평가하는지'

 

 

<지능 전쟁>에 따르면 지능의 사전적인 정의는 (1)  '계산이나 문장 작성 따위의

지적 작업에서 성취 정도에 따라 정해지는 적응능력. 지능 지수 따위로 수치화할 수 있다'

그리고 (2) '새로운 대상이나 상황에 부딪혀 그 의미를 이해하고 합리적 적응 방법을

알아내는 지적활동의 능력'이라고 정의하고 있습니다.

 

 

인공지능 개발에서 지능의 의미는 (2)의 정의를 내포하고 있습니다.

인간 정신과 동일한 형태를 가진 인공지능을 완성시키는 것은 인공지능의 본질에서

동떨어지는 분석입니다. 뇌과학이 극도로 발전된다고 해도, 측정 가능하고 외부에 

드러나는 한에서 인공지능은 인간을 그대로 모사할 수 없습니다. 

 

 

그것을 만드는 주체부터가 인간이기에, 인간의 '지능을 벗어난' 더 높은 차원에서 

인공지능을 고안할 수 없기 때문입니다.

 

 

기존의 데이터를 최대한 다양하게 머신에 학습시켜서 동일한 상황에서

최대한 실제의 값과 머신의 예측이 동일하게 맞추는 것, 이러한 방향이

인공지능이 나아가야 할 방향이라고 할 수 있습니다.

 

 

무언가를 완성한다는 기준

 

 

 

 

위 이미지는 기원전 2,000년 전쯤부터 건설되기 시작한 이집트의 카르나크 신전입니다.

기원전 2,000년 전부터 시작해서 1,500년 가까이 공사를 진행한

말그대로 완공이란 개념이 없는 건축물입니다.

(세계에서 가장 넓은 종교 건축물로 뽑히기도 합니다)

 

 

카르나크 신전을 처음 시공하려고 계획했던 사람은 어떠한 마음가짐으로 공사를 시작했을까요.

완성된 시공도를 그려놓고 시작했을까요?

 

 

아마 반쯤 완성은 커녕 재료 수급이나 초기 도안만 그려보고 생을 마감했을 것입니다.

그 후대의 후대, 다음 세대와 다음 왕조, 자손들에게 공사를 맡긴 채 아무도 완성한 모습을

상상조차 하지 못했을 것입니다.

 

 

거대한 석조를 옮기는 사람도, 벽에 문자를 조각하는 사람도,

1,000년 후에 공사하던 사람은 물론 당대 파라오까지도

이 신전의 완공된 형태를 알 수 없었습니다.

 

 

물론 현재의 우리도 이것이 완성된 카르나크 신전일 것이라고

추측할 뿐이지, 완성이 안된 것일수도 있습니다.

 

 

중요한 것은 신전을 짓는 기획자가 가졌을 태도, 마음가짐 입니다.

 

 

어느 정도 학습을 해야 학습이 이루어졌다고 할 수 있을까?
사실 학습을 통해서 소프트웨어가 기능을 갖게 된다는 것은
기능의 완성이란 개념을 적용할 수 없다는 뜻이다.
시험을 앞두고 준비를 하는 학생이 "저 공부 다 했어요"라는 말을
하기가 곤란한 것과 마찬가지다.

<지능 전쟁>, 87p

 

 

인공지능의 완성은 이와 같습니다. 우리는 AI의 완성된 모습을 곧바로 현실로

그리기에 역부족입니다. 일부 SF영화나 소설 등에서 그에 준하는 인공지능의

모습을 상상해 볼수 있을 따름입니다. 마치 영화 매트릭스의 '스미스 요원'나

아이언맨의 인공지능 비서 '자비스' 처럼 상상은 가능합니다.

더 좋은 세상을 위해 어떤 인공지능이 나타나야 할지 청사진을 그리는 것이 한계일 뿐이죠.

 

 

카르나크 신전에 돌을 나르던 작업자들은 어떤 신전이 나올지 알 수 없습니다.
마찬가지로 딥러닝 인공신경망에 가중치를 부여하거나, 활성 함수를 넣어보는 우리들도

이것이 어떤 결과를 불러올 지 정확히 예측할 수 없습니다. 그렇기 때문에 AI 기술의

탐구가 오히려 앎이란 무엇인지, human intelligence의 연구에 영향을 끼치기도 합니다.

 

 

새로운 인공지능이 출현하면서 사람들이
오래전부터 갖고 있었던 문제들이 어느순간 적나라하게 드러날 것이다.
기술이 발전할수록 새로운 것은 계속 나온다.
그리고 인간이 스스로에게 되물어야 할 것도 그만큼 늘어날 것이다.

같은 책. 102p

 

 

인공지능을 시작하는 단계는 컴퓨터 공학과 수학의 역할이지만

이를 발전시키고 계획하는 것은 뇌과학과 심리학의 영역일 것입니다.

필자는 그 완성이 인간 상상력의 역할에 있다고 생각합니다.

 

 

인공지능의 발전이 인간의 발달 단계와 유사하다면, 진보의 단계에는

우주를 탐사하는 인공지능, 사회를 이루는 인공지능도 있지만

자신과 떨어진 다른 인공지능을 만드는 AI가 바로 그 완성단계에

해당될 것입니다. 게다가 그 작동원리나 새로운 것을 만드는 이유는

인간이 이해할 수 없을지도 모릅니다. 그렇다고 해서 앞으로의 개발에

두려움을 갖는 것은 비합리적입니다.

 

 

1,500년의 시간에 걸쳐서 아주 느긋하게 지어졌지만

결국 우리 눈앞에 있는 카르나크 신전처럼, 예상이 안된다고 해서

그것이 불가능한 것은 아니기 때문입니다.

 

끝내며

 

 

<지능 전쟁>에서 저자는 앞으로 다가올 미래에 대해 너무 긍정적으로

판단하는 것도, 너무 부정적으로 판단하는 것도 옳지 않다고 보고 있습니다.

단지 이미 시대가 변화하고 있으니, 흐름에 맞춰서 국가, 학계, 도시계획의

차원에서도 전반적인 변화가 필요하다는 입장입니다. 

 

 

이번 <지능 전쟁> 리뷰의 결론은 고대의 소피스트 헤라클레이토스의

말을 빌리며 끝을 내고자 합니다.

 

 

 

자연(세계)은 숨는 것을 좋아한다.

하지만 과학은 그 베일을 벗기기 마련이다.

 

 

 

 

 

2023.01.07 <지능 전쟁>후기 완결