• 2 Stories

당신은 '인공지능'을 통제할 수 있다고 생각하는가?

인공지능에 대한 관심이 높습니다.

인류의 삶을 이롭게 하기 위해 인공지능을 꾸준히 개발해야한다는 목소리가 있는 가 하면, 인공지능을 개발하는 것은 '악마'를 소환시키는 것이나 다름이 없다는 목소리가 있습니다.

과연 무엇이 맞을까요?

인류와 인공지능은 나중에 어떠한 관계를 맺게 될까요?

제공=포커스뉴스

알파고 아버지의 편지

만약 알파고 개발자 데미드 하사비스가 한국 인공지능 개발자에게 직접 편지를 쓴다면, 어떤 조언을 해줄까요?

아래의 글은 필자가 가상으로 데미드 하사비스가 돼 작성한 가상 편지입니다.


한국의 인공지능(AI) 개발자에게

편지 잘 받았습니다. 먼저 알파고에 대해 큰 관심을 보여주셔서 감사합니다. 앞으로도 문의사항이 있으시면, 주저없이 이메일을 보내주시기 바랍니다.

"인공지능이 어떻게 인간을 이길 수가 있느냐. 그래봤자 인공지능도 인간이 만든 피조물이 아니냐. 어떻게 생각하느냐?"

당신이 제게 보낸 질문입니다. 맞습니다. 현재의 상태로는 분명 인공지능이 인류를 지배하거나 조종할 수 없을 것입니다. 당장 알파고가 바둑알을 집어서 제게 던질 수는 없듯이요. 하지만 앞으로의 일을 가정해봅시다. 30년 아니 50년 뒤의 알파고가 지금의 모습과 같을까요?

아래의 글은 당신의 질문에 대한 제 답변입니다. 질문에 대한 답이 될지도 당신이 인공지능을 개발하는 데 도움이 될지도 모르겠지만, 아무쪼록 충분한 답변이 됐으면 좋겠습니다.

언젠가 '초 인공지능'의 시대가 온다!

호모 파베르(Homo Faber)라는 말이 있듯, 인간이 나머지 생물종과 구별되는 특징이 바로 ‘도구’를 사용한다는 점입니다. 인류 문명의 역사는 곧 도구의 역사였습니다. 신체적 능력의 한계를 도구를 발명해 사용함으로써 극복했고, 이를 통해 삶과 생활여건을 개선했습니다. 석기시대에는 사람의 팔을 ‘확장’해 돌칼과 돌도끼를 만들었고, 산업시대에 사람의 발을 ‘연장’해 자동차를 만들어 사용했습니다. 따라서 이 같은 흐름으로 볼 때, 인간은 결국 사람의 지적능력을 확장하는 차원에서 엄청난 수준의 '초 인공지능'(Super AI)을 개발할 것입니다. 그것이 당장 내일이 될지 아니면 과학자들의 추측처럼 50년 뒤일지 알 수 없지만, 분명 그러한 순간은 올 것입니다.

인공지능이 과연 우리에게 충성할까?

자, 문제는 이러한 인공지능이 개발이 됐을 때입니다. 과연 그때도 우리가 자동차를 타듯, 인공지능을 하나의 도구로써 자유롭게 사용할 수가 있을까요? 이에 대한 답을 내기 위해서 먼저 인공지능의 작동원리를 살펴볼 필요가 있습니다. 인공지능의 주된 특징은 바로 ‘최적화’입니다. 알파고가 바둑게임에서 ‘승리’하기 위해 수많은 경우의 수를 계산해 최선의 수를 생각해냈던 것처럼, 인공지능은 ‘목표 달성’을 위해 가용한 자원을 바탕으로 가장 효율적인 방법을 도출합니다. 문제가 되는 부분이 바로 여기입니다. 인공지능이 효율적인 방법을 도출하는 과정에서 ‘인간’의 존재가 걸림돌이 된다면 인공지능은 어떤 결정을 내릴까요?

인간과 인공지능은 다르다

인간은 목표를 달성하는 과정에서 타인의 권리나 사회적 가치가 침해될 경우 조금 손해를 보더라도 다른 수를 강구합니다. 예를 들어 생산비용을 절감하기 위해 하천 옆에 공장을 세울 수 있겠지만, 환경오염이 유발되기에 조금 떨어진 곳에 공장을 다시 짓는 것처럼 말입니다. 하지만 인공지능은 다릅니다. 효율성과 생산성이 가장 중요하기에 임무를 수행하는 데 있어 사회적 가치나 기준, 그리고 질서 등이 걸림돌이 된다면 이를 어기는 데 거리낌이 없습니다. 창조주인 인간이 내리는 명령을 목표로 인공지능이 임무를 수행하지만, 그 과정에서 도리어 인간을 위협할 수도 있는 셈입니다. 인간이 인공지능을 개발했다고 해서, 인공지능이 인간을 해롭게 하지 않을 거라는 생각은 순진한 발상입니다.

'인간'에 대한 선행학습이 필요하다!

제가 ‘디스토피아’ 같은 이야기만 늘어놓았던 것 같습니다. 제 요점은 이것입니다. 목표 ‘A’를 최대한 효율적으로 수행하는 인공지능을 개발한다면, 그 인공지능이 명령을 수행하는 과정에서 우리가 지켜야 할 가치 등을 반드시 고려해야 한다는 것입니다. 이것이 가능하려면, 인공지능 개발의 초기 단계부터 생명, 환경, 인권, 질서 등 무형의 가치가 비효율적 변수가 아닌 고정상수로 고려되도록 논의해야 합니다. 이미 효율성을 최선으로 하는 인공지능을 만들고 우리의 가치들을 학습시켜봐야, 인공지능은 분명 이를 비효율적 요소로 인식할 가능성이 높기 때문입니다.

새로운 조직, 인공지능 윤리위원회!

구글이 제 회사 딥마인드를 인수 할 때, 제가 내걸었던 조건이 있습니다. 바로 ‘인공지능 윤리위원회’를 설치하는 것입니다. 과학과 기술로 만든 도구는 그 자체로 중립적이고 객관적이지만, 향후 그 기술을 어떻게 쓰는 지에 따라 인류의 삶은 좋을 수도 나쁠 수도 있기 때문입니다. 저는 당장 알파고와 같은 인공지능이 인류를 지배하거나 피해를 줄 것이라고 생각하지 않습니다. 현실적으로 분명히 한계가 있습니다. 하지만 과거 역사 흐름과 기술 개발의 속도를 미루어 볼 때, 인공지능이 우리의 삶을 파고들 때는 분명히 다가올 것입니다. 그 날을 미리 대비하기 위해서라도, 인공지능 개발자들이 ‘우리가 추구하는 가치’에 대한 고민이 더욱 필요하지 않을까요? 인공지능에게 웃겨달라 부탁했는데, 제 얼굴 근육에 전기선을 꽂고 전기 자극을 준다면 끔찍하지 않겠습니까?

긴 글 끝까지 읽어주셔서 감사합니다. 아무쪼록 한국에도 '지혜로운' 인공지능 개발자가 나타나길 바랍니다.

알파고 개발자 데미드 하사비스 드림

인공지능 전문가, 닉 보스트롬의 경고!

인공지능(AI)에게 ‘인간을 웃게 하는 방법’에 대해 물었습니다.
지능 수준이 떨어지는 인공지능이 이렇게 답했습니다.

"최신 유행하는 개그나 웃긴 동작을 보여 줘야 한다”


이번에는 수준이 높은 인공지능에게 물었습니다.
그는 더 효율적인 방법을 있다며 이렇게 답했습니다.

“인간의 얼굴 근육에 전선을 고정시켜 지속적으로 전기 자극을 줘야한다”


위의 사례는 저명한 인공지능(AI) 학자 닉 보스트롬이 <컴퓨터가 인간보다 똑똑해진다면>이라는 TED 강연에서 밝힌 내용입니다.

여러분들은 어떻게 생각하십니까?

아직도 인공지능이 인류의 삶에 이롭기만 하다고 생각하십니까?

닉 보스트롬은 TED 강연에서 인공지능의 미래를 전망하고, 우리가 인공지능을 어떻게 대해야 할 지에 대해서도 설명합니다.

한글 자막도 있으니 한 번 살펴보시죠.

알파고 아버지의 편지

만약 알파고 개발자 데미드 하사비스가 한국 인공지능 개발자에게 직접 편지를 쓴다면, 어떤 조언을 해줄까요?

아래의 글은 필자가 가상으로 데미드 하사비스가 돼 작성한 가상 편지입니다.


한국의 인공지능(AI) 개발자에게

편지 잘 받았습니다. 먼저 알파고에 대해 큰 관심을 보여주셔서 감사합니다. 앞으로도 문의사항이 있으시면, 주저없이 이메일을 보내주시기 바랍니다.

"인공지능이 어떻게 인간을 이길 수가 있느냐. 그래봤자 인공지능도 인간이 만든 피조물이 아니냐. 어떻게 생각하느냐?"

당신이 제게 보낸 질문입니다. 맞습니다. 현재의 상태로는 분명 인공지능이 인류를 지배하거나 조종할 수 없을 것입니다. 당장 알파고가 바둑알을 집어서 제게 던질 수는 없듯이요. 하지만 앞으로의 일을 가정해봅시다. 30년 아니 50년 뒤의 알파고가 지금의 모습과 같을까요?

아래의 글은 당신의 질문에 대한 제 답변입니다. 질문에 대한 답이 될지도 당신이 인공지능을 개발하는 데 도움이 될지도 모르겠지만, 아무쪼록 충분한 답변이 됐으면 좋겠습니다.

언젠가 '초 인공지능'의 시대가 온다!

호모 파베르(Homo Faber)라는 말이 있듯, 인간이 나머지 생물종과 구별되는 특징이 바로 ‘도구’를 사용한다는 점입니다. 인류 문명의 역사는 곧 도구의 역사였습니다. 신체적 능력의 한계를 도구를 발명해 사용함으로써 극복했고, 이를 통해 삶과 생활여건을 개선했습니다. 석기시대에는 사람의 팔을 ‘확장’해 돌칼과 돌도끼를 만들었고, 산업시대에 사람의 발을 ‘연장’해 자동차를 만들어 사용했습니다. 따라서 이 같은 흐름으로 볼 때, 인간은 결국 사람의 지적능력을 확장하는 차원에서 엄청난 수준의 '초 인공지능'(Super AI)을 개발할 것입니다. 그것이 당장 내일이 될지 아니면 과학자들의 추측처럼 50년 뒤일지 알 수 없지만, 분명 그러한 순간은 올 것입니다.

인공지능이 과연 우리에게 충성할까?

자, 문제는 이러한 인공지능이 개발이 됐을 때입니다. 과연 그때도 우리가 자동차를 타듯, 인공지능을 하나의 도구로써 자유롭게 사용할 수가 있을까요? 이에 대한 답을 내기 위해서 먼저 인공지능의 작동원리를 살펴볼 필요가 있습니다. 인공지능의 주된 특징은 바로 ‘최적화’입니다. 알파고가 바둑게임에서 ‘승리’하기 위해 수많은 경우의 수를 계산해 최선의 수를 생각해냈던 것처럼, 인공지능은 ‘목표 달성’을 위해 가용한 자원을 바탕으로 가장 효율적인 방법을 도출합니다. 문제가 되는 부분이 바로 여기입니다. 인공지능이 효율적인 방법을 도출하는 과정에서 ‘인간’의 존재가 걸림돌이 된다면 인공지능은 어떤 결정을 내릴까요?

인간과 인공지능은 다르다

인간은 목표를 달성하는 과정에서 타인의 권리나 사회적 가치가 침해될 경우 조금 손해를 보더라도 다른 수를 강구합니다. 예를 들어 생산비용을 절감하기 위해 하천 옆에 공장을 세울 수 있겠지만, 환경오염이 유발되기에 조금 떨어진 곳에 공장을 다시 짓는 것처럼 말입니다. 하지만 인공지능은 다릅니다. 효율성과 생산성이 가장 중요하기에 임무를 수행하는 데 있어 사회적 가치나 기준, 그리고 질서 등이 걸림돌이 된다면 이를 어기는 데 거리낌이 없습니다. 창조주인 인간이 내리는 명령을 목표로 인공지능이 임무를 수행하지만, 그 과정에서 도리어 인간을 위협할 수도 있는 셈입니다. 인간이 인공지능을 개발했다고 해서, 인공지능이 인간을 해롭게 하지 않을 거라는 생각은 순진한 발상입니다.

'인간'에 대한 선행학습이 필요하다!

제가 ‘디스토피아’ 같은 이야기만 늘어놓았던 것 같습니다. 제 요점은 이것입니다. 목표 ‘A’를 최대한 효율적으로 수행하는 인공지능을 개발한다면, 그 인공지능이 명령을 수행하는 과정에서 우리가 지켜야 할 가치 등을 반드시 고려해야 한다는 것입니다. 이것이 가능하려면, 인공지능 개발의 초기 단계부터 생명, 환경, 인권, 질서 등 무형의 가치가 비효율적 변수가 아닌 고정상수로 고려되도록 논의해야 합니다. 이미 효율성을 최선으로 하는 인공지능을 만들고 우리의 가치들을 학습시켜봐야, 인공지능은 분명 이를 비효율적 요소로 인식할 가능성이 높기 때문입니다.

새로운 조직, 인공지능 윤리위원회!

구글이 제 회사 딥마인드를 인수 할 때, 제가 내걸었던 조건이 있습니다. 바로 ‘인공지능 윤리위원회’를 설치하는 것입니다. 과학과 기술로 만든 도구는 그 자체로 중립적이고 객관적이지만, 향후 그 기술을 어떻게 쓰는 지에 따라 인류의 삶은 좋을 수도 나쁠 수도 있기 때문입니다. 저는 당장 알파고와 같은 인공지능이 인류를 지배하거나 피해를 줄 것이라고 생각하지 않습니다. 현실적으로 분명히 한계가 있습니다. 하지만 과거 역사 흐름과 기술 개발의 속도를 미루어 볼 때, 인공지능이 우리의 삶을 파고들 때는 분명히 다가올 것입니다. 그 날을 미리 대비하기 위해서라도, 인공지능 개발자들이 ‘우리가 추구하는 가치’에 대한 고민이 더욱 필요하지 않을까요? 인공지능에게 웃겨달라 부탁했는데, 제 얼굴 근육에 전기선을 꽂고 전기 자극을 준다면 끔찍하지 않겠습니까?

긴 글 끝까지 읽어주셔서 감사합니다. 아무쪼록 한국에도 '지혜로운' 인공지능 개발자가 나타나길 바랍니다.

알파고 개발자 데미드 하사비스 드림