[사이언스타임즈] 2035년의 휴머노이드 사회

로봇법칙의 모순을 그리다 2035년의 휴머노이드 사회 (2) 2009년 03월 26일(목)

과학미디어로 읽는 미래 2035년 시카고는 인간과 로봇이 어울려 사는 ‘사회’다. 대량생산된 인공지능 로봇이 광범위하게 인간 사회에 뿌려졌다. 로봇은 인간 사회 하위계급을 차지하며 각종 노동을 담당한다. 로봇이 마치 냉장고처럼 각 가정에 한 대씩 배치돼 노예계급을 형성한다. 인간이 해왔던 수많은 하층계급 노동을 그대로 받아내며 그룹화된 것이다. 미래사회가 이와 같다면 인간-인간 간 문제를 다루는 사회학 개념은 다시 정리돼야 한다. 인간-로봇, 로봇-로봇 관계가 추가돼야 한다. 이 문제는 이전까지 인류가 경험해보지 못한 색다른 문제다. ▲ 인공지능 로봇이 활개치는 사회가 온다면 사회학 개념이 다시 정리돼야 할 것이다  사회학이 본래 ‘인간’을 다루려던 게 아니라, ‘자유의지와 지능을 가진 존재’ 간 관계를 다루려 했다면 이를 이해할 수 있다. 인간이 아닌, 지능을 가진 존재가 등장하면 당연히 그 사회와 사회학적 개념도 변한다. 사실상 지능을 활용할 수 없는 인간은 사회학 범주에서 벗어난다. 생명에 대한 존엄, 존중의 개념으로 접근하는 것이지 사회성을 인정할 수는 없기 때문이다. 동물 역시 생명 존엄의 개념으로 보호받지만 인간과의 사회성을 인정받을 수는 없다. 그러나 인간과 유사한 지능이 조금이라도 있다면 사회적 존재가 된다. 뇌를 제외한 그 모든 신체가 기계로 구성돼 말과 행동을 하는 존재가 있다면 이 역시 사회구성원이다. 이미 인간은 인간-기계가 어울려 사는 사회에서 살고 있다. 다만 그 기계가 아직 인간 수준의 사회성을 형성할 수 없을 뿐이다. 인간-기계 간 사회성을 상징하는 것이 운전면허다. 기계 운용자로서 인간이 가진 권리를 의미한다. 기계를 잘못 운용하거나 이를 통해 인간 사회에 문제를 일으키면 기계 운용자는 사회적 지탄을 받는다. 그러나 그 기계를 탓하지는 않는다. 지능이 없는 기계는 어떤 의도가 없기 때문이다. 기계와 인간이 사회적 접점을 갖는 것은 어떠한 기계든 인간이 소유하기 때문이다. 그리고 인간-인간은 기계를 매개로 사회, 사회성을 만든다. 개성 지닌 존재라면 사회구성원으로 인정해야 미래에 도래할 사회를 인간-로봇(각각이 지능을 가진) 사회라고 본다면 그 둘의 관계 설정은 기계-인간 관계를 넘는다. <아이, 로봇(I, Robot)>은 이들의 다양한 관계 설정을 통해 미래를 재고해볼 여지를 제공한다. 지능을 가진 존재, 혹은 스스로가 독특한, 유니크한 개성을 가진 존재라면 이를 사회구성원으로 인정해야 한다는 것이다. <아이, 로봇> 작가 아이작 아시모프는 ‘인간-기계 사회’를 상정했다. 그리고 이를 위한 ‘로봇법칙’을 1942년 단편 〈Runaround〉를 통해 발표했다. 도래할 미래 인간-기계 간 관계를 어떻게 설정해야 할지에 대한 기초적인 가이드라인이다. 아시모프는 여러 차례에 거쳐 로봇법칙을 제안했다. 로봇법칙 1, “A robot may not injure a human being or, through inaction, allow a human being to come to harm.” 로봇은 사람을 해쳐서는 안된다, 또 인간이 해롭게 되도록 놔둬서는 안된다 로봇법칙 2, “A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.” 로봇은 인간이 내린 명령에 복종해야 한다. 다만 그 명령이 1번째 원칙과 상충돼서는 안된다. 로봇법칙 3, “A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.” 로봇은 자신의 존재를 보호해야 한다. 다만 1번째, 2번째 원칙과 상충되지 않을 때에 한한다. 잘 알려진 로봇 3법칙은 지능적인 존재가 사회에서 생활한다는 가정에서 보면 여러 모순을 안고 있다. 아시모프는 이를 보완해 1법칙에 앞서는 0법칙을 제정했다. 또 이어 마이너스 1법칙도 내놨다. ▲ 윌 스미스가 가방을 들고 뛰어가는 로봇을 체포하고 있다  로봇법칙 0(Zeroth Law), "A robot must not merely act in the interests of individual humans, but of all humanity." 로봇은 개인 인간의 이익을 위해서 행동해서는 안되고, 전 인류(휴머니티)를 위해야 한다. 로봇법칙 -1(Minus one Law of Robotics), "A robot may not harm sentience or, through inaction, allow sentience to come to harm.” 로봇은 지성을 해하거나 지성을 해하도록 놔둬서는 안된다. 여기서 지성이라는 것은 인간의 집단적인 의식을 의미한다. 아시모프 외에도 여러 작가들은 로봇법칙을 두고 몇 가지를 수정하거나 첨가하기도 했다. 로봇의 범죄행위에 대한 처벌 <아이, 로봇>은 인간-로봇 간 다양한 상황을 설정해 로봇법칙상 모순을 그리고 있다. 주인공 윌 스미스는 가방을 들고 뛰어가는 로봇을 발견한다. 이를 소매치기로 착각한 그는 그 로봇을 체포한다. 그러나 그 로봇은 주인 명령에 따라 집에서 가방을 가져다 주고 있었다. 주인공은 이를 알고 머쓱해진다. 로봇은 범죄를 일으킬 동기가 없다. 범죄는 대체로 그 행위를 통해 행위자가 획득할 수 있는 금전적 이득이나 욕망의 실현이 전제돼야 한다. 그래서 범죄 행위를 판별하는 데 있어 자유의지가 중요한 기준이 된다. 로봇 자신에게 어떠한 범죄에 따른 이익이 없고, 자유의지가 없다면 그 로봇의 범죄행위에 대해 처벌할 수 없다. 로봇을 조종하는 어떤 인간이 범죄행위를 교사했다고 하자. 이때도 로봇은 범죄수단이지 범죄를 저지른 것으로 볼 수 없다. 인공지능에 따라 로봇이 범죄행위를 계획하고 실시했다면, 혹은 기계-컴퓨터 등 로봇의 행위를 관제하는 ‘주체’가 명확하게 있고, 범죄행위를 교사했다 해도 이를 처벌할 방법은 없다. 인간에 대한 법으로 기계를 처벌할 수는 없기 때문이다. 자신에게 총을 겨누는 인간에 대해 로봇이 방어적으로 총을 겨눌 수도 있다. 로봇 ‘써니’는 주인공이 자신을 해치려 하자 이에 반발해 총을 든다. 로봇법칙 3에 따른 행위인데, 1과 2법칙을 무시한 결과다. 물론 단순히 스스로를 방어하기 위한 위협행위다. ▲ 자신에게 총을 겨누는 인간에 대해 로봇이 방어적으로 총을 겨눌 수도 있다  그러나 총을 든 로봇이 상대방이 인간인지 아닌지 판별하지 못하거나, 또 다른 인간을 보호하기 위해서거나, 범죄행위를 저지르고 있는 인간을 저지하기 위해서 등의 상황에 놓일 수 있다. 이럴 경우 로봇법칙은 인간-로봇 사회에서 허술하게도 모순을 드러낸다. 인간이 로봇을 살상할 수 있다. 살상이라기보다 사실상 파괴 행위다. 로봇은 살상돼도 그를 소유한 인간에게 손해로 책정될 뿐 존재로 존중 받지는 못한다. 각 ‘로봇 개인’이 없기 때문이다. 만약 로봇 각각이 개별 주체로 스스로를 인식한다면 이야기는 달라진다. 각각의 개성을 가진 로봇은 하나하나가 특별한 존재이기 때문이다. 새로운 제품인 로봇이 죽은 로봇을 대신할 수 없기 때문에 존재는 유니크해진다. 인문학적으로 고찰돼야 하는 이유 노트북 하드드라이브가 깨졌을 때, 새로운 노트북이 이를 대체할 수는 있다. 그러나 그 전까지 작업했던 ‘유니크’한 하드드라이브 데이터를 되살릴 수는 없다. 그래서 같은 노트북이라고 할 수 없는 것과 같은 이치다. 만약 각 개인이 사용한 로봇이 그 주인 개인의 특성을 고스란히 담고 있다고 치자. 그 로봇이 파괴됐다면 문제는 단순히 파괴되는 것에 그치지 않는다. 개인성이 부여됐기 때문이다. 그로 인해 주인이 가졌던 편리성, 친근감 등 로봇 소유자의 피해는 더욱 커진다. 대체할 수 없는 데이터 때문이다. 로봇에게 다른 로봇을 파괴하라는 명령을 받을 수 있다. 인간-로봇 간 사회성이 인정된다면 동류계급인 로봇-로봇 간 사회성도 인정되어야 한다. 인간 간 관계가 배제된 상태에서 3법칙이 발휘되면 로봇은 방어 및 공격을 위한 행위를 하게 된다. 로봇-로봇 간 사회성이 인정돼야 하는 것은 파괴되거나 공격하는 로봇이 각각 인간 개인에게 속하기 때문이다. 로봇-로봇 간 격투에 따른 손괴는 인간-인간 간 사회로 전이된다. 마치 주차해둔 차가 저절로 움직여 다른 차량을 들이받으면 각 차주 간 관계에서 문제를 해결해야 하는 것과 같다. ▲ 논리나 규칙만으로 인간과 로봇 간의 사회성을 정리할 수 없다는 것이 문제다  로봇이 자유의지에 따라 인간 개인이나 집단을 해치기로 결정할 수 있다. 로봇에게 어떠한 법칙을 강요해도 인공지능이 이를 결정하게 된다면 충분히 발생 가능한 행위다. ‘의지’가 법칙을 무시하기 때문이다. 미래사회를 그리는 많은 Sci-Fi 소설이 그리는 테크노포비아의 근원은 이런 인공지능의 자유의지다. 인간은 의지에 따라 사회성을 파괴하고 법칙을 무시해왔다. 마찬가지로 기계에게 자유의지를 부여하면서 법칙을 무시하지 말라고 할 수는 없다. 논리 규칙만으로는 인간-기계의 사회성을 정리할 수 없는 것이 문제다. 인간에게 그러한 규칙을 강요해도 언제나 문제는 발생했다. 기계-인간 사회에서도 이러한 난점은 이어질 수밖에 없다. 인공지능을 만드는 행위가 공학을 넘어 법학, 사회학 심지어 인문학적으로 고찰돼야 하는 이유가 여기 있다. I, Robot | 원작 Isaac Asimov | 감독 Alex Proyas | 20th Century Fox | 110 min | 2004

박상주 객원기자 | utopiapeople@naver.com 저작권자 2009.03.26 ⓒ ScienceTimes

Copyright(c) 2008 Korea Science Foundation. All Right Reserved. E-mail : ScienceTimes@scienceTimes.co.kr