당신을 당신이라고 정의하는 것은 무엇인가? 당신의 모든 기억을 로봇에 옮기고, 그 로봇이 당신처럼 행동한다면, 로봇을 당신이라고 할 수 있을까? 그렇다면 그 로봇을 복제하면, 여전히 당신일까?
개인적으로 공포게임을 즐겨하지 않는 편이다. 공포영화는 (이것도 즐겨보진 않지만) 잘 보는데, 아마 주인공에게 이입하는 정도의 차이인 것 같다.
나를 대신해 내가 할 일을 처리해 주는 AI “에이전트"가 유행하는 시대에, 위에 써놓은 질문을 던지는 <SOMA>는 여기에 새로운 재해석의 여지를 만들어 준다.
이하의 내용은 SOMA 본편에 대한 스포일러를 포함하고 있습니다.
주인공 사이먼은 복제될 가능성이 있다는 사실을 모른 채 뇌 스캔을 받았지만, 스캔을 받고 죽기 직전에 이 스캔을 활용해 달라는 사후동의를 남긴다.
한편 게임에서 벌어진 사태의 원흉이라고도 할 수 있는 WAU는, 인간을 인공적으로 복원하는 것이 인류를 보전하는 일이라는 결론을 멋대로 내리고 해저기지 전체에 스트럭처 젤을 살포하는가 하면 인간의 의식 데이터를 활용해 실험을 진행한다.
통제를 벗어난 AI가 인류를 궁지에 빠뜨리는 이야기는 흔하다. 하지만 그 중에서도 AI가 자의식을 가지게 된다는 더 흔한 설정이 아니라, WAU의 자의식 각성 여부와 무관하게 창조된 목적에 따라 부작용을 일으키고 있다는 설정을 채택한 것이 눈에 띈다. 우리가 과도한 권한을 떠안은 AI로 인해서 피해를 입는다면, 실제로 그건 자의식을 가진 고도의 AI가 아니라 온라인 상에 발에 채이는 수준의 ‘멍청한’ AI로 인한 사건일 가능성이 더 클 것이다.
결국 주인공 사이먼에게 이러한 구조는 반복되고 있다. 본편의 사이먼은 자신의 뇌 스캔이 사망 뒤에도 사용되는 데에 동의하지 않았다. 파워 슈트에 복제될 때도, ARK에 복제될 때도, 사이먼은 스스로의 손으로 이를 실행하긴 하지만 이 일이 불러올 결과에 진정으로 동의했다고 보기는 어렵다. 사이먼, 아니 WAU에 의해 의식이 복제된 사람 모두가 자신의 의식이 로봇에 옮겨지는 데에 동의한 적 없다.
우리의 제도는 ‘의식’보다는 ‘책임’을 이야기한다. AI 기본법에는 투명성과 안전성, 영향평가를 요구하는 조항이 아주 초보적 수준으로 들어가 있는데, 전문가들이 AI 투명성을 요구하는 이유 역시 책임 소지를 블랙박스(AI 시스템이 들여다 보이지 않는 상자라는 비유) 안으로 숨기는 것을 막고, AI를 이해와 검증이 가능한 시스템으로 만들기 위해서이다.
그렇다면 동의의 책임은 누구에게 있을까? 100년 전 사이먼은, 100년 후의 사이먼에게 벌어진 일에 대해서 어떠한 도덕적 딜레마도 느끼지 못한다. 그러나 100년 후의 사이먼에게 100년 전 사이먼이 죽기 직전 자신의 뇌 스캔을 이용해도 된다고 한 일은 본인에게 책임이 없는 일이다. 반면 파워 슈트에 복제된 사이먼은 남아있는 사이먼을 보며 책임감을 느끼고 후회한다. ARK에 탑승하지 못한 사이먼은 이렇게 될 줄 알았으면 캐서린을 돕지 말걸 그랬다며 후회한다. 우리는 이들이 책임을 느끼는 것이 자연스럽다고 생각하고, 책임을 부여하려 한다. ARK에 탑승하는 데 성공해 기뻐하는 사이먼은 어떨까? 이 사이먼은 과거의 행동에 책임을 져야 할까? 응당 그래야 한다는 답이 나오겠지만, 외부의 물질세계로부터 철저히 분리되어 버린 ARK의 단절은 그 질문을 무의미하게 만드는 것 같다.
우리 시대에 한 가지 더 추가된 문제는, 이러한 딜레마가 사람의 인지를 뛰어넘는 속도로 이뤄진다는 것이다. 산업은 자본의 시간표에 공권력의 시간표를 맞춘다. 우리가 인지하지 못하는 사이에, 손가락은 이미 ‘동의합니다’라는 버튼 위에 올라가 있다. AI가 결정을 주도할 앞으로의 전쟁은 군인들마저 전쟁이 발발했는지 모르는 사이에 이미 상황이 끝나있을 것이라는 예측이 나오기도 한다.
그렇다면 그 책임은 누가 질 것인가? 화염덩어리가 되어버린 행성 위에서?
