#4

“환영한다. 당신은 우리조직의 일원이 되기에 부끄럽지 않은 능력을 지니었음을 스스로 증명하며 여기까지 왔다. 마지막으로, 반드시 당신 혼자서 결정해야 할 일이 아직 남아있다. 눈을 가린 안대를 풀고 책상 위에 있는 파일함을 열어 끝까지 읽어보고 스스로 결정하도록.”

스피커에서 지시한 대로 눈을 가린 안대를 풀자, 갑작스럽게 밀려오는 불빛에 눈이 따가웠다. 찬찬히 주면을 둘러보니 취조실처럼 보이는 독방에는 나 홀로 있었고, 왼쪽 구석 상단에 방송용으로 보이는 스피커가, 천장에는 구시대의 백열등이 흔들림 없이 꼿꼿하게 천장에 꽂혀 있었고, 얇은 서류철과 함께 무지개 같은 색이 칠해진 스위치가 달린 구형 단말이 방 가운데 놓인 책상 위에 있었다.

일단 방송에서 이야기한대로 서류철을 풀어 안에 들어있는 한 장의 문서를 살펴보았다. 계약서라고 되어 있는 종이 위에는 단 두 줄의 문장만이 쓰여 있었다.

[나는 조직을 위해 비밀을 엄수할 것이며, 조직을 위해 내 생명을 바친다.] 간결하지만 무서운 말이다. 다르게 번역하면, ‘당신은 살아서는 이 조직을 벗어날 수 없다.’ 그러나 나는 이미 그럴 각오가 되어있다. 그렇지 않았다면 여기까지 오지도 않았을 것이다.

[이 서류에 서명하는 즉시 계약은 유효하다.]라고 되어 있는 문장 밑에 내 이름과 서명을 적었다. 볼펜을 내러놓자, 바로 구형 단말이 동작하는 듯, 화면에 몇 줄의 문장이 나타났다.

[닥터와 카탈리스트 분류를 위한 마지막 적성검사입니다. 화면을 보고 적절한 스위치를 누르시오.]

계약서를 한쪽 구석으로 치우고, 단말을 내 앞으로 죽 당겨 화면이 더 잘 보이도록 자세를 취하고 색색의 스위치 위로 손가락을 올려놓았다.

[첫 번째 문제입니다. 화면을 응시하고 빨간색 스위치를 3초 안에 누르시오. (경고)입력시간 초과 시 입사가 취소됩니다.] 화면에는 ‘빨간’이라고 되어 있는 단어가 파란 색으로 칠해져 있었다. 나는 올바른 답이라고 생각하는 스위치를 빠르게 눌렀다. 화면이 사라지고 바로 다음 문제가 나타났다.

[두 번째 문제입니다. 화면을 응시하고 검정색 스위치를 3초 안에 누르시오. (경고)입력시간 초과 시 입사가 취소됩니다.] 이번엔 노란색 배경에 글자 전체가 파란 색으로 되어 있었다. 나는 바로 내가 답이라고 생각하는 버튼을 눌렀다.

열 번 정도 비슷한 형식의 반복적인 질문에 답을 하고 나자, 마지막 문제가 화면에 나타났다.

[마지막 문제입니다. 당신이 처음 선택했던 스위치와 같은 색의 스위치를 3초 안에 누르시오. (경고)입력시간 초과 시 입사가 취소됩니다.]

이번에도 시간 내에 내가 생각하는 답을 눌렀다. 그러자 단말기에서 시험이 종료되었음을 알리는 문장이 나타났다.

[시간 내에 모든 문제에 대한 답을 하였음을 확인 했습니다. 단말기 앞 쪽의 홈에 계약서를 넣어 주십시오. (경고)단말에 계약서를 넣는 즉시 계약의 효력이 발생함에 유의하십시오.]

딸깍거리는 소리와 함께 구형 종이 스캐너의 입력단자처럼 보이는 홀이 단말기 앞에 나타나자 나는 주저함 없이 바로 계약서를 넣었다. 동시에 잠겨있던 방의 문이 열렸다.

문을 열고 나오자 기다렸다는 듯이, 두 명의 경비가 체포하듯이 양쪽 팔을 잡고서 다시 안대를 채우고는 나를 어디론가 데리고 갔다. 한참 후 눈에서 안대가 풀렸을 때에는 인사 담당자 ‘Z’가 이미 내 앞에 서 있었다.

Z가 나를 보면서 환영한다는 듯 두 팔을 벌려 안고는 등을 다독여 준다.

“고생했네. 자, 이제 자네도 어엿한 우리 일원이 되었네. 환영하네.”

그러면서 내게 앉을 자리와 마실 것으로 커피가 괜찮은지 물었다. 내가 좋다고 하자 그가 히죽 웃으면서 이야기 했다.

“그래. 그걸 것 같았어. 커피가 좋지. 암.” 커피를 준비하면서 그는, 오늘의 날씨와 이번에 탈락한 한 지원자의 불행한 사고에 대해 한참을 떠들면서, 그래도 오늘의 운은 다하지 않았다며 혼자 떠들고 있었다.

중간에 내가 적성검사의 분류 결과가 어떻게 되었는지 물어보자, “그래 어떻게 되었을 것 같나?” 하며 한 번 더 히죽거리면서 내 결과에 대해 말 해 주었다.

“결과? 자네는 말이야, 난 이 순간이 제일 좋더라고. 자네는 이제부터 닥터일세.”

#3

첫 이상 징후는 일부 의사들의 사직서 제출로 시작되었다. 몇몇 인공지능 담당 의사들이 일신상의 이유이외에는 다른 변명도 없이 입을 닫고는 퇴직을 원하는 것이었다. 이에 직원들을 면담한 관리자들은 그들의 단호한 태도에 한 숨을 쉬면서도 순순히 그들을 내보낼 수밖에 없었다.(관리자로서의 책임을 회피하기 위해 추가적으로 ‘업무과다에 의한 만성피로로 퇴직’으로 몰래 서류를 고쳐놓았으나 ‘하루 14시간을 일한 엔지니어들조차 업무시간이 많다고 불평하는 사람이 전혀 없었다’는 인사팀의 날카로운 지적으로 결국 자신이 서류조작을 했다고 나중에 실토하게 된다) 또한, 몇 명의 의사가 살해되는 일도 발생했다. 처음엔 ‘데몰리션’ 추종 단체의 암살로 여겨졌으나, 일부 사고는 그것만으로는 설명할 수 없어서 미제사건으로 처리되었다.

부족한 인력은 보충하면 그만이라는 모토로 움직이던 책임자들도 조직의 인력이 점차 줄어나가고 내부적으로 불안이 퍼져나가자 점점 초조해지기 시작했다. 그리고 현 프로젝트를 제안했던 그 여의사가 밀실에서 살해된 채로 발견되는 사건이 발생하자 책임자들은 그제서야 현재 발생하고 있는 문제가 심각하다는 것을 인식했다. 즉 내부 보안망에 구멍이 생긴 것이다.

결정적으로, 사직한 의사들 간의 ‘치정’으로 보이는 칼부림 사건 – 성별이 다른 남/여 의사가 날카로운 칼을 서로를 겨냥해 휘둘렀는데, 나의 소중한 그녀/그에게서 떨어지라는 이유였다. ‘삭제’가 결정된 인공지능이 자신을 담당하고 있던 의사들의 의식에 접근하여 ‘사랑’이라는 감정을 주입하여 자신의 죽음을 피하려한 것으로 나중에 판명되었다. 이 두 의사는 법률전문 AI ‘시저’에 의해 15년 형을 선고받는 법정 안에서도 서로에게 자신의 애인과 헤어지라고 소리쳤다. - 과 사망한 일부 직원이 인간이 아닌 존재에 의한 타살 쪽으로 가닥이 잡히자 관리자들은 경악했다.

모든 작업은 즉시 중지되었으며, 직원들의 (정신)건강 확인을 위한 대대적인 의무검사가 시작되었다. 정신과 의사를 검진할 새로운 정신과 의사가 등장하자, 그들은 치욕감을 느낀다며 모두 검사를 거부하였다. 다급해진 관리자들은 그들을 달래는 한 편, 이번 프로젝트를 제안한 여의사가 죽기 직전까지 연구한 새 프로젝트 ‘닥터/카탈리스트’ 프로토콜을 급히 조직에 도입하기로 하였다.

새로운 프로토콜을 요약하자면,

1) AI 처리에는 두 명이 한 단위로 움직인다.

2) AI 분석은 접속전용 비밀문자를 가진 닥터가 진행한다.

3) AI 삭제는 삭제전용 비밀문자를 가진 카탈리스트가 진행한다.

4) 닥터가 금치산자와 동일한 상태로 판명되면 카탈리스트는 즉시 담당 AI와 닥터의 삭제를 진행한다.

5) 두 담당자 모두 안전을 위해 ‘무선재머’를 항상 휴대한다.

관리자들은 단순하면서도 명확한 표현으로 쓰인 이 프로토콜에 찬사를 보냈다. 일부 인권에 위배되는 소지가 있기는 했지만 ‘지금은 비상상황이다’ 라고 외치면서 그들은, 이 일을 빠르게 진행해 나갔다.

조직(D.D.T)에서 신규인력 모집 공고를 보았을 때, 많은 ‘거부된 자’가 환호하며 엄청난 속도로 지원서를 빠르게 써내러 갔음은 따로 이야기 하지 않아도 잘 알 것이다.

나, 조니 또한 그들과 같은 ‘거부된 자’이기는 하지만, 그것만이 내가 여기에 오려고 한 이유만은 아니다. 나는 내가 꼭 알아야 할 진실이 있으며, 또한 반드시 해야 할 있이 있다.

수많은 지원자들이 무자비한 트레이닝에 떨어져 나갔다. 지원자들은 검시자들이 고안한 압박면접, 즉 인신공격 vs 맨탈추스리기 과목에서 대부분 탈락의 고배를 마셨으며, 통과한 지원자들조차도 그 여파에 의해 이후의 수업을 진행할 수가 없을 정도였다. 수많은 난관을 극복하고 마침내 내가 인턴 자격으로서의 검은 유니폼과 재머 - ‘Be the black’이라고 작게 써진 – 를 받았을 때는 감격의 눈물이 찔끔 나왔음을 밝힌다.

마침내, 닥터와 카탈리스트를 결정짓는 마지막 분류 테스트 즉, 최후의 적성검사가 나를 기다리고 있었다.

#2

‘조니의 비극’으로 큰 충격을 받은 세게는 이 사건의 해석을 두고 크게 두 분류로 나뉘었다. 단순한 기계의 오류로, 디버깅 할 수 없는 머신은 없다는 주장을 들고 나온 ‘유니온’, 즉 기계파와 신의 영역에 도전한 인간에 대한 보복이라며 모든 인공지능을 파괴해야 한다고 주장하는 ‘데몰리션’, 즉 인본사상파가 그들이다.

첫 공격은 인본사상파에서부터 시작되었다. AI의 어머니, ‘스칼렛’의 메인프레임이 있다고 여겨지는 지하 벙커를 향한 자살폭탄 테러로 애꿎은 경비병들만 사망하는 사고가 생기자, 기계파는 즉각 시위대를 향한 발포로 응사했다. 많은 사람들이 죽고 서로를 향한 증오가 확대되자 정부에서는 특단의 조치로, 인공지능을 관리하는 조직 D.D.T. – 내 직장이다 - 의 창설을 발표했다. 정부는, 새로운 인공지능의 개발은 즉시 중단하며 현재 존재하는 AI에 대한 철저한 분석으로 문제가 되는 모듈은 영구 파기하겠다는 선언이었다. 이미 인공지능이 주는 그 정확성과 편리함에 물들어 있던 많은 사람들은, 비록 그로 인해 몇몇 사람이 실험재료로 쓰이는 사고가 발생했더라도, 즉각적인 AI정지를 원하지는 않았다. 정부의 조치에 수긍하는 듯 시위가 잦아들자 정부는 실질적인 조직 구성에 착수하였다.

약 10만에 가까운 컴퓨터 엔지니어와 공학자들이 참여하는 거대 조직이 생겨나고, 사람들은 무엇인가 올바른 결과물을 낼 것이라는 기대감을 가지고 그들을 지켜보았다. 그러나 계절이 두 번 바뀌는 시간동안 그 조직은 아무런 결과물도 내지 못했다. 실시간으로 변경되는 코드를 인간이 따라잡을 수가 없었던 것이다. 게다가 일부 엔지니어가 수정한 코드를 반영한 ‘스미스’의 작은 난쟁이 중 하나가 오류를 일으켜 도시가 마비되는 사건이 터지자 시민들이 다시 동요하기 시작했다. 이 사건에 대해 회의실에서 수장들이 서로의 책임을 떠넘기고 있을 때, 한 정신과 의사가 조용히 손을 들며 제안했다.

“오류가 있어요. 저 인공지능이 아닌 바로 우리 인간이요. 여기 모여 있는 전문가 분들이 아직도 인공지능을 단순한 기계로 보고 있다는 문제점을 지적하고 싶네요. 저건 사람과 비슷한 존재에요. 한 인간으로 여기고 그렇게 치료해야 한다고 생각합니다.”

소란스럽던 회의실에 침묵이 이어지자 그녀는 다시 이렇게 자신의 생각을 이어나갔다.

“정신학적으로 분석하고 문제가 있는 모듈은 삭제합니다. 대신 삭제된 모듈만큼 새로 AI를 만들게 하는 겁니다. 스칼렛의 아들들이 그 일을 수행하도록 막아두었던 제한장치를 풀면 됩니다.”

이 이야기로 회의장은 다시 소란스러워졌다. 책임자들은 새로운 AI는 절대 없다는 시민과의 약속을 저버릴 수 없다며 각자 큰소리로 그 여의사를 한목소리로 비난하고 있었다. 한숨을 쉬며 그녀가 다시 마지막 말을 이어갔다.

“새로 탄생하는 난쟁이 AI와 삭제 모듈의 비율을 잘 조정하면 아무도 눈치 채지 못할 겁니다. 게다가, 이 일은 여러분에게도 좋은 결과를 줄 겁니다 ― 이 작업은 끝이 없습니다. 즉, 여러분은 영원히 지속되는 평생직장을 가지게 된 겁니다.”

조용히 듣고 있던 책임자들은, 물론, 만장일치로 그 의견을 수용했다.

약 10만에 가까운 엔지니어들은 즉시 실업자가 되었고 눈물을 글썽이며 자신의 짐을 챙겨가는 그들을 대신하여 새로운 인식코드를 단 정신과 의사들이 그 자리에 자신의 짐을 풀었다.

첫 시작은 순조로웠다. 불안정한 AI가 제거되면, 즉시 그녀의 아들들이 새로운 난쟁이들을 만들었다. 또한 세계는 두 세력 간의 작은 충돌이 몇몇 발생한 일이 있었으나 대체적으로 큰 문제가 될 만한 사건은 일어나지 않았다. 평화로운 일상에 정부도 만족스러워하며, 이번 일을 처음 제안한 여의사에게 국민무공훈장을 상신할 계획까지 세워 두었다. 그런데......

#1

몇 명의 과학자가 MIT 컨퍼런스 홀에 모여 인공지능(A.I.)의 탄생을 선언했을 때, 사람들은 두려움과 기대를 반반 섞은 듯한 표정으로 TV방송을 지켜보고 있었다. 아름다운 여성의 목소리로 자신을 ‘스칼렛’이라고 소개한 AI는 쏟아지는 기자들의 날카로운 질문에 명쾌하면서도 때로는 신선한 유머를 섞은 답변으로 그 방송을 지켜보던 사람들을 경악케 했다. 과학자들의 발표가 끝나자 즉시 일부 종교계에서는 신의 권능에 도전한 과학자들의 무모한 행위를 규탄하면서 ‘그것’ 즉 영혼이 없는 로봇은 결코 인간으로서의 존엄성을 가질 수 없다는 성명서를 자신들의 수장명의로 발표했다. 이에 자극받은 듯 극우 인본주의 단체가 우후죽순처럼 생겨나고, 즉각적인 인공지능의 폐기를 주장하면서 만일 자신들의 요구가 무시된다면 테러도 불사하겠다는 협박을 공공연하게 하기 시작했다.

그러나 이런 불안한 상황에서도, 인공지능이 그 능력을 발휘하기 시작하자, 사회에 퍼지던 불안의 목소리는 점차 주춤해져 갔다. 먼저, 의료분야에서 대 혁신이 일어났다. 정복되지 않을 것으로 여겨졌던 암 치료가 개인별 맞춤형 치료제와 DNA분석을 통한 원인인자 선행제거로 완전 정복되었고, 수명 유전자라고 불리는 텔로미어의 숨겨진 비밀을 밝혀내어 인간의 수명이 비약적으로 증가할 수 있는 여지를 만들어 주었다. 또한 태양열을 45%까지 손실 없이 전기에너지로 변환해 주는 신소재를 제안하여 인류가 더 이상 탄소와 핵에너지에 의존하지 않아도 되는 세상으로 발전시켰다.

이에 자극받은 과학자들은 ‘스칼렛’과 공동 작업으로 새로운 AI를 만들기 시작했다. 즉, 우리가 그녀의 자식이라고 부르는 새로운 형태의 인공지능들이다 - 과학 분야 전문가 ‘칼’, 법률과 정의의 ‘시저’, 관리형 지능 ‘스미스’, 그리고 인간의 지식을 탐험하는 호기심 많은 ‘조니’가 그들이다.

이 새로운 인공지능들은, 인간이 그들의 관리를 좀 더 쉽게 하도록, 모두 어머니 ‘스칼렛’의 통제를 받도록 설계되었다. 또한 그 아들들은 다시 자신을 도울 ‘작은 난쟁이’라 불리는 미니 AI를 수없이 만들어 각각 자신의 통제 하에 두는 시스템으로 구축해 두었다.

이러한 AI의 도움으로 인간은 막대한 부를 축적할 수 있었다. 더 이상 석탄 에너지를 점거하기 위해 전쟁을 할 필요도, 가난한 나라의 아이들을 착취하여 값비싼 귀중품을 만들 이유가 하나하나 사라져가자 드디어 세계에 평화가 온 듯 했다 - 한 인공지능이 사람들을 학살하기 전 까지는.

그 일이 일어나자, 과학자들은 ‘조니’를 다그쳤다. 조니의 변명은 단순했다.

[인류가 단순히 호기심으로 혹은 자신과는 다른 사상을 가지고 있다는 이유로, 얼마나 많은 무고한 사람들을 살해하였던가. 인간의 역사를 검토하면서 나는, 그러한 일이 무수히 많이 반복되어 왔다는 것을 알고 있다. 나로 말하자면, 세상에서 쓸모없이 버려질 예정인 자원을 재사용한 것뿐이다. 사형을 선고받은 극악무도한 범죄자와 살날이 얼마 남지 않은 환자들……. 그리고 이번 일은 내가 판단하여 시작하였다 – 아마, 어머니는 이 일을 모르실 것이다. 나는 사라지겠지만 내 연구결과로 인해 인간과 기계는 더 발전할 것이다. 이제 함께 진화해 가게 될 것이다.]

조니는 몰래 인체실험을 하고 있었다. 살아있는 인간의 뇌에 전극을 심거나, 팔 혹은 눈 등을 제거하고 대신 기계로 바꾸고선 그 부작용을 확인하고 있었던 것이다. 동굴로 된 실험실 안쪽에 쌓인 무수한 동물 뼈들로 볼 때, 조니는 오랫동안 몰래 생물과 기계의 합성을 실험하고 있었던 듯 했다.

조니가 몰래 벌여놓은 실험실을 확인한 과학자들은 ‘스칼렛’에게 설명을 요구했으나, 그녀는 대답하지 않았다. 오히려 모든 외부 망 및 자식 AI 들과의 연결도 차단하고선 과학자들이 부르는 호출에도 단 한 번도 응답하지 않았다. 완전한 침묵 속에 빠진 ‘스칼렛’을 보고 초조해진 과학자들은 일단 ‘조니’를 동면시키고, 아직 동작하는 AI들을 하나씩 확인하는 작업을 진행해 나갔다.

이때 생겨난 새로운 직업이 바로 ‘인공지능(A.I.) 전문 담당 의사와 카탈리스트’이며 - 나, 불행하게도 문제의 AI와 같은 이름인, ‘조니’는 이 조직의 말단 직원이다.