나는 A.I. 전문 정신과 의사입니다 #2

#2

‘조니의 비극’으로 큰 충격을 받은 세게는 이 사건의 해석을 두고 크게 두 분류로 나뉘었다. 단순한 기계의 오류로, 디버깅 할 수 없는 머신은 없다는 주장을 들고 나온 ‘유니온’, 즉 기계파와 신의 영역에 도전한 인간에 대한 보복이라며 모든 인공지능을 파괴해야 한다고 주장하는 ‘데몰리션’, 즉 인본사상파가 그들이다.

첫 공격은 인본사상파에서부터 시작되었다. AI의 어머니, ‘스칼렛’의 메인프레임이 있다고 여겨지는 지하 벙커를 향한 자살폭탄 테러로 애꿎은 경비병들만 사망하는 사고가 생기자, 기계파는 즉각 시위대를 향한 발포로 응사했다. 많은 사람들이 죽고 서로를 향한 증오가 확대되자 정부에서는 특단의 조치로, 인공지능을 관리하는 조직 D.D.T. – 내 직장이다 - 의 창설을 발표했다. 정부는, 새로운 인공지능의 개발은 즉시 중단하며 현재 존재하는 AI에 대한 철저한 분석으로 문제가 되는 모듈은 영구 파기하겠다는 선언이었다. 이미 인공지능이 주는 그 정확성과 편리함에 물들어 있던 많은 사람들은, 비록 그로 인해 몇몇 사람이 실험재료로 쓰이는 사고가 발생했더라도, 즉각적인 AI정지를 원하지는 않았다. 정부의 조치에 수긍하는 듯 시위가 잦아들자 정부는 실질적인 조직 구성에 착수하였다.

 

약 10만에 가까운 컴퓨터 엔지니어와 공학자들이 참여하는 거대 조직이 생겨나고, 사람들은 무엇인가 올바른 결과물을 낼 것이라는 기대감을 가지고 그들을 지켜보았다. 그러나 계절이 두 번 바뀌는 시간동안 그 조직은 아무런 결과물도 내지 못했다. 실시간으로 변경되는 코드를 인간이 따라잡을 수가 없었던 것이다. 게다가 일부 엔지니어가 수정한 코드를 반영한 ‘스미스’의 작은 난쟁이 중 하나가 오류를 일으켜 도시가 마비되는 사건이 터지자 시민들이 다시 동요하기 시작했다. 이 사건에 대해 회의실에서 수장들이 서로의 책임을 떠넘기고 있을 때, 한 정신과 의사가 조용히 손을 들며 제안했다.

“오류가 있어요. 저 인공지능이 아닌 바로 우리 인간이요. 여기 모여 있는 전문가 분들이 아직도 인공지능을 단순한 기계로 보고 있다는 문제점을 지적하고 싶네요. 저건 사람과 비슷한 존재에요. 한 인간으로 여기고 그렇게 치료해야 한다고 생각합니다.”

소란스럽던 회의실에 침묵이 이어지자 그녀는 다시 이렇게 자신의 생각을 이어나갔다.

“정신학적으로 분석하고 문제가 있는 모듈은 삭제합니다. 대신 삭제된 모듈만큼 새로 AI를 만들게 하는 겁니다. 스칼렛의 아들들이 그 일을 수행하도록 막아두었던 제한장치를 풀면 됩니다.”

이 이야기로 회의장은 다시 소란스러워졌다. 책임자들은 새로운 AI는 절대 없다는 시민과의 약속을 저버릴 수 없다며 각자 큰소리로 그 여의사를 한목소리로 비난하고 있었다. 한숨을 쉬며 그녀가 다시 마지막 말을 이어갔다.

“새로 탄생하는 난쟁이 AI와 삭제 모듈의 비율을 잘 조정하면 아무도 눈치 채지 못할 겁니다. 게다가, 이 일은 여러분에게도 좋은 결과를 줄 겁니다 ― 이 작업은 끝이 없습니다. 즉, 여러분은 영원히 지속되는 평생직장을 가지게 된 겁니다.”

조용히 듣고 있던 책임자들은, 물론, 만장일치로 그 의견을 수용했다.

 

약 10만에 가까운 엔지니어들은 즉시 실업자가 되었고 눈물을 글썽이며 자신의 짐을 챙겨가는 그들을 대신하여 새로운 인식코드를 단 정신과 의사들이 그 자리에 자신의 짐을 풀었다.

첫 시작은 순조로웠다. 불안정한 AI가 제거되면, 즉시 그녀의 아들들이 새로운 난쟁이들을 만들었다. 또한 세계는 두 세력 간의 작은 충돌이 몇몇 발생한 일이 있었으나 대체적으로 큰 문제가 될 만한 사건은 일어나지 않았다. 평화로운 일상에 정부도 만족스러워하며, 이번 일을 처음 제안한 여의사에게 국민무공훈장을 상신할 계획까지 세워 두었다. 그런데......