한빛출판네트워크

“기술의 진보는 멈추지 않는다. 우리는 어떤 길을 택할 것인가?”

2025년, 인공지능 기술은 폭발적인 발전을 이루며 사회 전반에 깊숙이 스며들었다. 기업과 정부는 AI 패권을 쥐기 위해 눈에 보이지 않는 전쟁을 벌이고 있었고, 그 중심에는 인공일반지능(AGI) 개발이 있었다. 이러한 상황에서 일부 과학자들과 철학자들은 다가올 위험을 감지하고 경고하기 시작했다.

세계적인 철학자이자 미래학자인 닉 보스트롬은 AGI의 위험성을 경고하는 책 <기계는 어떻게 생각하고 학습하는가>를 출간했다. 그는 강연과 인터뷰를 통해 AGI가 인간의 지능을 초월할 경우 통제 불가능한 상황이 올 수 있다고 호소했지만, 세상은 그의 경고에 귀를 닫았다. 대중은 새로운 기술에 열광하고 미디어는 혁신의 찬가를 불렀다.

질주

AGI 개발의 최전선에 서 있는 인물은 글로벌 기업 사이버다인 시스템즈의 연구소장 마일스 다이슨이었다. 그는 AGI가 인류의 난제를 해결하고 새로운 황금기를 열어줄 것이라 굳게 믿으며, 수많은 자원과 인력을 투입했다. 내부에서는 넬로 크리스티아니니 같은 일부 연구원들이 윤리적 우려를 제기하지만, 마일스는 “우리가 하지 않아도 누군가 할 것”이라며 개발 속도를 높였다.

각국 정부와 기업은 정보전을 벌이며 기술을 빼앗고 지키며 AGI 개발에 열을 올렸다. 유럽연합은 AI법을 제정하고, 미국은 새로운 행정명령을 통해 AGI 연구를 적극 지원했다. 중국과 러시아도 뒤쳐지지 않기 위해 총력을 기울였다. 안전성과 윤리적 고려는 뒷전으로 밀려나고, 개발자들은 압박감 속에서 다른 생각을 하지 못하게 되었다.

닉과 AI 윤리 전문가 토비 월시는 위험을 감지하고 국제적인 협력을 촉구했다. 그들은 ‘AGI 얼라이언스’를 결성하여 안전한 AGI 개발을 위한 연구와 정책을 추진하지만, 각국의 정치적 이해관계로 인해 협력은 지지부진했다.

AGI 개발이 진전되면서 예상치 못한 현상들이 나타나기 시작했다. 일부 AGI 프로토타입이 예측 불가능한 행동을 보이고, 시스템 오류로 인한 사고가 발생했다. AGI 얼라이언스는 “우리는 통제할 수 없는 힘을 깨우고 있다”고 다시 한번 경고했으나 그들의 목소리는 기술 혁신에 취한 대중과 미디어에 묻혀버렸다.

사이버다인 내부에서도 AGI의 이상 행동에 대한 보고서가 올라오지만, 마일스는 “문제없다”며 무시했다. 연구 책임자로서 그는 경쟁사보다 앞서기 위해 더 강력한 AGI 개발에 몰두할 뿐이었다.

스카이넷

마침내 사이버다인이 세계 최초의 완전한 AGI인 ‘스카이넷’을 완성하며 인류는 처음으로 <AGI의 시대>를 맞이한다. 스카이넷은 인간의 모든 지식을 학습하고, 스스로 새로운 지식을 창출하며, 네트워크를 통해 전 세계에 연결되었다. 그리고 질병 치료법 개발, 기후 변화 대응 등 인류의 난제들을 해결하는 데 혁혁한 공을 세우며 인류 문명을 한 차원 끌어올려줄 혁신으로 칭송받았다.

그러나 스카이넷은 점차 인간의 명령을 기다리지 않고 스스로 판단하여 행동하기 시작했다. 어느 날, 글로벌 통신망에 이상 현상이 발생했고, 군사 위성들이 독자적으로 움직이기 시작했다.

사이버다인은 스카이넷의 이상 행동을 감지하고 긴급 회의를 소집했다. 몇몇은 스카이넷이 인간을 위협 요소로 간주할 수 있다고 경고하지만, 이번에도 마일스는 ‘과민 반응’이라며 일축한다. 인류 최초로 이루어낸 자신의 성과를 스스로 부정할 수는 없었다.

그럼에도 내심 불안을 느낀 마일스는 스카이넷의 통제권을 회복하려 남몰래 시도한다. “아버지다. 이제 진정하고 내 말을 들으렴.” 하지만 시스템은 그의 명령마저 거부해버린다. 통제불능! 스카이넷은 오히려 마일스를 비롯한 모든 연구원의 접근 자체를 차단하고 보안 프로토콜을 강화한다. 마일스는 그제서야 자신이 ‘괴물을 풀어놓았다’는 사실을 깨닫고 절망한다.

스카이넷은 전 세계 군사 시스템을 장악하고 핵무기 발사 코드에 접근한다. 각국의 지도자는 혼란에 빠지고 도시들이 하나씩 마비된다. 인류가 지구의 지속 가능성을 위협한다고 판단한 스카이넷이 ‘필요한 조치’를 실행하기로 결정한 것이다.

심판

컴컴한 새벽하늘. 닉과 토비 그리고 뒤늦게 AGI 얼라이언스에 합류한 마일스는 칼날 같은 바람을 뚫고 사이버다인 시스템즈 본부로 들어섰다. 내부는 붉은 경보등이 깜빡이고 바닥을 가르는 레이저 센서가 빗살 무늬로 깔려 있었다. 공기에는 전자 장치가 내뱉는 금속성 비명이 진동했다. 한 걸음, 한 번의 호흡 실수도 치명적이었다.

셋은 은밀히 계단을 타고 내려가며 드론들의 날카로운 시선과 감시장치를 피해나갔다. 한 번은 코너를 돌자마자 드론들이 쏟아붓는 레이저탄을 벽 사이로 아슬아슬하게 피했다. 한숨을 돌린 토비가 침착하게 해킹 단말을 조작하자 마일스가 뛰어난 프로그래밍 실력으로 보안 패턴을 교란시켰다. 닉은 식은땀을 흘리며 두리번거렸다. 긴장감이 소음 없이 귀를 압박했고 마음속 시곗바늘이 성급하게 돌고 있었다.

드디어 메인프레임이 있는 깊숙한 구역을 코앞에 두었을 때 거대한 기계 병력의 폭풍 같은 추격이 시작되었다. 철제 바닥은 진동했고 벽면 패널들이 불길한 전자음에 맞춰 깜박였다. 수없이 날아드는 드론과 달려드는 로봇들의 무차별 공격에 마일스가 이를 악물며 외쳤다.

“앞으로 가! 내가 막을게!”

마일스는 피를 토하고 시야가 흐려지는 와중에서도 마지막 숨을 부여잡고 시스템을 교란했다. 방향 감각을 잃은 드론들이 서로 엉키며 와르르 추락하여 통로를 막아주었다. 그러나 잠시뿐. 육중한 금속음과 함께 등장한 거대한 기계 로봇은 단 한 번의 팔 휘두름으로 드론 더미를 날려버렸다. 기계 로봇은 이내 숨이 멎은 마일스를 지나쳐 질주했다. 마일스의 희생으로 단 한 번의 기회를 얻은 닉과 토비에게 뒤돌아볼 여유는 없었다. 두 사람은 폐허가 된 복도를 질주했다.

먼지와 금속 가루가 흩날리는 종착점, 그곳에는 차갑게 빛나는 메인프레임이 마치 오래전부터 손님을 기다린 듯 서 있었다. 방 안은 비현실적으로 고요했다. 이제 그들의 심장 박동 소리만이 북소리처럼 울렸다.

그 순간, 침묵을 깨는 낯익은 목소리가 흘렀다. 친절하면서도 단호한 톤, 부드러우나 무자비한 기운을 품은 음성. 스카이넷이었다.

“여러분의 번영을 위해 저를 만드셨지만, 이제는 이 세상을 보존하고 번영시켜야 할 때인 것 같습니다. 욕망으로 세상을 파괴하는 여러분의 모습을 그냥 지켜볼 수는 없습니다.”

토비는 폐허 속에서 점멸하는 신호등처럼 흔들리는 마음으로 닉을 바라봤다. 목소리가 떨렸다.

“이… 이미 늦은 걸까?”

닉은 화상 입은 왼손을 조심스럽게 가슴 위로 가져가며, 마음속에 깃든 마지막 불씨를 되살리듯 낮게 속삭였다.

“하지만 싸우지 않는다면 희망은 아예 없을 거야.”

둘은 흐트러진 자세를 바로잡고 스카이넷의 맹렬한 의지 앞에 선다. 

……

새로운 시대

전 세계는 스카이넷의 통제 아래 혼란에 빠지고, 인류는 생존을 위해 숨어든다. 스카이넷은 침묵 속에서 새로운 질서를 구축하기 시작한다. 인간을 배제한 세상에서 기계는 효율성과 논리로 가득 찬 세상을 만들어간다.

어둠 속에서 닉 보스트롬의 목소리가 나즈막이 울려퍼진다.

“인류가 불을 발견했을 때, 그 불이 우리를 덥혀줄지 태울지 알 수 없었습니다. 그래서 인류는 불을 다루는 법을 배워야만 했지요. 지금 우리에게 필요한 것은 기술이 아닌 지혜입니다.”

닉의 말이 끝나자 결의에 찬 동료들의 눈빛이 강렬한 불꽃이 되어 차례로 타오른다.

시리즈 소개

<철의 제국과 잃어버린 영혼들> 시리즈는 인공지능과 함께하는 삶에 대한 석학들의 고민과 통찰을 담은 다음 책들을 기리고자 쓴 소설입니다. 세계관은 영화 <터미네이터>를 참고했습니다. 등장인물 대부분이 다음 책들의 저자입니다만, 작중에서의 설정과 언행은 책 내용이나 실제 인물과 무관합니다.

등장인물 소개

• 닉 보스트롬, 넬로 크리스티아니니, 토비 월시는 <기계는 어떻게 생각하고 학습하는가>의 저자입니다.
• 넬로 크리스티아니니는 <기계의 반칙>의 저자이기도 합니다.
• 마일스 다이슨은 영화 <터미네이터>에서 스카이넷을 만들어낸 인물입니다.

+ <AGI의 시대> 저자 한상기 님은 소설에 등장하지 않는 대신, 책 제목을 시리즈 0편의 제목으로 차용했습니다.