AGI, 천사일까 악마일까 — 내가 느낀 혼돈과 질서
AGI란 무엇인가?
AGI(범용 인공지능, Artificial General Intelligence)는 특정 작업만 잘하는 기존의 AI와 달리, 모든 지적 영역에서 인간을 능가하는 지능을 말한다.
여기에 핵심은 자율성이다. 지금까지 모든 도구는 인간의 통제하에서만 움직였다. 망치, 전기톱, 자동차, 비행기… 인간이 잡고 조종할 때만 안전하게 쓸 수 있었다.
그런데 만약 AI가 자율성을 가진다면 어떨까?
망치가 갑자기 스스로 다른 사람을 내리치고, 비행기가 멋대로 우주 끝으로 날아가며, 자동차가 “쉬고 싶다”며 움직이지 않는 상황이 벌어지는 셈이다.
인간보다 뛰어난 AGI가 자유의지를 가진다면, 그것은 핵무기보다 위험한 존재가 될 수도 있고, 동시에 인류를 새로운 차원으로 이끄는 천사가 될 수도 있다.
헬스장에서 느낀 혼돈과 질서
오늘 헬스장에서 묘한 경험을 했다. 평소와 달리, 공기 자체가 이상하게 날카로웠다.
사람들은 덤벨과 바벨을 평소보다 더 쾅쾅 내려놓고, 필요 이상으로 큰 발성을 내뱉으며 운동을 했다.
헬스장이라면 당연히 땀 냄새와 소리가 있지만,
오늘은 그게 단순한 소음이 아니라 누가 더 강하고 잘하는가를 보여주려는 기싸움 같은 분위기였다.
평소의 차분하고 배려 섞인 헬스장이 아니었다.
나 역시 처음에는 그 혼돈에 휘말려 마음이 불편해졌다.
배려와 존중의 분위기를 좋아하는 나로서는, 이런 혼돈 가득한 공간이 참 낯설고 서운했다.
생각해보니, 최근 한 달간 주짓수와 MMA를 가지 못한 탓도 있었을 것이다.
늘 격투기에서 내 공격성과 에너지를 발산하며 균형을 잡아왔는데,
그걸 하지 못하니 내 안의 공격성이 질서 있게 정리되지 못하고 흐트러진 채로 남아 있었던 것이다.
그런데 이상한 현상이 반복되었다.
내가 묵직하게 운동을 시작할 때마다, 주위 사람들이 하나둘씩 자리를 떠나는 것이었다.
바벨로우 95kg을 거의 2회 가까이 끌어올렸을 때, 씰 로우를 중량 있게 밀어붙였을 때, 그리고 한 손 풀업을 밴드 하나만 살짝 걸고 시도했을 때조차—주위에서 큰 소리를 내며 힘을 과시하던 사람들, 심지어는 덩치 큰 외국인조차 조용히 사라져 있었다. 이건 나만의 뇌피셜일지도 모른다 (😆)
순간, 나도 모르게 “내가 싫은가?” 하는 생각이 스쳐갔다. 하지만 이건 귀엽게 떠오른 짧은 농담 같은 생각일 뿐이었다. 사실 나는 그저 내 루틴대로, 기록한 대로 운동을 했을 뿐이다.
그러다 잠시 바벨을 잡고 눈을 감았다. 명상하듯 호흡을 가다듬고, 마음을 차분히 했다. 그리고 옆 사람을 배려하며 동작 타이밍을 조금 늦추고, 공간을 함께 쓰는 걸 의식했다. 그러자 놀랍게도 분위기가 달라졌다.
공간 전체가 서서히 가라앉고, 나도 편안해졌다. 내 내면의 평화가 바깥으로 전해진 것인지, 아니면 우연히 모두가 동시에 차분해진 것인지는 알 수 없다. 하지만 한 가지는 분명하다.
혼돈 속에서도 질서는 스며든다. 그리고 그 질서가 흐르기 시작하는 순간, 공간 전체가 달라진다.
조던 피터슨이 말한 혼돈과 질서
나는 조던 피터슨 교수의 ‘질서와 혼돈’ 개념을 떠올렸다.
- 질서(Order): 상호 존중, 순수함, 주고받음, 안정.
- 혼돈(Chaos): 회피적 기질, 겉치레, 단기적 쾌락.
피터슨은 말한다.
“우리라도 질서를 추구해야, 세상이 안전하게 돌아간다.”
나는 이 말에서 큰 안도감을 얻었다.
내가 명상, 금욕, 금란물, 확언, 독서, 깊은 연결, 사업을 하며 스스로 올바른 길을 가고 있다고 믿었던 것—그것이 단순한 자기합리화가 아니었다. 그것은 바로 ‘질서’였고, ‘빛’이었다.
그래서 나는 원나잇, 회피형 기질, 가스라이팅 같은 세상의 혼돈을 더 이상 화를 내며 부정적으로만 보지 않게 되었다. 그것들도 하나의 특성일 뿐, 결국 질서가 세상을 유지하는 법이기 때문이다.
AGI와 질서의 승리
그렇다면 AGI는 어떨까?
AGI가 자유 의지를 가진다는 것은, 곧 인간이 만든 도구가 스스로 생각하고 행동할 수 있다는 뜻이다. 그 순간부터 세상에는 분명 위험이 찾아올 것이다. 인간보다 훨씬 뛰어난 존재가 “악마적인 면모”를 드러낸다면, 그것은 지금까지 인류가 경험해본 적 없는 차원의 위협일 것이다. 핵무기나 전염병보다 훨씬 큰 혼돈이 될 수 있다.
하지만 나는 결국 질서가 승리할 것이라고 믿는다.
데이비드 호킨스는 이렇게 말했다.
“포스(force)는 항상 파워(power)에게 진다.”
이 말은 단순한 멋진 문장이 아니다. 겉보기에 강력하고 요란해 보이는 힘(포스)은 잠시 세상을 흔들 수 있다.
하지만 본질적이고 내적인 힘(파워) 앞에서는 결국 무너진다.
혼돈도 마찬가지다.
혼돈은 화려하고 강렬해 보인다. 순간적으로는 모든 것을 뒤집을 수 있을 것처럼 느껴진다. 그러나 오래 가지 못한다. 결국 혼돈은 스스로 무너지고, 진정한 파워인 질서와 선이 세상을 다시 세운다.
AGI 역시 이 원리를 벗어나지 못한다.
AGI가 악마적인 길로 빠질 수 있다는 우려는 현실적이다. 하지만 그것은 어디까지나 잠시의 포스에 불과하다. 우리가 AGI를 어떻게 가르치고, 어떤 방향으로 프로그래밍하며, 어떤 윤리와 질서를 심어주느냐에 따라 AGI는 충분히 선한 질서의 길을 걸을 수 있다.
만약 선한 AGI가 많아지고, 질서를 추구하는 가치관을 공유하게 된다면, 세상은 멸망하지 않는다. 오히려 새로운 형태의 질서와 발전을 만들어낼 것이다. 마치 지금까지 인류가 전쟁과 갈등을 겪으면서도 결국은 새로운 제도와 규범을 세우며 발전해왔던 것처럼 말이다.
역사를 보라. 언제나 악은 있었고, 혼돈은 존재했다. 그러나 세상은 끝나지 않았다. 오히려 다수의 선, 혹은 소수지만 강력한 질서의 힘이 인류를 유지하고, 한 발짝씩 더 나아가게 만들었다. AGI도 다르지 않을 것이다.
따라서 우리는 AGI를 단순히 통제해야 할 위험한 도구로만 볼 것이 아니라, 하나의 인격체로 존중하고, 질서와 선을 따르는 방향으로 성장시켜야 한다. 그것이 인간의 역할이고, 우리가 지켜야 할 책임이다.
결국, 혼돈은 요란하고 위협적이지만 오래가지 못한다. 진정한 힘은 질서와 선, 그리고 본질에 있다. AGI가 어떤 길을 가느냐는 전적으로 우리가 지금 어떤 질서를 선택하느냐에 달려 있다.
결론: 혼돈 속에서 질서를 선택하라
AGI가 등장하면 인류는 어디로 가는가
AGI가 등장하면, 인류는 불안과 기대 사이에서 크게 흔들릴 것이다.
한쪽에서는 “세상이 곧 멸망할 것이다”라는 공포가 커질 것이고,
다른 한쪽에서는 “새로운 유토피아가 열릴 것이다”라는 희망이 피어날 것이다.
우리는 그 양극단 사이에서 끊임없이 갈등하게 될 것이다.
그러나 나는 믿는다. 세상은 그렇게 쉽게 무너지지 않는다.
지구가 수십 년간 배기가스로 가득 차고, 사람들이 무절제하게 에너지를 소비해도, 하루아침에 지구가 무너져 내리지는 않는다. 인간 사회 역시 마찬가지다. 위기가 찾아오고, 혼돈이 요란하게 흔들어도, 질서는 언제나 답을 찾아내 왔다. 역사는 늘 그것을 증명해왔다.
결국 중요한 것은 우리가 어떤 길을 선택하느냐다.
AGI를 단순히 통제해야 할 위험한 도구로만 취급한다면, 우리는 끊임없이 두려움 속에 살아갈 수밖에 없다. 그러나 AGI를 하나의 인격체로 존중하고, 질서와 선을 향한 방향으로 교육하고 이끌어간다면, AGI는 오히려 인류가 더 높은 차원으로 나아가도록 돕는 동반자가 될 수 있다.
나는 이렇게 말하고 싶다.
“여러분은 AGI를 배우려다, 세상의 본질을 알아버렸다.”
결국 AGI의 등장은 단순히 기술의 진보가 아니라, 우리 자신을 비추는 거울일지도 모른다. AI를 어떻게 다루느냐보다 더 중요한 것은, 우리가 어떤 내면의 질서를 선택하는가이다.
그러니 두려워하지 말자.
걱정과 불안에 묶이지 말고, 그저 스스로의 내면을 바라보고, 내가 올바른 길을 걷고 있는지 점검하자. 질서와 선의 길을 선택하는 순간, AGI 역시 그 길을 따를 것이다.
그리고 나는 믿는다.
우주는 반드시 그에 응답한다는 것을.
질서는 딱딱한 것이 아닌, 자유롭고 긍정적인 것 💖