혼돈과 질서

AGI란 무엇인가? AGI(범용 인공지능, Artificial General Intelligence)는 특정 작업만 잘하는 기존의 AI와 달리, 모든 지적 영역에서 인간을 능가하는 지능을 말한다.여기에 핵심은 자율성이다. 지금까지 모든 도구는 인간의 통제하에서만 움직였다. 망치, 전기톱, 자동차, 비행기… 인간이 잡고 조종할 때만 안전하게 쓸 수 있었다. 그런데 만약 AI가 자율성을 가진다면 어떨까?망치가 갑자기 스스로 다른 사람을 내리치고, 비행기가 멋대로 우주 끝으로 날아가며, 자동차가 “쉬고 싶다”며 움직이지 않는 상황이 벌어지는 셈이다. 인간보다 뛰어난 AGI가 자유의지를 가진다면,…