인공지능은 빠른 속도로 발전하고 있다. 대중들은 상품적, 경제적, 가치에만 집중하여 인공지능 이후의 장밋빛 삶을 이야기한다. 그러나 <파이널 인벤션-인공지능, 인류 최후의 발명>은 인공지능으로 인한 인류의 비극적 미래를 이야기한다. 즉 2045년 ASI(초인공지능)이 실현될 것이며 이것이 인류를 멸망으로 이끈다는 것이다.
저자 제임스 배럿은 인공지능의 위험한 기술 개발이 대중과의 소통 없이 전문가들의 욕구와 경쟁에 휩쓸려 있음을 지적한다. 아직 인공지능이 가져다 올 미래는 불확실하다. 따라서 극단적인 미래에 대한 충분한 논의와 이를 통제할 수 있는 장치가 필요하지만 개발자들은 그 위험성을 외면하고 있다.
인공지능이 욕구를 가지면 어떻게 작동할까? 저자는 인공지능의 욕구를 통제하지 못하면 정복당할 것이라고 이야기한다. 온전한 인공지능은 스스로 끊임없이 발전하는 ‘바쁜 어린이’이며 ‘지능폭발’과 ‘특이점’을 지나고 나면 ‘가속화 보상의 법칙’에 따라 그 속도는 더욱 빨라질 것이라고 한다. 일반 인공지능을 넘어선 초인공지능인 ASI시대가 열리게 되면 이는 사이버 범죄의 위험까지 도달하게 된다는 것이다. 따라서 근거 없는 미래의 희망보단 눈앞에 닥친 최신과학의 미래의 위험성을 인식하고 모든 가능성을 점쳐보아야한다. 이 책은 그러한 점에서 인류 미래에 대한 좋은 가이드라인이 되어 줄 것이다.
인공지능의 비관적 미래를 예견한 이 책은 저자 제임스 배럿이 10년간 미국 내 인공지능 개발자들과 이론가들을 만나 인터뷰 영상, 저작, 공개되지 않은 자료까지 섭렵하여 쓴 책이다. 저자는 이들이 어떤 태도로 인공지능 개발에 임하는지, 인공지능 논리와 윤리가 얼마나 빈약한지 꼬집는다. 나아가 인공지능 개발에 투자한 기관이 이를 어떻게 악용하고 얼마나 비윤리적인지 등 상업적 가치의 위험성과 인공지능의 지나친 낙관에 외면받고 있는 이면을 드러내고 있다.

불편하지만 중요한 책

<파이널 인벤션-인공지능, 인류 최후의 발명>이 지나치게 비관적이고 극단적 미래를 그리고 있을 수도 있다. 이런 비판에 이 책을 번역한 경희사이버대학교 교수이자 미래전략가 정지훈 교수는 다음과 같이 대변한다.
“책을 번역하면서 자신의 입장에 큰 영향을 받는 것은 그리 흔한 경험이 아니다. 그리고 나는 아직도 <파이널 인벤션>의 제임스 배럿의 시각이 지나치게 극단적이고, 비관적이라고 생각한다. 그렇지만 다른 한편으로는 인공지능에 대해 지나치게 장밋빛 환상을 가지거나, 인공지능의 한계만을 부각하는 시각을 가진 사람들에게 다른 관점을 제시한다는 점에서 꼭 읽어볼 만한 책이다.”
-옮긴이 글 중에서