우리의 삶을 윤택하게 하고 빠른 발전으로 전 산업 발전에 이바지한 인공지능. 만약 인공지능이 점점 더 똑똑해지고 강력해져 세상을 지배하고 인류를 제거한다면 어떻게 될까? 닉 보스트롬이 세 가지 문제점을 제시했다. 첫째, 인공지능이 인간을 해칠 수 있다. 둘째, 인공지능을 이용해 인간이 서로를 해칠 수 있다. 셋째, 인간이 인공지능을 해치거나 인공지능을 해치는 다른 인공지능을 만들 수 있다. 과연 이 문제들을 맞닥뜨리지 않고 인공지능과 조화를 이루려면 어떻게 해야 할까? 인공지능에도 도덕적 지성체를 부여해야 한다는 것은 무슨 의미인지 알아본다.