2017년 구글 딥마인드가 개발한 체스 인공지능(슬롯 꽁 머니) ‘알파제로(AlphaZero)’가 역대 최강의 체스 프로그램이었던 스톡피시를 꺾으며 반향을 일으켰다. 알파제로는 이례적인 전술을 선보였는데 인간 플레이어였다면 어떻게든 지키려 했을 퀸을 과감히 희생시켰다. 인간의 두뇌로는 감당하지 못하는 방대한 경우의 수를 검토해 승률을 극대화할 수 있는 수를 둔 것이다.

이처럼 슬롯 꽁 머니는 놀라운 결과물을 보여주지만 왜, 어떻게 이 결론에 도달했는지 인간이 공감하고 이해할 수 있는 방식으로 설명하진 않는다. 체스 게임에서 슬롯 꽁 머니의 도움을 받을 땐 문제가 안 될 수 있지만 국가 안보와 직결된 사안이라면 어떨까? 재난이나 전쟁 상황에서 슬롯 꽁 머니가 더 많은 사람을 구하기 위해 일부 국민의 생명을 희생시키라고 지도자에게 권고한다면 무엇을 근거로 이를 따르거나 거부할까?