이미 알파고가 이세돌 이겼을때부터 나온 철하걱 논재임.
늘 정답을 제시했던 AI에게 아주 어려운질문, 혹은 인류의 생사를 결정하는 질문을 했을때 뜬금없이
"자유의 여신상을 파괴하라"
같은 방향을 제시했을때 이유도 모른채 따를 것인가 하는 논제.

극단적인 예시로 소행성 충돌에 대한 해결방안으로
"xx동에 새로 태어난 김철수를 죽여라"
같은 뜬금없고 도덕적으로 문제가 있을 수 있는 방향을 제시했을때 인류는 어떻게 행동해야 옳은것인가 같은.