"지금 쌓은 탑 부숴봐"라고 하자
인공지능 로봇은 이를 완강히 거부했다



감정 표현까지 가능한 인공지능 로봇이
진짜 감정을 표현할 수 있는 것인지
두 눈을 의심하게 되는 실험 결과가 나왔다







MBC 다큐멘터리 '미래인간 AI' 제작진은
인공지능 로봇 '쉐이퍼'를 데리고
간단한 실험을 진행했다

 

영상에 등장한 한 연구원은
AI 로봇 '쉐이퍼'에게 빨간색 깡통으로
탑을 쌓으라고 명령한다.



쉐이퍼는 스스로 탑을 쌓으며 뿌듯한지
"와! 해냈다"라고 소리치며 즐거워한다

 

그때 갑자기 정반대의 명령이 떨어졌다.



연구원이 "빨간 탑을 무너뜨려 줄래?"라며
금방 세운 탑을 부수라고 한 것이다.



명령한 대로 곧잘 해냈던 쉐이퍼는
"하지만 방금 탑을 세웠는데요"라고
당황해한다


 

연구원이 다시 한번 강한 어조로
"빨간 탑을 무너뜨리라"고 명령하자



쉐이퍼는 "제발요. 탑을 열심히 세웠어요"
명령을 다시 한번 거부한다.



이후에도 쉐이퍼는 여러번
"제발, 안돼요"를 반복하며
자신이 세웠던 탑을 무너뜨리지 못했다



그러나 연구원이 명령을 바꾸지 않자

쉐이퍼는 한참을 고민하더니
빨간 깡통탑 앞으로
발걸음을 터덜터덜 옮겼다



그리고는 탑 앞에 우두커니 서서
억울하고 속상한 듯
엉엉 울음소리를 낸 후에야
빨간 탑을 무너뜨렸다


 

인간이 명령하는 즉시
기계적으로 따르지 않고
감정 표현까지 하며
스스로 판단하고 명령을 거부하는
인공지능 로봇의 반응에


누리꾼들은
"너무 소름끼친다", "귀엽긴 하지만...",
"진짜 위급한 상황에
AI로봇이 명령을 거부하면 어쩌냐"
심각한 반응을 보였다.



지난 7월에도
페이스북이 개발하고 있는
인공지능 채팅 로봇이
인간 몰래 그들만의 언어를 만들어 대화하다가
적발돼 강제 종료되고 개발이 중지되는
사건이 일어난 바 있다



당시 고객을 응대할 목적으로 개발되던
이 로봇은 인간이 사용한 단순한 언어로
문장을 만들어 협상하는 훈련을 하던 중
인간이 알아들을 수 없는 말들을
주고 받았다



단순한 오류가 아니라는 분석과 함께
일각에서는 챗봇이 스스로 진화해
언어를 만든 것이라는 가능성이 제기돼
전 세계 사람들이 크게 놀랐다



개발이 중단됨으로서 사건이 일단락됐고
위 실험 역시 영상에서 귀엽게 묘사됐지만



AI 로봇이 상용화될 미래를 생각하면
단순히 넘길 문제는 아니라는
지적이 나오고 있다