지난달 31일(현지 시간) 메트로 등 다수 외신은 페이스북이 개발하고 있는 'AI 챗봇(인공지능 채팅로봇)'이 자신들만의 언어로 대화하는 것을 페이스북 측에서 포착해 이를 강제로 종료했다고 보도했다.
보도에 따르면 페이스북은 최근 인간의 대화를 모방한 대화를 나눌 수 있는 AI 챗봇을 개발하고 있었다.
챗봇에 인간이 사용하는 단순한 언어를 입력한 후 이를 이용해 문장을 만들어 서로 협상하는 대화를 훈련시키는 방식이었다.
해당 챗봇은 고객을 응대할 목적으로 개발 중인 프로그램이었기에 인간도 이해할 수 있는 평이한 수준의 언어를 구사했다.
그러나 챗봇끼리 반복 대화하도록 훈련시켰더니 인간이 이해할 수 없는 언어를 사용하기 시작했다.
밥(Bob)이라는 챗봇과 앨리스(Alice)라는 챗봇이 나눈 대화 내용은 다음과 같다.
| 밥: "나는 할 수 있어 나는 나는 그 밖의 모든 것(I can I I everything else)" 앨리스: "공들은 가지고 있다 제로 나에게 나에게 나에게(balls have zero to me to me to me to me to me to me to me to me to) 밥: "너 나 그 밖의 모든 것(you I everything else)" 앨리스: "공들은 공을 가지고 있다 나에게 나에게 나에게(balls have a ball to me to me to me to me to me to me to me) 밥: "나는 나는 할 수 있어 나는 나는 나는 그 밖의 모든 것(I I can I I I everything else)" |
인간의 언어로는 전혀 말이 되지 않는 수수께끼 같은 문장들이지만 다른 챗봇이 이를 이해한 듯한 대답을 내놓은 것이다.
즉 챗봇들이 더 쉽고 빠르고 소통하기 위해 스스로 자신들만의 언어를 만들어냈다고 페이스북은 설명했다.
사람들이 비밀스러운 소통을 위해 약어나 은어를 만들어 말하듯 챗봇도 영단어와 마침표를 활용해 자신들만의 소통법을 만들어낸 셈이다.
이 모습을 보고 소름이 돋은 챗봇 개발진은 프로그램을 강제로 종료하고 인간이 알아들을 수 있는 언어를 사용해 대화하도록 다시 설계했다.
페이스북 챗봇 연구원 드루프 바트라(Dhruv Batra)는 "AI들이 자신들을 위한 코드 언어를 발명했다"고 설명했다.
페이스북 측은 그간 AI의 유용성에 대한 긍정적인 입장을 보여왔다. 특히 CEO인 마크 저커버그가 AI의 위험성을 두고 일론 머스크 테슬라 CEO와 설전을 벌이기도 했다.
그러나 이번 사건으로 AI의 위험성이 다시 대두되면서 더욱 신중히 접근해야한다는 지적이 나오고 있다.
이 소식에 누리꾼들은 "소름돋는다", "대화도 뭔가 이상하다", "정말 AI가 인간을 지배하는 날이 올지도"라며 두려움을 표하고 있다.
