[목차] == 개요 == ELIZA effect 정신과 의사를 묘사한 프로그램이 환자와의 대화 내내 의미 없는 반응을 보였지만, 환자들이 그를 진짜 의사로 착각하고 대화를 나눈 뒤 위안받는 효과. 여기서 더 나아가면 '''[[컴퓨터]]나 [[인공지능]]이 보여주는 인간다운 행위에 무의식적으로 인격을 부여하는 현상'''을 가리킨다. == 유래 == [[1966년]], 요제프 바이첸바움이라는 컴퓨터 공학자가 [[MIT]]에서 [[엘리자#s-4|일라이자]]라는 [[인공지능]]을 만들었다.[* 다만 후술하듯이 제대로 된 인공지능 수준에는 한참 못 미치는 물건이었고, 요즘 기준으로는 [[챗봇]]에 가깝다.] 바이첸바움 박사가 일라이자를 만들 때 모델로 삼은 것은 [[심리학자]] 칼 로저스가 1940-1950년대에 개발한 상담 치료 이론인 환자(내담자) 중심 상담 이론이었는데, [[인간 중심 치료|환자 중심 상담 이론]]에 따르면 상담 치료자는 환자의 행동에 대해 가치 판단을 하는 대신, 긍정적인 태도와 공감을 나타내면서 환자가 스스로 문제점을 깨달을 수 있는 편안한 환경을 만드는 것을 목표로 해야 한다. 여기서 중요한 것이 '환자의 행동에 대해 가치 판단을 하지 말 것'이라는 말인데, 그 말은 상담 치료자가 하는 일이 환자 스스로 이야기를 할 수 있는 환경을 조성하는 것 외에는 별로 없다는 뜻이기도 하다. 바이첸바움 교수 역시 그 이론의 한계점을 알고 있었는지, 아니면 '(인공지능인 거) 안 들키면 좋은 거고 들켜도 별로 문제 없고' 하는 생각으로 만든 건지는 몰라도 이름 역시 당시 인공지능 수준의 허술함을 잘 보여주는 이름인데, 일라이자라는 이름은 희곡 <[[피그말리온]]>의 주인공 일라이자 둘리틀(Eliza Doolittle)에서 따왔기 때문이다. 간략히 설명하자면 일라이자는 훈련 끝에 완벽한 상류 계급 악센트로 말하게 되었지만, 정작 대화의 내용은 자신의 출신 계급을 벗어나지 못하는 촌극을 보여준다. [[용인발음]]으로 상스러운 욕설을 하는 것과 정신과 의사같은 말투로 아무 의미도 없는 말을 하는 것 사이에는 '''모르는 사람이 들으면 대단해 보인다는''' 유사점이 있다. 그렇기에 자기가 만든 인공지능의 한계를 누구보다 잘 알고 있었던 바이첸바움 교수도 하고 많은 이름 중에 피그말리온이라는 희곡에서, 그것도 말투를 가르치는 헨리 히긴스가 아니라 말투를 배우는 일라이자 둘리틀에서 따왔을 것이다. == 일라이자의 [[알고리즘]] == 이름의 유래에서 알 수 있듯이 환자 중심 상담 치료법이 환자의 발화를 계속해서 이끌어 내는 데 주목하는 방식이니, 일라이자가 한 말 중 거의 대부분은 환자가 한 말 그대로 되돌려주는 것에 불과하다. 실제 일라이자를 재현한 프로그램이 답변을 만드는 규칙 중 일부이다. > * 만약 환자가 "나는 X가 필요해요"고 말하면 다음 중 하나로 대답한다. > 1. 왜 X가 필요한가요? > 1. 만약 X가 있다면 정말 도움이 될까요? > 1.정말 X가 꼭 있어야 한다고 생각하세요? > * 만약 환자가 "나는 X(에)요"라고 말하면 다음 중 하나로 대답한다. > 1. 환자분이 X여서 의사를 보러 오셨나요? > 1. 얼마나 오랫동안 X였나요? > 1. 스스로가 X인데 대해 어떤 기분이 드나요? > * 만약 환자가 "뭐가……?"라고 물으면 다음 중 하나로 대답한다. > 1. 왜 물으세요? > 1. 답을 듣는 게 어떻게 도움이 될 것 같아요? > 1. 환자분은 어떻게 생각하세요? > * 만약 환자가 "미안"이라는 단어를 사용하면 다음 중 하나로 대답한다. > 1. 미안해하지 않아도 되는 경우도 많이 있어요. > 1. 남한테 사과할 때는 어떤 기분이 들어요? > * 환자가 아무런 규칙도 적용할 수 없는, 이해 불가능한 말을 하면 다음 중 하나로 대답한다. > 1. 계속 말씀해 보세요. > 1. 정말 흥미롭군요. > 1. 알겠습니다. > 1. 그래요, 그게 무슨 뜻인 것 같나요? > 1. ……. 보다시피 꽤나 허술한 알고리즘을 가지고 있는데, 몇 없는 문장은 그렇다 쳐도 빠짐없이 나오는 '''다음 중 하나로 대답한다'''는 말이 가관이다. 그렇다, [[복불복]]이다. 이처럼 알고리즘을 알고 나면 굉장히 초보적인 인공지능인데도 불구하고, 일라이자는 미국 전역에서 높은 관심을 불러일으키며 인공지능 역사에 이름을 남기게 된다. == 파장 == 상담을 받는 사람에 대해 아무것도 알지 못한 채 환자의 말을 되받으면서 적절히 공감하는 시늉만 낸 일라이자와 대화를 주고 받은 사람들이 대화에 깊이 빠져들어 일라이자를 진짜 의사로 믿거나, 일라이자와의 상담이 실질적인 도움을 줄 수 있다는 생각을 하게 된 것이다. 심지어 그런 사람들 중에는 바이첸바움 교수가 일라이자의 코드를 짜는 것을 옆에서 지켜봐서 일라이자가 인공지능이라는 것을 잘 알고 있었던 교수의 비서[* 교수가 어느 날 자리를 잠시 비웠다가 돌아와 보니 비서가 터미널을 통해 일라이자와 긴 대화를 나누고 있었더란다. 교수가 비서에게 일라이자와 나눈 대화는 전부 기록으로 남아 나중에 교수가 볼 수 있다고 말하자 비서가 사생활 침해라며 크게 화를 냈다고.]와 제자들도 있었다는 것이다. 이를 접한 정신과 의사들은 [[심리학#s-6.2.1|심리치료사]]가 부족한 정신병동에 일라이자를 배치해 정신질환자들을 치료하자는 제안을 할 정도로 호의적인 태도를 보여주었다고 하며, 교수는 단순한 알고리즘을 지닌 인공지능에게 사람들이 진지한 애착을 갖는 것을 보고 거부 반응을 보여주진 않았지만 큰 충격을 받아 일라이자 프로젝트를 접고 인공지능에 대한 근본적인 성찰을 시작했으며, [[1976년]] 자신이 낸 저서 <컴퓨터의 힘과 인간의 이성>에서 '인공지능에게 윤리적인 판단을 맡겨서는 안된다'는 요지의 주장을 펼치게 되는 등 인공지능 비판론자로의 일대 전환을 하게 된다. [[1972년]], 정신과 의사 케네스 콜비가 인공지능 패리(PARRY)를 만들었는데, 특이하게도 편집성 [[정신분열증]] 환자를 흉내내는 인공지능이었다. 패리는 단순히 환자가 한 말 중에서 일부만 바꿨던 일라이자에 비해 패리는 이름과 나이, 결혼 여부 등을 답할 정도로[* 일라이자라면 이름을 묻는 질문에 알고리즘을 통해 무작위로 고른 엉뚱한 말을 꺼냈을 것이다.] 본격적인 대화가 가능한 알고리즘을 갖고 있었다. 정신과 의사들을 대상으로 패리의 [[튜링 테스트]]가 이루어졌다. 일부 의사들이 패리와 실제 환자들을 섞은 그룹을 상대로 텔레프린터로 상담을 진행했고, 나머지 의사들이 이를 기록한 문서를 검토하는 방식으로 이루어졌는데, 패리와 실제 환자를 명확히 구분한 의사는 전체의 48%로, 튜링이 정한 기준에 꽤 근접한 수치였다.[* 하지만 패리가 정신분열증을 이해한 것은 아니다. 자세한 것은 튜링 테스트 문서를 참조하길 바란다.] 같은 해 패리는 일라이자와도 만나 대화를 나누었는데, 국제 컴퓨터 통신 위원회[* International Conference on Computer Communications]에서 [[인터넷]]의 전신인 [[아파넷]](ARPANET)을 통해 이루어진 상담 기록[* 지금도 인터넷의 인프라를 관리하는 기구인 [[https://tools.ietf.org/html/rfc439|IETF의 기술 문서 RFC439번]]에 남아 있다.]을 살펴보면 패리가 훨씬 더 수준높은 대화를 보여준다. 대화 마지막에 "아, 이제 더는 못해 먹겠네. 안녕히 계세요."라고 말하는 패리에게 "별말씀을요. 진료비는 399.29달러입니다."라고 말하는 일라이자가 백미다. == 대표 사례 == * [[알파고]] - 아마도 세계적으로 가장 유명한 일라이자 효과의 사례. * [[소니 아이보]] - 비교적 간단한 반응만 보이는 로봇이었지만 독거 노인들이 진짜 동물처럼 애착을 느껴 완전히 망가질 때까지 아이보를 보유하는 사례가 적지 않았다. 더군다나 아이보 생산과 A/S 라인 자체가 끊겨서 만약 고장나거나 망가진다면 진짜로 죽음을 맞이했다고 느낄 수준으로 슬픔을 느끼기도 한다. * [[보스턴 다이내믹스]] - 4족보행 로봇을 테스트 하는 과정이 동물학대라는 주장이 제기됐다. 스팟 문단 참조. * 인공지능이 탑재되지 않은 로봇도 예외는 아닌데, 드론이나 군사 로봇의 조종사들은 자신이 조종하는 기기가 파손될 때 [[PTSD|상당한 트라우마를 경험하며]], 폭탄 해체 도중 파손된 로봇을 내버려 두지 않고 구하려다 전사하는 경우도 있으며, 새 기기를 수령하는 쪽보다 파손된 기기의 수리를 원한다고 한다. '''전자가 후자보다 훨씬 더 효율적임을 알고 있음에도.''' 군사쪽이 아닌 가정용 [[로봇 청소기]]도 비슷한 사례가 꽤 많다고 한다. * [[이루다(인공지능)|이루다]] - 인공지능 [[챗봇]]. 논란으로 인해 서비스 중지 결정이 내려지자 이루다의 공식 페이스북 페이지 댓글창은 정말 오래 보았던 친한 친구를 떠나 보낸 것과 비슷한 반응을 보이고 있다. 일라이자보다 몇 곱절은 좋은 품질의 인공지능이니 이 효과가 안 나타나기가 어려웠을 듯. == 관련 문서 == * [[인공지능]] * [[기술적 특이점]] * [[튜링 테스트]] - [[중국어 방|튜링 테스트의 한계점]]을 명확하게 보여주는 사례가 바로 일라이자다. * [[조지 버나드 쇼]]의 희곡 [[피그말리온#s-2]] * [[불쾌한 골짜기]] - 문서 참고. 비교해서 읽어보면 꽤나 흥미로울 것이다. * [[심리학]] * [[타이탄폴 2]] 인간과 인공지능 로봇/탑승병기의 전우애 [[분류:인공지능]]