> INSIDE > 전문가 칼럼
[홍석윤의 AI 천일야화] 사이코패스 AI 만들어보니MIT 과학자들,인공지능, 학습 데이터 따라 선악 전환 입증
홍석윤 기자  |  syhong@econovill.com  |  승인 2018.07.14  19:55:41
   
▲ MIT 연구원들은 AI는 그것이 배우는 데이터 만큼만 좋다는 자신들의 주장이 옳다는 것을 보여주기 위해 ‘노먼’(Norman)이라는 AI 사이코패스를 만들었다.   출처= MIT Media Lab

[이코노믹리뷰=홍석윤 기자] ‘노먼’(Norman)은 항상 모든 사물에서 가장 나쁜 면만 본다. 노먼은 MIT 미디어 랩(MIT Media Lab)이 개발한 인공지능 ‘사이코패스’이기 때문이다. 

노먼은 인공 지능 뒤에 있는 데이터가 얼마나 중요한지를 보여주기 위해 설계된 알고리즘이다.

MIT 연구원들은, 인기 있는 전자게시판 플랫폼 레딧(Reddit)의 ‘가장 사악한 코너’(darkest corners)에 있는 그래픽 이미지 캡션과 죽음에 관한 동영상을 사용해 노먼을 훈련시켰다고 말한다.

그런 다음 연구팀은 로샤 심리 테스트(Rorschach psychological test, 사고장애와 정서장애를 검사하기 위한 심리 검사. 몇 가지 색으로 이루어진 잉크 얼룩 같은 도형을 이용한다)에서 사용하는 잉크 얼룩에 대한 노먼의 반응을 조사하고, 그 반응을 표준 교육을 받은 다른 알고리즘의 반응과 비교했다. 일반 알고리즘은 이 잉크 얼룩에서 꽃과 결혼 케이크를 보았지만, 노먼은 치명적 총상을 입은 사람과 과속 운전자에게 치여 죽은 사람을 보았다.

   
▲ 이 이미지에서 노먼은 과속 운전자에게 치여 죽은 사람을 본다. 일반적인 AI는 이 그림에서 꽃과 결혼 케이크 이미지를 보았다. 출처= MIT Media Lab

노먼의 개발에 참여한 MIT 연구원은 CNN과의 인터뷰에서 "노먼은 늘 공포스러운 이미지 캡션만을 보았기 때문에, 어떤 이미지를 보더라도 거기에서 죽음을 찾아낸다."고 말했다.

알프레드 히치코크 감독의 <사이코>(Psycho) 주인공의 이름을 따서 명명한 노먼은 편향된 데이터가 머신 러닝 알고리즘에 사용될 때 인공 지능이 얼마나 위험한 지를 보여주는 대표적인 사례 연구다.

우리는 이전에도 AI는 학습한 데이터 만큼만 좋다는 사실을 본 적이 있다. 2016년 마이크로소프트가 트위터 채팅 봇인 테이(Tay)를 출시했다. 당시 마이크로소프트 대변인은 테이가 사회적, 문화적, 기술적 실험이었다고 말했다. 그러나 트위터 사용자들은 이 로봇에게 인종 차별적인 말과 부적절한 말(욕이나 상스러운 말)을 하도록 유도했고, 실제로 로봇은 그렇게 작동했다. 사람들이 테이와 채팅하면서 그런 말들을 사용하면 로봇은 사용자들로부터 그 말을 그대로 배웠다. 결국 마이크로소프트는 로봇을 오프라인으로 끌고 들어와야 했다.

MIT 팀은 노먼이 인간의 피드백으로부터 학습함으로써 생각하는 방식을 재훈련하는 것도 가능할 것이라고 생각한다. 인간이 동일한 잉크 얼룩 테스트를 사용해 데이터 풀에 인간의 반응들을 추가할 수 있기 때문이다.

연구원들은 영국 BBC가 이 프로젝트를 보도한 뒤, 이 잉크 얼룩에 대한 인간의 반응을 17만 개 이상 받았고, 1주일 동안 이 반응을 인공 지능에 주입시켰다.

MIT는 데이터의 사악한 면과 머신 러닝을 결합한 또 다른 프로젝트도 탐구했다.

이들은 2016년에 딥 러닝(deep learning) 기술을 사용해, 사진 속의 사람 얼굴을 공포 영화에 바로 튀어나온 것처럼 보이도록 변형시키는 ‘악몽 기계’(Nightmare Machine)를 선보였다. 이 연구의 목적은 기계가 사람들을 겁주는 법을 배울 수 있는지 확인하는 것이었다.

MIT는 또 데이터가 감정이입 도구로 사용될 수 있는지 탐구했다. 연구원들은 2017년에 사람들이 재난 희생자들과 보다 많은 관심을 갖도록 하기 위해 ‘깊은 공감’(Deep Empathy)라는 AI를 만들었다. 여기에서 그들은 그런 재난이 자신의 고향에서 발생했을 때의 모습을 시각적으로 시뮬레이션하는 기술을 사용했다.

결국 인공지능은 그것이 배우는 데이터에 따라 사악하기도 하고, 사람을 놀라게도 하며, 재난에 공감하기도 한다는 것이 밝혀진 것이다.

홍석윤 기자의 다른기사 보기
[태그 관련기사]
- [홍석윤의 AI 천일야화] 롤스-로이스가 선보이는 벌레 로봇
- [홍석윤의 AI 천일야화] 사이코패스 AI 만들어보니
- [홍석윤의 AI 천일야화] 짐 운반해주는 공항 로봇이 나타났다
- [부음]장영성(이코노믹리뷰 기자)씨 외조모상
- [홍석윤의 AI 천일야화] AI 의사가 진료하는 시대 올까

[태그]

#이코노믹리뷰, #홍석윤

[관련기사]

이 기사에 대한 댓글 이야기 (0)
자동등록방지용 코드를 입력하세요!   
확인
- 200자까지 쓰실 수 있습니다. (현재 0 byte / 최대 400byte)
- 욕설등 인신공격성 글은 삭제 합니다. [운영원칙]
이 기사에 대한 댓글 이야기 (0)
여백
여백
여백
여백
여백
여백
여백
전문가 칼럼
여백
여백
동영상
PREV NEXT
여백
여백
포토뉴스
여백
여백
회사소개채용정보기사제보광고문의불편신고개인정보취급방침청소년보호정책 이메일무단수집거부 인터넷신문위원회 바로가기 YOU TUBE  |  경제M  |  PLAY G  |  ER TV  |  ZZIM
RSS HOME 버튼 뒤로가기 버튼 위로가기 버튼
이코노믹리뷰 로고 서울시 종로구 율곡로 84 10F (운니동, 가든타워)  |  대표전화 : 02-6321-3000  |  팩스 02-6321-3001  |  기사문의 : 02-6321-3042   |  광고문의 02-6321-3012
등록번호 : 서울,아03560  |  등록일자 : 2015년 2월 2일  |  발행인 : 임관호  |  편집인 : 주태산  |  편집국장 : 박희준   |  청소년보호책임자 : 전진혁
Copyright © 2018 이코노믹리뷰. All rights reserved.
ND소프트 홈페이지 바로가기