구글의 켄트 워커 법무담당 부사장이 18일(현지시간) 파이낸셜타임스에 구글이 극단주의에 대처하는 4가지 방법에 대해 기고했다. 다음은 기고문 전문이다.

▲ 츨처= 파이낸셜 타임스 캡처

우리는 테러리스트들이 우리 사회를 제멋대로 휘젓고 다니도록 내버려 두어서는 안 됩니다.

테러리즘은 무방비 상태의 사회를 공격하는 것이며, 폭력과 증오에 의한 위협에 맞서는 일은 우리에게 중대한 도전입니다. 구글과 유튜브는 이제 그 해결 방안의 일부가 될 것을 약속합니다. 우리는 정부, 사법 기관, 시민 사회 집단과 협력해 온라인에서 벌어지는 폭력적 극단주의를 막을 것입니다. 우리의 서비스에 테러리스트들이 좋아할 공간이 있어서는 안 됩니다.

우리는 이미 몇 년 전부터 우리의 정책을 위반한 콘텐츠를 식별하고 이를 걸러 내기 위해 노력해 왔습니다. 사실 기업으로서 이를 인정한다는 것은 불편한 진실입니다만, 우리는 더 많은 노력을 기울였어야 한다는 것을 인정합니다.

우리는 우리 플랫폼의 오남용을 살피고 그에 대응하기 위해 전 세계에 걸쳐 수 천 명을 고용했습니다. 우리 엔지니어들은 이미지 매칭 도구를 사용해, 테러리스트의 콘텐츠를 대차 업로드하는 것을 막는 기술을 개발했습니다. 우리는 또 새로 게재된 동영상이 삭제 대상인지 확인하기 위해 콘텐츠 기반 신호를 사용하는 시스템에도 투자했습니다. 전문가 그룹들, 반테러 기관들, 다른 기술 회사들과도 파트너십을 맺고 우리의 노력을 알리며 더 강화해 왔습니다.

그러나, 이제 오늘날, 우리는 한 걸음 더 나아가 4가지 조치를 추가로 취할 것을 약속합니다.

첫째, 우리는 극단주의자들과 테러리스트과 관련된 동영상을 식별하기 위해 우리 기술의 사용을 더 확대할 것입니다. 이것은 쉽지 않은 문제입니다. 테러리스트의 공격을 담은 영상은, BBC같은 방송 매체가 사용하면 정보를 전달하는 보도 뉴스가 될 수 있고, 다른 사용자가 다른 맥락에서 게재하면 폭력의 미화가 될 수도 있기 때문입니다. 우리는 지난 6개월 동안 우리가 삭제한 테러 관련 콘텐츠의 50% 이상을 찾고 평가하기 위해 동영상 분석 모델을 사용했습니다. 이제 우리는 이제 우리는 새로운 "콘텐츠 분류기"를 가르치는 가장 진보 된 기계 학습 연구를 적용해, 그런 테러 관련 컨텐츠를 보다 신속하게 식별하고 제거 할 수 있도록 엔지니어들을 더 많이 투입 할 것입니다.

둘째, 이 문제를 해결하는 것은 단지 기술만의 문제가 아니기 때문에, 우리는 유튜브의 ‘트러스티드 플래거’(Trusted Flagger) 프로그램에서 독립 전문가의 수를 크게 늘릴 것입니다. 기계가 문제가 있는 동영상을 식별할 수는 있지만, 그것이 폭력 선동을 위한 것인지, 종교적인 것인지, 뉴스 가치가 있는 것인지에 대한 미묘한 판단은 인간 전문가가 여전히 중요한 역할을 하기 때문입니다.

많은 사용자 플래그가 부정확할 수 있지만, 트러스티드 플래거 보고자들은 90% 이상 정확하기 때문에, 우리의 노력을 확대할 수 있고 우려가 높은 영역을 확인할 수 있는 것입니다. 이미 이 프로그램에 참여하고 있는 63개의 기관들 외에 50개의 전문 NGO를 더 추가해 이 프로그램을 확대할 것입니다. 이렇게 되면 (특정 인종·성·종교 따위에 대한) 편파적 발언이나 테러리즘 같은 문제들을 전문적으로 연구하는 기관들의 전문가들이 더 많이 활동하게 될 것입니다.

셋째, 우리의 정책을 명백히 위반하지는 않은 동영상, 예를 들면, 선동적 종교나 백인 우월주의 같은 콘텐츠에 대해 보다 단호한 입장을 취할 것입니다. 이런 동영상들에게는 경고가 붙고, 상품화될 수 없으며, 사용자가 댓글을 달 수 없도록 할 것입니다. 결국 이런 동영상들은 조회가 적어지고 차기가 어려워지게 될 것입니다. 우리는 이런 조치가 표현의 자유와, 극단적 공격성 성향을 조장하지 않는 정보에 대한 접속 간에 올바른 균형을 잡을 수 있게 해 줄 것이라고 생각합니다.

넷째로, 유튜브는 반 과격주의 노력을 확대할 것입니다. 그 동안 성공적으로 이끌어 온 ‘변화 창조자’(Creators for Change) 프로그램 위에 증오와 과격 주의를 반대하는 유튜브의 목소리를 홍보함으로써, 이른 바 ‘재전송 방법’(redirect method)을 유럽 전역으로 보다 광범위하게 실행할 것입니다. 이로 인해, ISIS가 사람을 모집하는 온라인 광고를 무력화 시킬 수 있고, 그 광고를 ISIS에 참여하려는 마음을 되돌리게 하는 반테러 동영상으로 바꾸어 재전송할 수 있습니다.

우리는 또 최근, 페이스북, 마이크로소프트, 트위터 등과 같은 동료 회사들과 힘을 합해, 기술을 개발 공유하고 중소 기업들을 지원하며, 온라인 테러리즘을 봉쇄하기 위한 공동 노력을 가속화하기 위한 국제 포럼을 개설할 것을 약속했습니다.

이러한 변화들이 모두 합쳐져 결국 과거와는 다른 상황을 만들어 낼 것입니다. 우리는 문제가 해결될 때까지 계속 협력을 모색할 것입니다. 극단주의자들과 테러리스트들은 우리의 사회 분 아니라 우리의 소중한 가치까지도 파괴하려 들 것입니다. 우리 사회를 제멋대로 휘젓고 다니려 할 것입니다. 우리는 그들을 그렇게 내버려 두어서는 안 됩니다.

우리는 힘을 합해, 우리의 안전과 자유에 대한 위협을 다루는 지속적인 해결책을 구축할 수 있습니다. 그것은 매우 광범위하고 복잡한 도전이지만, 우리의 역할을 다 할 것을 약속합니다.