캘리포니아 해변에 위치한 아실로마(Asilomar) 회의장은 생태휴양지로 유명한 장소다. 특히 유전자 조작으로 인해 위험한 병원균이 탄생되는 일이 없도록 생명공학의 윤리적 기준을 세운 ‘애실로마 1975’ 회의를 한 곳이다. 같은 장소에서 이번엔 인공지능 관계자들이 모여서 초월적 인공지능이 인류를 해치거나 지배하는 일이 발생하지 않도록 연구개발 과정에서 지켜야 할 23개 조항의 인공지능개발 지침들을 마련했다. 이를 ‘아실로마 AI 원칙(Asilomar AI Principle)’이라 부르며 이 원칙을 만든 가장 큰 목적은 인류가 자손 대대로 인공지능의 혜택을 누릴 수 있도록 예상되는 부작용을 사전에 제거하자는 데 있다.

인공지능이 인간의 두뇌능력을 능가하는 실력을 보인다는 기준으로 초월적 지능을 말한다면 인공지능은 이미 여러 영역에서 인간의 능력 수준을 넘어서는 역량을 보여주고 있다. 대표적인 사례가 암기력과 계산능력, 빅데이터를 정리하고 해석하는 능력이다. 뿐만 아니라 인공지능 ‘알파고’가 프로기사 이세돌을 격파한 바둑게임이나 최근에 벌어진 포커게임에서 인공지능 ‘리브라투스’가 허세를 부리며 베팅을 하는 바람에 포커게임의 고수들이 돈을 잃고 만 것처럼 인간이 우수하다고 여겼던 영역까지도 인공지능기술이 잠재력을 확장해 왔다. 인간의 두뇌역량을 뛰어넘는 인공지능은 앞으로도 더욱 다양한 분야에서 인간의 잠재력을 능가하는 초월적 인공지능 시스템으로 탄생한다고 본다. 엘런 머스크(Elon Musk)는 인간은 이미 생물학적 상태를 벗어난 사이보그이며 스마트폰 등 기계문명장치들을 몸에 지니고 다니면서 이전시대 사람들에 비하면 초월적 지적능력을 발휘하고 있다고 주장하기도 한다.

 

인간의 잠재력이 크게 확장된다

그럼에도 불구하고 초월적 지능을 논하는 이유는 인간의 힘만으론 해결하지 못했던 수많은 과제들이 앞으로 인공지능의 힘으로 효과적으로 해결될 수 있다는 희망이 있기 때문이다. 미래에 등장할 인공지능은 예를 들면 모든 종류의 데이터를 해석하고, 과학이론을 정리하고, 기술을 발전시키고, 세계 경제나 환경과 같은 복잡한 시스템을 예측하고 이해하는 일을 인간보다 훨씬 더 효율적으로 처리할 수 있다고 본다. 자연 언어처리, 시각적 이해 및 스크래치 강화 학습 등 전통적으로 자동화하기 어려운 영역에서도 최근의 기계 학습기술의 성과들은 인공지능의 잠재력이 뛰어날 수 있음을 확인시켜 준다. 많은 임무들을 처리함에 있어서 인공지능을 잘 활용한다면 인간의 힘으로는 불가능하다고 여겼던 복잡한 과제도 무난히 처리해내는 수준까지 인간의 잠재력이 크게 확장될 수 있다고 기대하게 된다.

인공지능 시스템은 데이터나 알고리즘을 기반으로 작동하며 기본적으로 속도나 기능적 효율을 추구한다. 무슨 열정이나 동정심은 갖지 못한다. 하지만 인간의 두뇌활동은 행복, 자기실현, 만족감, 감흥, 편안함 등을 높이는 방향으로 작동한다. 가치와 신념 그리고 마음가짐에 따라서 추진력이 바뀐다. 기계와 달리 억압, 불평등, 가난, 질병을 이기는 길이라면 손해 보는 줄 알면서도 일을 추진한다. 그래서 인공지능의 일처리 방식과 인간두뇌의 일처리 기준이 서로 윤리적으로 상충할 수 있다. 쉽게 말해서 인공지능은 일처리 과정에서 인간의 이익에 반하는 부작용을 일으킬 수 있다. 예를 들면 업무처리 성과를 높이기 위해서 주변의 이익을 침해하거나 미래에 발생할 부작용을 배려하지 않고 가용자원을 모두 끌어다 쓸 수 있다. 그래서 인공지능 시스템을 신중하게 설계하고 사용해야 한다.

보스턴 로보틱스는 자신이 개발한 4족 로봇이 어떤 외부 힘을 받아도 바로 균형을 잡고 선다는 것을 자랑하기 위해서 동영상에 로봇을 발로 차는 장면을 연출해 유튜브에 올렸다. 이를 본 많은 사람들은 로봇을 학대하는 행위로 간주하고 매우 비윤리적이라고 성토했다. 살아 있는 동물이나 사람 모습을 한 로봇에게 폭력을 가하는 모습을 보면 사람들이 매우 불쾌하게 느낀다. 똑똑한 동물 로봇과는 사람들이 정서적으로 교감하게 되고 심지어 고장 난 로봇 장난감에게 장례식을 치러주기도 한다. 오락게임도 마찬가지지만 로봇에게 폭력을 가하는 것이 용인되면 알게 모르게 내면적으로 폭력성이 길러진다. 특히 어린이들에겐 매우 위험하다. 이를 막기 위해서 로봇이 통증을 느껴 신음하거나 고통을 말로 표현하도록 만들 필요가 있다. 만약 인공지능이 계속 발전해 어느 순간에 인간 두뇌와 마찬가지로 감정을 느끼고 인간과 함께 윤리적 기준을 공유할 수 있게 된다면 이를 장착한 로봇은 공상과학영화에 나오는 인조인간이 된다. 인조인간은 사람을 대신해서 스스로 인조인간을 제작할 수도 있으며 스스로 진화하면서 인간의 능력을 뛰어넘는 수준에 이를 수 있으며, 가치 판단력이 인간의 수준을 능가하면서 인간을 하등동물로 취급해 지배할 수도 있다고 본다. 경우에 따라선 인류의 멸종에 이를 수 있다고 주장하기도 한다. 그런 사태를 가정해 많은 공상과학영화들이 제작되곤 한다. 실제로 수십 년 후엔 이론적으로 가능할 수도 있다고 믿는 사람들이 있다. 그런 우려를 불식시키고자 모임을 갖고 의견을 수렴한 결과가 ‘애실로마 AI 원칙(Asilomar AI Principle)’이다. 설령 인공지능 기술 수준이 초인적 인조인간 수준에 이르지 못한다 해도 인공지능을 잘못 다루게 되면 기계가 스스로 판단해서 인간을 해치는 일도 저지를 수 있다는 우려가 깊다.

 

 

인류의 이익을 위한 인공지능

과학자들이 정부와 협력해야 하는 방법부터 치명적인 무기를 다루는 방법까지 모두 23개 조항으로 이루어진 ‘아실로마 AI 원칙’이 담고 있는 기본적인 사상은 인류의 이익을 침해하는 인공지능은 용인하지 않겠다는 다짐이다. 인공지능이 가져올 혜택이 인류 문명발전에 도움이 되며, 일부 계층에 편중되지 않고 가능한 한 모든 사람들에게 고르게 혜택이 돌아가는 프레임을 만들고자 한다. 무분별한 용도로 인공지능을 만들지 말고 항상 인간에게 유익한 지능만을 연구 목표로 삼고자 한다. 인공지능에 의한 자동화가 되더라도 인적자원과 인간의 존재가치를 훼손시키지 않고 인류의 번영을 높이는 연구를 하고자 한다. 과학기술정책과 인공지능 연구 성과는 서로 건설적으로 연계해서 서로 도움을 주고자 한다. 인공지능 시스템 개발자들 간에는 실질적으로 협력하고 신뢰하며 투명하게 공유하는 문화를 조성하고자 한다. 특히 안전 기준을 조금이라도 소홀히 하지 않도록 상호 협력하고자 한다. 인공지능 시스템은 해킹되거나 오작동하지 않도록 강건하게 설계하고자 한다. 만약 인공지능이 어떤 해를 끼치는 경우엔 반드시 그 발생 원인을 규명하고자 한다. 사법제도의 의사결정에 자동 개입하게 되면 권위 있는 인권기구에 만족할 만한 설명을 제공해 감사받고자 한다. 인공지능 시스템은 인간의 권위, 권리, 자유, 문화적 다양성을 최대한 존중하면서 작동되도록 설계하고자 한다. 인공지능이 개인정보를 활용하는 경우엔 반드시 개인이 노출된 데이터 내용을 확인할 수 있고 통제할 수 있도록 한다. 개인정보의 활용으로 인해 개인이 누려야 할 실질적이고 인지된 자유가 부당하게 구속되지 않도록 한다. 인공지능에 의사 결정을 위임하는 경우 인간이 대상을 선택하게 한다. 자율살상무기 경쟁은 피해야 한다.

‘아실로마 Al 원칙’에서는 인공지능이 초래할 장기적 문제들도 포함하고 있다. 우선 합의된 여론 없이 미래 인공지능이 인류가 멸망케 한다는 등 강력한 가설은 삼가야 한다고 정했다. 고도화된 인공지능은 지구생명체의 역사를 심각하게 변화시킬 수도 있으므로 그에 상응한 관심과 자원 배분을 계획하고 관리해야 한다고 한다. 인공지능 시스템이 초래할 수 있는 치명적인 위험 또는 실존적 위험은 예상되는 충격에 비례해 완화시키는 노력과 계획을 해야 한다고 지적한다. 인공지능 시스템은 속성상 반복적으로 자기개선 및 자기복제활동을 하게 되므로 엄격한 통제와 안전조치가 절실하다. 그리고 초지능은 일개 국가나 단체 또는 기관을 위해서 개발되어서는 안 되고, 인류 모두의 이익을 위해서 윤리적으로 이상을 폭넓게 공유할 수 있을 경우에만 개발되어야 한다고 지적한다.

 

인공지능이 초래할 문제에 대응

‘아실로마 AI 2017’ 회의에 참가한 산‧학‧연‧관 관계자들 대부분은 이 제안에 찬성했으며 인터넷에서도 계속 동참자의 서명을 받고 있다. 현재는 인공지능이 악의적이거나 위험한 상태는 아니지만 이 원칙들은 인류에게 무엇이 중요하고 무엇이 그렇지 않은지 논의할 기회를 제공해 준다. 이들 원칙에는 아직도 표현이 애매하거나 모순을 내포하거나 그리고 서로 다른 해석이 제기될 수 있는 여지가 남아 있다. 그렇지만 연구자들은 앞으로 활발한 토론을 거쳐 실무적으로 다뤄야 할 대상을 결정하는 디딤돌이 된다. 특히 인공지능이 앞으로 모든 사람의 삶을 개선하는 데 어떻게 활용될 수 있는지에 대한 목표도 제공해준다.

인공지능기술은 인간의 지능을 다루는 컴퓨터과학의 한 분야에 속한다. 반면 인간의 두뇌지능은 심리학, 윤리학, 경제학, 뇌과학, 생물학, 공학, 통계학, 언어학 등 다양한 학문영역에서 관심 대상으로 삼는 복잡한 현상이다. 자연히 인공지능 기술의 발달은 단순한 계산과학의 영역이 아니고 이들 학문들의 발전과 연관되어야 발전이 가능해진다. 인공지능 기술개발에서 다루는 인공신경망도 원래는 뇌세포를 연구하던 생물학자들이 정보를 교류하는 과정을 연구하면서 만들어낸 개념이다. 다시 말하면 현재 인공지능의 발달에 흥분해 그 수준이 무한히 증폭될 것 같지만 분명한 한계가 존재한다. 두뇌현상은 물리법칙이나 계산의 복잡성 면에서 볼 때 인간이 만들 수 있는 지능시스템으로는 도달하기 힘든 경지에 있다고 본다. 하지만 많은 인공지능 학자들이 인간의 두뇌지능을 능가하는 초지능이 발생한다고 주장하고 있다. 시간이 흘러봐야 알 일이다.