최재욱 디엘지 파트너 변호사는 'AI 시대의 HR 작업 변화와 법적 판단 조명'이라는 주제를 통해 "AI 기술은 법률적 측면에서 큰 영향을 미치고 있으나, AI 전반을 조직의 법률적 측면에서 다룰 경우 신중한 접근이 필요하다"고 말했다. AI 시대가 조직문화 및 규범적 측면에서 다양한 존재감을 자랑하지만, 이를 지나치게 맹신하지는 말아야 한다는 주장이다.
AI, 법으로 뛰어들다
최재욱 변호사는 AI 전반의 큰 흐름을 조명하며, 그 강력한 파괴력에 주목했다. 특히 생성형 AI가 등판하며 기업의 생산활동에 혁명적 변화가 오고있기 때문이다.
실제로 딜로이트에 따르면 아시아-태평양 지역 내 기업 직원 43%는 업무에 생성형 AI를 활용하고 있으며 학생 60%는 생성형 AI가 커리어에 영향을 미쳤다고 응답했다. 또 기업들은 AI 투자액이 2022년 250억달러에서 2030년 1,170억달러까지 올라 약 5배 커질 것이라 밝혔다
아시아-태평양 지역 전체에서 매년 약 11억 시간에 이르는 근로 시간에 영향을 미칠 것으로 예상된다. 전체 근로 시간의 17%에 달하는 수치다. 또 직원들은 향후 5년간 생성형 AI 기술이 업무의 61%에 영향을 줄 것으로 예상했으며, 단기간에 큰 변화가 예상되는 4개 산업은 아시아-태평양 경제의 20%를 차지하는 금융, 정보 통신 기술(ICT) 및 미디어, 전문 서비스, 교육 분야가 꼽혔다. 딜로이트는 혁신에 적극적이고 대규모 시스템에 제약을 덜 받는 스타트업과 스케일업 기업들이 생성형 AI 혁신을 끌어갈 것이라 봤다.
생성형 AI는 작업 효율에도 큰 도움이 된다. 생성형 AI 사용자의 약 80%가 작업 속도 향상 및 소요 시간 절감 효과가 있다고 답했으며, 이들은 평균 주당 약 6.3시간을 절감하는 하는 것으로 나타났다. 이를 통해 생성형 AI 사용자의 71%가 새로운 아이디어를 만드는 능력이 향상됐고 67%는 새로운 기술을 배우는 능력이 향상됐다고 답했다. 생성형 AI 활용으로 직원의 78%가 ‘워라밸을 개선시켰다’고 답하는 등 직원의 육제적, 신체적 소진도 줄일 수 있다. 생성형AI로 ‘업무 및 학습의 성격이 달라졌다(81%)’ ‘직장 동료에게 도움을 주는데 활용했다(78%)’ ‘업무 및 학습에 활용한다(87%)는’ 답변도 많았다.
법률도 마찬가지다. 최재욱 변호사는 "이미 AI를 활용해 AI 법률자문의 대중화 시대가 열리는 중"이라면서 "이제 고객들이 AI로 미리 법률자문을 받아본 후 로펌에게는 '문제가 없느냐?'라 물어보는 수준에 머무는 시대"라고 말했다. 최근 등판하고 있는 AI 변호사들의 성능은 초보 인간 변호사에 필적하다는 평가도 내놨다. AI 기술을 바탕으로 실생활에 가장 밀접하게 자리하고 있는 법적 규범의 기본적인 측면을 '커버'할 수 있다는 뜻이다.
물론 AI의 환각문제도 있다. '너무나 자연스럽게' 거짓말을 하는 AI의 문제잠은 여전히 심각하다. 다만 그 보다는 AI 전반의 기술력과 능력에 더 집중해야 한다는 설명이다. 최 변호사는 "AI에 모든 법률적 판단을 맡기는 것은 불가능하다"면서도 "특히 AI의 환각문제 등 사실관계에 큰 문제가 될 수 있는 지점에는 입체적인 고려가 필요하다"고 말했다.
HR, AI로 진화한다
AI 기술의 발전으로 디지털 HR 3.0 시대가 열리고 있다. 최재욱 변호사는 "AI 기술의 등장으로 내외부의 다양한 데이터를 HR에 활용할 수 있는 기회를 잡았다"면서 "채용 및 인사관리는 물론 일부 기업의 경우 직원의 퇴사를 예측하고 이에 대비하는데 AI가 사용되기도 한다"고 말했다. 이미 삼성 등 대기업들은 AI로 사용자 맞춤형 교육을 진행하는 한편 월마트의 경우는 인력의 배치도를 AI가 결정할 정도다.
더인포메이션은 지난해 말 소식통을 인용해 구글이 3만명에 이르는 광고 판매 부문에 대한 대규모 개편을 계획하고 있다고 보도했으며, 이같은 대규모 구조조정의 배경에는 '생성형 AI의 확대'가 있다는 분석이 나온 바 있다. 생성형 AI가 기존 직원들이 하던 일을 대체하며 인력이 기존만큼 필요하지 않기 때문이다. 실제로 구글은 생성형 AI 기능을 탑재해 헤드라인, 이미지 등을 자동 생성하며 광고 제작 효율을 극대화한 바 있다.
가트너 조사에 따르면 실제 관리 업무의 69%는 AI로 자동화할 수 있다. 챗GPT의 오픈AI에 대항해 바드와 제미니를 공개하며 생성형 AI 기술을 발전시킨 구글 직원들이 자신들의 손으로 만든 AI에 일자리를 위협받는 순간이다.
문제는 AI가 완벽하지 않다는 점이다. 최 변호사는 "AI 알고리즘에 문제가 없는지, AI가 올바른 판단을 내렸는지, 그 결과가 법률적 문제가 없는지는 살펴봐야 한다"면서 "AI가 100% 완전무결한 것은 아니기에 인간의 개입 가능성은 어느정도 열어야 한다"고 말했다. 개인정보보호, 차별금지, 결정과정의 투명성 등에서 AI의 결과물이 문제가 될 수 있기에 인간의 '보정'은 반드시 필요하다는 뜻이다.
최 변호사는 "개인정보보호 측면에서는 AI가 대량의 정보를 수집, 처리함에 따라 GDPR, CCPA, 각국의 개인정보보호법에 따른 절차를 지켜야하며 특히 아동이나 민감 정보에 대한 개인정보는 특히 유의해야 한다"면서 "기술적 보호 조치 등이 필요한 경우가 발생하는 한편 대규모 해킹 문제 등에도 지켜봐야 할 포인트가 많다"면서 "차별 금지에서는 AI의 알고리즘이 편향적인 결정을 내릴 우려가 있음을 알아야 하며 차별 등을 금지하고 공정성을 확보할 수 있는 가이드라인 등에 대한 고민이 필요하다"고 강조했다.
결정과정의 투명성 측면에서는 아마존의 대량 해고 사례를 공유해 눈길을 끌었다. 2017년 8월부터 2018년 9월 사이 물류센터 직원 약 300명이 정량적 기준으로 해고를 당한 가운데 정 변호사는 "최종적으로 해고에 있어 아마존 관리자가 동의했기에 큰 문제가 없었다고 하지만, 앞으로 결정과정의 투명성이라는 패러다임 아래에서 의미심장한 일들이 많이 벌어질 것"이라 말했다. AI라는 '투명한 도구'를 내세우는 사이 그 아래에서 정성적으로 평가될 여지가 있는 다양한 가치들이 모조리 사라질 수 있다는 경고다.
인력 구조 측면에서 AI 판단이 아직 법적으로 받아들여지지 않고 있는 이유다. 아마존이 2017년 결국 AI 채용 시스템을 폐기한 이유도 여기에 있다. 최 변호사는 "뉴욕의 경우 뉴욕 시민을 고용하는 기업은 매년 독립된 외부기관의 평가를 받고, 채용 과정에서 AI 시스템을 활용한다는 것을 공지해야 한다"면서 "AI와 HR의 관계정립은 아직 완전하지 않다"고 말했다.
그는 "미 정부에 따르면 포춘 기업의 99%가 채용 절차에 AI를 이용하고 있고 골드만삭스의 경우 인턴 채용에 AI 활용하여 지원자 23만6000명 중 1.5% 선발하는 중"이라면서도 "현실적으로는 고려해야 할 것들이 많다"고 강조했다.
한편 최 변호사는 AI 관련 입법 동향을 설명하며 유럽의 AI법 제정에 특히 주목했다.
이에 앞서 유럽연합(EU)은 지난 3월 프랑스 스트라스부르에서 열린 본회의를 통해 세계 최초로 마련한 '포괄적 인공지능(AI) 규제법' 최종안을 가결시킨 바 있다. 찬성 523표, 반대 46표, 기권은 49표였다.
AI 위험성을 카테고리로 분류, 그 투명성을 극대화시키는 한편 관련 가이드 라인을 어길시 천문학적인 벌금을 부과하는 것이 골자다. 법안은 크게 ▲시민권리·민주주의에 위협이 될 수 있는 AI 금지 ▲법 집행 기관에 대한 예외 허용 ▲범용AI에 대한 가드레일 제정 ▲혁신 중소기업 지원 등으로 이뤄져 있다.
EU가 발의한 AI법은 AI의 부작용 및 그림자를 걷어내기 위한 전략이다. 실제로 EU의 AI법은 말 그대로 '규제'에 방점이 찍혔다. 최근 세계적인 팝 가수 테일러 스위프트의 얼굴을 합성한 딥페이크 음란물이 광범위하게 유포되는 등 AI 논란이 커지는 상황에서 이를 바로잡으려는 시도가 담겼다는 평가다.
법안에 따르면 앞으로 AI는 EU 저작권법을 반드시 준수해야 하며 사이버 공격, '유해한 선입견' 전파 등의 사고 발생을 이를 위반하지 말아야 한다. 별도의 정보 공개·고지 의무도 부과되며 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 '사회적 점수 평가'(social scoring·소셜 스코어링) 등 일부 AI 기술 활용은 원천 금지된다. 실시간 원격 생체인식 식별 시스템 사용도 사실상 금지된다. 이를 위반할 경우 글로벌 매출의 1.5%에서 최대 7%에 해당하는 과징금이 부과될 수 있다.
최 변호사는 현장에서 유럽 AI법의 규제 내용 등을 설명하며 "제한적 위험의 AI 시스템 고지 및 투명성 해명 의무를 비롯한 다양한 규제들이 마련되어 있다"면서 "이를 어길 경우 매출의 3%를 벌금으로 내야 하는 등 막강한 규제로 볼 수 있다"고 말했다. 이어 "유럽의 AI법은 글로벌 스탠다드가 될 것이며, 기업의 HR 전문가들도 이에 촉각을 곤두세워야 할 것"이라 말했다.
물론 EU의 AI법은 단순한 규제의 틀이 아니다. 미국 실리콘밸리가 주도하는 AI 웨이브에 맞서 역내 AI 기초체력을 강화하려는 의도도 깔렸기 때문이다. 미국이 현재 글로벌 AI 시장을 주도하는 가운데 그 영역이 조금씩 유럽으로 확장되자 이에 위협을 느낀 EU가 AI법이라는 방어막으로 최후의 방어선을 설정했다는 뜻이다. 구체적으로 AI법이라는 방어선으로 막강한 미국의 AI 경쟁력이 유럽에 침투하는 속도를 늦추고, 그 틈을 노려 자체 기초체력을 키우는 전략이다.
다만 그 이면에 숨은 전략은 차치하더라도, EU의 AI법이 AI 전반에 대한 규제로 여겨지며 글로벌 스탠다드에 큰 영향을 줄 것이라는 전망에는 역시 힘이 실린다. 그 의도야 어떻든 EU의 AI법은 HR 전반의 다양한 역할론에 입체적인 시사점을 제공하기 때문이다.
미국 동향도 설명했다. 최 변호사는 "2023년 바이든 대통령은 안전성, 보안성, 신뢰성 있는 AI의 개발 및 사용에 대한 행정명령에 서명한 바 있다"면서 "국가 및 경제 안보, 공공 안전 등에 영향을 미치는 AI 모델은 훈련 단계부터 정부에 고지하도록 하는 방안이 핵심"이라 말했다. 그는 이어 "국방물자생산법에 근거해 미국 기업의 AI 기술을 이용하는 외국인(기업)까지 적용 대상에 포함하고 미국 클라우드 서비스제공자의 외국 고객 명단 신고 의무화에 나서는 중이지만 이는 중국을 견제하는 수준에 머물렀다"고 평가했다.
한국의 상황도 조명했다. 최 변호사는 "22대 국회에서 인공지능 관련 법에 대한 논의가 원점에서 진행 중"이라며 "서로 다른 기준의 국제 표준에 대한 통합 등의 논의가 필요한 상황"이라 말했다.
최 변호사는 나아가 "AI 관련 법률 제정 및 AI 국제 표준에 대해서는 많은 논의가 이뤄지고 있다"면서 "HR의 경우 유럽연합 AI법 등에 일부 접촉될 수 있으며, AI 시스템과 관련된 규제는 사업자가 반드시 유의해야 한다"고 말했다. 현재 한국 AI 관련법이 제정되어 있지는 않지만, HR 관련은 EU AI ACT의 고위험 AI 시스템에 해당할 가능성이 높다고 판단되지만 이를 이용한 사용자의 경우는 노동 관계 법률의 해석의 문제로 보인다 부연하는 한편 "AI 판단만으로 HR 관련 결정을 할 경우(특히 해고)의 경우 그 결정이 위법할 위험성이 높기 때문에 보조적인 수단으로 사용하여야 할 것"이라 강조했다.
