아마존웹서비스(AWS)가 생성형 AI의 '환각 현상(Hallucination)'을 최소화하고 응답의 정확성을 수학적으로 검증하는 '아마존 베드록 가드레일 내 자동 추론 검사' 서비스를 정식 출시했다고 8일 밝혔다.

이번에 출시된 서비스는 AI가 생성한 콘텐츠가 사실에 기반하고 비즈니스 규칙을 준수하는지 보장해야 하는 기업들의 과제를 해결하기 위해 개발됐다. 통계적 샘플링이나 사람의 검토에 의존하던 기존 방식과 달리, '형식 검증(formal verification)' 기법을 활용해 AI의 응답이 사전에 정의된 규칙에 부합하는지를 최대 99%까지 수학적으로 검증하는 것이 핵심이다. 이는 지난 10여 년간 AWS 클라우드 인프라 보안에 사용된 것과 동일한 방식이다.

AWS는 이 서비스를 통해 ▲모호한 자연어를 정형화된 논리로 번역하는 문제 ▲조직 내에서 '사실'을 정의하고 지속적으로 갱신하는 문제 ▲규칙 조합의 폭발적 증가에 따른 검증 복잡성 문제 등 AI 추론의 3대 난제를 해결했다고 설명했다.

바이런 쿡 AWS 부사장은 "과거에는 너무 학문적으로 여겨졌던 언어, 문법, 의미와 같은 문제들이 이제는 대중화되었다"며 "우리 팀은 자연어 번역과 확정적 추론에 대한 접근 방식을 지속적으로 개선해 왔다"고 밝혔다. 서비스는 최대 100페이지 분량의 문서를 한 번에 처리하고, 테스트 시나리오를 자동 생성하는 등 사용자 편의 기능도 갖췄다.

특히 헬스케어, 금융 등 규제가 엄격한 산업에서 이번 서비스가 기업용 AI 도입의 큰 장애물을 해결할 것으로 기대된다. AWS의 파트너사인 PwC 등은 이미 의약품 콘텐츠 검토, 보험 청구 처리 등 다양한 분야에 이 기술을 적용하고 있다. AWS는 이 서비스가 자율적으로 행동하는 에이전트형 AI 시스템으로 전환하는 기업들에 필수적인 신뢰를 제공할 것이라고 강조했다.

'자동 추론 검사' 서비스는 현재 미국, 유럽 등 주요 AWS 리전에서 제공되며, 아마존 베드록 콘솔과 파이썬용 AWS SDK를 통해 이용할 수 있다.