크라우드웍스가 최근 인공지능(AI) 에이전트 도입 확산 흐름 속에서 국내 환경에 맞춘 특화 검증 체계를 구축한다.

3일 크라우드웍스는 과학기술정보통신부와 한국지능정보사회진흥원(NIA)이 발주한 'AI 에이전트 안전·신뢰성 검증 체계 지원' 사업을 수주했다고 밝혔다.

이 사업은 AI 에이전트가 외부 도구와 시스템을 호출해 실제 업무를 수행할 때 실행 과정의 성능과 보안 그리고 신뢰성을 시험할 평가 기준을 구축하는 정부 사업이다.

AI 에이전트가 실생활 영역으로 빠르게 확산되면서 결제, 예약 등 복잡한 과업까지 장류적으로 처리하게 된 만큼 에이전트 오작동 피해 우려 역시 커지고 있다.

다만 기존의 평가 기준이나 데이터셋이 최종 답변의 정확도에만 집중돼 있어 에이전트의 자율 실행 과정의 타당성을 검증하기에는 한계가 명확했다.

이에 정부는 국제 표준을 준수하면서도 평가 공백을 해소하고 국내 서비스 환경에 맞춘 평가 기준을 만들기 위해 사업을 추진했다.

크라우드웍스는 슈어소프트테크, 한국과학기술원(카이스트), 한국인공지능산업협회 컨소시엄을 통해 이번 사업에 참여했다.

크라우드웍스는 이번 사업을 통해 다단계 추론 시나리오와 한국형 검증 데이터셋 구축을 주도할 예정이다. 특히 한국 특화 맥락을 반영하고 데이터셋 7000건 이상을 구축할 예정이다.

이번 사업 규모는 약 18억원 수준으로 단년도 사업으로 올해까지 이어진다.

크라우드웍스 관계자는 "고품질 데이터 구축 노하우와 평가 역량을 바탕으로 국내 AI 에이전트 생태계의 안전성과 신뢰도를 높이고 글로벌 수준에 부합하는 한국형 AI 에이전트 검증 표준을 정립하는 데 기여하겠다"고 말했다.

김경문 머니투데이방송 MTN 기자