정보시스템감리협회, '정보시스템 신뢰성 확보' 심포지엄 개최

정보시스템감리협회(회장 조병휘)는 정보공학기술사회(회장 김유석), 정보시스템감사통제협회(회장 나재훈)와 서울 프레스센터에서 'AI 시대를 위한 정보시스템 신뢰성 확보방안'을 주제로 공동 심포지엄을 25일 개최했다.

첫 주제발표자로 나선 김일수 씨에이에스 이사는 감리원 관점에서 생성형 AI 감리 수행 사례를 발표했다. 빠르게 진화하는 AI 기술 확산은 정보시스템 감리 분야에 근본적인 패러다임 전환을 요구하고 있다며, 기존 감리가 UI 기반 기능과 데이터 정합성 검증에 집중했다면, AI 감리는 AI 모델 개발부터 운영에 이르는 전 생애주기를 포괄하는 접근이 요구된다는 점을 강조했다.

김 이사는 기존 정보시스템 개발이 폭포수 모델처럼 수직적이고 명확한 절차와 산출물을 기반으로 하는 반면에 AI 모델 개발은 소수 AI 엔지니어 R&D 성격이 강하고, 반복적 학습을 통한 수평적 진행 특성을 보임으로써 모델 개발과정 산출물 부족으로 이어지고 이는 감리보고서 작성에 난항을 겪는 주요 원인이 되고 있다고 지적했다.

이에 대응하기 위해서는 AI 모델 개발에 특화된 감리방법론 도입이 시급하다며 △CRISP-DM과 같이 비즈니스 이해 △데이터 준비 △모델링 △평가 △배포에 이르는 AI 모델 생애주기 전반에 걸쳐 핵심 점검 항목들이 체계적으로 제시돼야 한다고 주장했다. 특히 생성형 AI 모델을 구축할 때에는 라이프사이클별로 특화된 고려사항이 필수며, 파운데이션 모델 기반의 RAG(Retrieval-Augmented Generation) 방식 선호에 따라 벡터 데이터베이스(Vector DB) 및 RAG 성능 평가 지표(MRR, Precision 등)에 대한 깊이 있는 이해가 전제돼야 한다고 설명했다. 성공적인 AI 감리를 위해서는 감리원 AI 리터러시 강화가 핵심인데, 이는 개인의 역량 증진만 문제가 아니라 협회 및 관련 기관 차원에서 명확한 가이드라인을 제공해 줄 것을 주문했다.

궁극적으로는 산업·서비스별 감리기준 마련, AI 프로젝트에 적합한 감리방법론 정립, 감리원과 AI 전문가 간 유기적인 협업체계 구축이 필수라는 점과 이러한 노력들을 제도적으로 뒷받침할 수 있는 법적 기반과 정책적 지원이 병행돼야 한다는 점을 결론으로 제시했다.

최석우 한국정보기술단 기술사는 AI 생성 결과물 신뢰성 확보를 위한 감리 프레임워크에 관해 발제했다. 먼저 생성형 AI의 신뢰성을 위협하는 요소로서 데이터 중독, 편향, 환각을 들면서 그에 대한 대응방안을 제시했다.

중독이란 악성 학습 데이터를 통해 AI 판단을 왜곡시키는 공격을 말하며 실제 사례로 MS Tay 챗봇 사건을 소개하면서 블록체인 기반 데이터 출처 추적으로 대응할 수 있다고 설명했다. 편향은 성별·인종 등 학습데이터 편견이 결과에 반영되는 것으로서 △의료 AI의 흑인 환자 진료 권고율 저하 △UCL 연구( 여성 성과 23% 저평가) 사례를 소개하며 대응방안으로 'SHAP/XAI 기반 Fairness Index ≥0.8 검증'을 제시했다. 환각은 존재하지 않는 정보를 AI가 사실로 착각해 생성하는 것인데, 법률 AI가 허위 판례를 생성한다든지 구글 Bard가 망원경 오정보를 제공한 것 등이 있고 RAG의 GAR로의 구조 전환(자체 지식베이스 기반 응답)으로 대응할 수 있다고 말했다. 이어 규제 및 품질관리 프레임워크에 관해 국제기준과 국내기준을 비교 설명했고, 실무적 관점의 구체적 품질관리 체크리스트를 데이터 수집, 모델 개발, 운영과 모니터링으로 나눠 세부적으로 소개했다.

이동기 한국정보시스템감사통제협회 부회장은 신뢰성과 통제를 위한 AI 시대 정보시스템 감사 프레임워크를 주제로 다루었다. 먼저 AI 기술 신뢰성 책임성 및 리스크 통제가 중요한 감사대상으로 부상한 점과 생애주기 전 과정에 걸친 통제와 비즈니스 목표와의 연계성 등이 감사의 핵심 관심영역이란 점을 소개하고, AI 감사역량은 3가지 핵심 도메인, 즉 AI 거버넌스 및 리스크(21%), AI 운영(33%), AI 감사도구 및 기법(46%)로 구성돼 있다고 설명했다.

이어서 이들 3가지 도메인별로 AI 감사의 구체적 프레임워크를 상세히 설명했다. 거버넌스와 책임 분배 구조는 AI 시스템의 신뢰성을 확보하는 핵심 기반이라는 점과 AI 솔루션 개발에서는 시간이 지남에 따라 스스로 변할 수 있는 고유한 속성으로 인해 차별화된 개발 생애주기가 요구된다는 점, AI 특유의 복잡성과 불확실성으로 인해 전통적인 '감사' 외에 '자문(advisory)'이 병행 또는 보완적으로 도입되고 있지만 감사인의 독립성 유지는 여전히 중요하든 점 등을 지적했다.

이어서 벌어진 토론에서 AI 감리는 기존의 IT사업과 달라 초기단계에서 과업내용 조정 권고도 필요하다는 점 등이 제시됐다.

김현민 기자 minkim@etnews.com