와이즈넛, ‘AI 위험관리 자동화’ 1차년도 연구 착수

AI 에이전트 전문기업 와이즈넛(대표 강용성)은 정보통신방송기술개발사업 중 ‘공존 가능한 신뢰 AI를 위한 AI 세이프티 기술 개발’ 연구(추진 과학기술정보통신부·정보통신기획평가원, 주관기관 한국과학기술연구원)의 공동참여기관으로 1차년도 개발에 착수했다고 4일 밝혔다.

2028년까지 4년에 걸쳐 진행되는 AI 위험관리 연구는 AI가 윤리·법·사회적 가치에 부합하는 방향으로 정렬(Alignment)돼 신뢰할 수 있는 AI 안전 생태계를 조성할 수 있도록 AI 위험관리 체계와 정렬 자동화 기술 개발을 최종 목표로 한다. 총 사업비는 99억 원 규모다.

와이즈넛은 이번 1차년도에서 AI 정렬 자동화를 위한 가이드라인 추천 및 구분 기술 개발에 중점을 두고, 자사의 대규모언어모델(LLM) 및 검색증강생성(RAG) 기술을 활용해 핵심 개념 검증을 진행하고 있다.

컨소시엄은 와이즈넛, 세종대 산학협력단, 고려대 산학협력단, 디지탈쉽, 포스코, 경향신문으로 구성됐으며, ▲AI 위험관리 체계와 윤리·법·사회적 기준에 부합하는 사회적 요소 추출 기술 ▲AI 정렬 가이드라인 구분 및 추천 기술 ▲AI Ops 플랫폼 및 위험 가이드라인 관리 ▲도메인별 실증 연구를 통한 확산 등을 단계별로 추진해 나갈 계획이다.

이번 과제는 단순한 AI 성능 고도화를 넘어 기존 AI 모델이 안고 있던 윤리적 한계와 편향 문제를 해결하기 위한 새로운 기술적 전환점이 될 것으로 기대된다. 특히 AI가 자율적으로 위험요소를 감지하고 대응할 수 있는 기반을 마련함으로써 향후에는 자동화된 가이드라인 생성과 위험 예측, 정책 변화 대응까지 가능해질 전망이다.

강용성 와이즈넛 대표는 “AI 기술이 빠르게 고도화되고 혁신의 속도가 높아진 지금, 기술적 진보만큼 윤리 기준에 부합하고 사회적 신뢰를 확보하는 일 또한 중요하다”며, “이번 연구를 통해 와이즈넛은 AI 모델의 안전성을 제고하고 법·윤리·사회적 기준에 맞춰 스스로 위험요소를 진단하고 조정할 수 있는 기반 기술을 확보해 공공과 산업 전반에서 보다 안전하고 신뢰할 수 있는 AI 생태계를 만드는 데 기여할 것”이라고 말했다.

강동식 기자 lavita@datanews.co.kr