[최은수의 AI와 뉴비즈] 〈25〉최적의 답 찾아주는 마법 '컨텍스트 엔지니어링' 뜬다

“최신 스마트폰 3개만 추천해줘.”

사용자가 이렇게 물어보면 인공지능(AI)은 “아이폰 15, 갤럭시 S24, 구글 픽셀 8”이라고 답한다. 이는 프롬프트 엔지니어링(Prompt Engineering) 기반의 단순 정보제공 방식이기 때문이다.

하지만, 생성형 A의 정보검색 능력이 이제 한 단계 더 진화하고 있다. 이른바, 컨텍스트 엔지니어링(Context Engineering) 기술이 부상하고 있다. 이는 질문의 배경과 목적, 사용자의 현재 상황과 선호도 등 풍부한 맥락 정보를 함께 제공해주면 더 최적의 답변을 가져다주는 기술이다.

예를 들어 “나는 현재 5년 된 안드로이드폰을 사용 중이고, 주로 사진 촬영과 영상 시청을 즐겨 해. 배터리 지속 시간이 길고, 용량이 넉넉했으면 좋겠어. 예산은 100만원대 초반으로 생각하고 있고, 삼성페이 같은 국내 서비스 이용이 편리한 제품이면 좋겠어. 이런 조건을 고려해서 최신 스마트폰 3가지 정도를 추천해 줄 수 있을까?“라고 물어보면 나의 상황을 종합해 최적의 맞춤 상품을 추천해준다.

AI와의 대화가 일상이 되면서, AI로부터 우리가 원하는 정확하고 유용한 답변을 얻기 위해서는 단순한 질문을 넘어서야 한다. 과거에는 AI에게 질문을 잘 던지는 '프롬프트 엔지니어링'이 중요했지만, 이제는 질문에 내포된 의도와 맥락을 AI가 정확히 이해하도록 질문하는 '컨텍스트 엔지니어링'이 핵심 역량으로 떠오르고 있다.실리콘밸리에서는 이미 컨텍스트 엔지니어링을 '새로운 분위기 프로그래밍'이라고 부르고 있다. 테슬라 AI를 이끌었던 안드레이 카파시(Andrej Karpathy)는 “에이전트의 성공은 뛰어난 코드가 아니라 뛰어난 컨텍스트 엔지니어링에 달려있다”고 강조했다. 오픈AI 공동창업자 그렉 브록만(Greg Brockman) 역시 “2025년은 AI 에이전트의 원년”이라고 선언했다. 그만큼 복잡한 문제 해결과 전문적 작업을 위해서는 단순 명령어를 넘어서는 풍부한 정보 제공이 필요하다는 뜻이다.

실제 챗GPT, 클로드, 제미나이 등 주요 생성형 AI들은 단순 프롬프트 기반이 아닌 목적과 배경, 컨텍스트 중심으로 모델 설계를 진화시키고 있다. 그럼에도 불구하고 사용자가 단순한 질문만 던진다면 AI는 일반적인 수준의 답변밖에 제공하지 못한다.

반면, 사용자가 컨텍스트 엔지니어링 기반 AI 설계의 원리를 이해하고 질문하면 AI는 개인화, 업무특화, 장기 맥락 이해, 정확성까지 반영한 고품질 결과를 도출해낸다.

예를 들어, “파리 여행 계획 짜줘”라는 단순한 프롬프트가 아니라 “다음 달에 부모님과 함께 파리로 6박7일 여행을 가려고 해. 부모님은 60대 후반으로 오래 걷기 힘들어하셔서 대중교통 이용이 편리하고 휴식도 충분히 할 수 있는 일정이었으면 좋겠어. 미술관보다는 역사적인 장소나 아름다운 경치를 선호하시고, 프랑스 현지 음식을 체험할 수 있는 맛집도 추천해줘. 예산은 숙소와 식비 포함해서 하루 30만원 정도로 생각하고 있어.”라고 묻는다면 차원이 다른 결과물이 나온다.

즉, 여행의 동반자(부모님), 연령대, 선호 활동(역사/경치), 피하고 싶은 활동(과도한 걷기), 교통수단 선호, 예산, 음식 취향 등 다채로운 맥락을 제공하면 훨씬 더 실용적이고 구체적인 맞춤형 여행 일정을 제안받을 수 있다.

이처럼 컨텍스트 엔지니어링은 프롬프트 엔지니어링을 확장한 개념으로 더 많은 정보를 활용해 AI가 보다 정확하고 깊이 있는 답변을 할 수 있도록 돕는 기술이다.

따라서 생성형 AI 사용자라면, 명확한 목적 설정, 세세한 맥락 정보 제공, 단계별 질문, 적절한 예시 제시 등 다양한 맥락 제공을 통해 실질적이고 유용한 결과물을 생성해내는 '맥락 기반 질문'의 지혜를 발휘해야 한다.

최은수 인텔리빅스 대표·aSSIST 석학교수·CES2025 혁신상 심사위원