기본 콘텐츠로 건너뛰기

AI 에이전트의 환각과 프롬프트 폭증을 막는 '컨텍스트 엔지니어링(Context Engineering)'과 아키텍처의 미래

AI 코딩 에이전트나 생성형 LLM을 소프트웨어 개발에 접목하는 시도가 늘어나면서, 엔지니어들이 마주하는 가장 큰 기술적 병목 중 하나는 바로 '컨텍스트(Context)'의 관리입니다.

저 역시 최근 AI와 바이브 코딩(Vibe Coding)을 활용해 여러 프로젝트를 진행하고 있는데, 하나의 대화창(세션)을 오래 켜둔 채 작업을 계속 이어가다 보면 AI가 초기 맥락을 잊어버리거나 이전에 지켜달라고 했던 제약조건을 놓치며 실수를 저지르는 경우를 자주 겪곤 합니다.

그래서 저는 목적별로 대화창을 명확하게 분리해서 작업하거나, 어느 정도 작업 단계가 진행되면 지금까지의 구현 내용과 의사결정을 요약 정리한 뒤 새 대화창에서 AI에게 이를 다시 학습시키는 방식으로 맥락을 관리하고 있습니다.

그렇다면 엔지니어링 아키텍처 차원에서는 이 문제를 어떻게 접근하고 있을까요? InfoQ의 발표 아티클 "Architecture / Context Engineering"에서는 바로 이 지점, 즉 단순한 프롬프트 엔지니어링을 넘어 시스템 아키텍처 수준에서 컨텍스트를 제어하는 '컨텍스트 엔지니어링(Context Engineering)'의 필요성과 구체적인 프레임워크를 다루고 있습니다.

(출처: InfoQ - Architecture / Context Engineering)

https://www.infoq.com/presentations/architecture-context-engineering/

발표자들은 코딩 에이전트나 자율형 에이전트가 현장에서 실패하는 가장 큰 이유로 '비대해진 컨텍스트 윈도우(Bloated Context Windows)'와 무분별하게 채워진 프롬프트(Stuffed Prompts)를 꼽습니다.

AI에게 너무 많은 정보를 한 번에 주면, 모델의 주의력(Attention)이 분산되거나 논리적 우선순위를 놓치는 현상이 발생합니다. 마치 인간 엔지니어에게 백과사전 수십 권을 던져주고 "이거 다 읽고 10초 만에 버그 고쳐봐"라고 요구하는 것과 같습니다.

이 발표에서는 이러한 병목을 해결하기 위해 소프트웨어 아키텍트와 엔지니어가 도입해야 할 실전적인 컨텍스트 엔지니어링 패턴 기법들을 소개합니다.

첫째는 지연 로딩 스킬(Lazy-loaded Skills)입니다. 처음부터 모든 도구의 사용법과 지침을 프롬프트에 넣는 대신, 에이전트가 특정 상태나 조건에 도달했을 때 필요한 스킬과 가이드를 동적으로 불러오도록 구조화하는 것입니다.

둘째는 버전 관리되는 컨텍스트 아티팩트(Versioned Context Artifacts)와 외부화된 메모리 뱅크(Externalized Memory Banks)입니다. AI 에이전트가 시스템의 맥락이나 과거 의사결정의 이력을 무작위로 추론하게 두지 않고, 아키텍처 차원에서 검증되고 버전 관리되는 맥락 저장소(Context Store)를 통해 필요한 정보만 피딩(Feeding)해주는 아키텍처 패턴입니다.

셋째는 LLM-as-a-Judge 기반의 평가 및 제어입니다. 컨텍스트가 제대로 전달되었는지, 에이전트의 출력이 시스템의 안전 가이드라인을 벗어나지 않았는지를 또 다른 LLM 기반 평가 루프나 가드레일 시스템이 지속적으로 필터링하도록 설계하는 것입니다.

이 내용은 AI 시대에 아키텍트의 역할이 어떻게 변화하고 있는지를 아주 명확하게 보여줍니다.

과거의 아키텍트가 클래스 다이어그램을 그리고 서비스 간의 API 규격을 정의하는 데 집중했다면, AI 시대의 아키텍트는 'AI 에이전트가 오작동하지 않고 정밀하게 판단할 수 있도록 정보의 맥락과 통제선(Guardrail)을 설계하는 컨텍스트 아키텍트'로 진화해야 합니다.

AI 에이전트에게 무작정 많은 코드를 읽히고 생성을 맡기는 것은 시스템에 심각한 인지부채와 안전 위험을 몰고 올 뿐입니다. 에이전트가 다룰 컨텍스트의 경계를 명확히 설정하고, 필요할 때만 선별적으로 정보를 제공하며, 그 결과물을 냉철하게 검증할 수 있는 시스템 구조를 만드는 일.

결국 AI의 성능을 결정짓는 것은 모델 그 자체의 화려함보다, 그 모델을 품고 있는 우리의 아키텍처적 절제와 '컨텍스트 엔지니어링'의 정교함이라는 사실을 다시 한번 확인하게 됩니다.

AI 에이전트의 컨텍스트 엔진 구조와 지식 그래프 기반 컨텍스트 엔지니어링 개념을 보다 쉽게 이해하고 싶으시다면 InfoQ의 Building the Context Engine AI Agents Need 발표 영상을 참고해 보셔도 좋습니다. AI 에이전트가 왜 맥락 손실로 실패하는지, 그리고 복잡한 지식 레이어를 어떻게 토큰 최적화하여 전달하는지 시각적인 설명으로 잘 보여줍니다.

댓글

이 블로그의 인기 게시물

더 넥스트 스파크 2주 운행 후기

근 한달만에 블로그에 글을 씁니다. 이번 글은 지름 자랑기입니다. 네..딱 2주 전에 더 넥스트 스파크를 구입했습니다.. 옛날 스파크를 딱히 팔 마음은 없었는데... 애가 셋이 되다 보니 뒷좌석에 가운데 좌석이 2점 벨트라서 신경도 쓰이고... 아내가 수동을 운전하기 너무 힘들어하기도하고.. 이런 저런 이유로 과감하게 옛날 스파크를 팔아치우고 전격적으로 또 다시 스파크를.. 애 셋 있는 집이 트랙스나 올란도 같은 차를 사야지.. 왜 또 스파크냐고 물으신다면.. ㅠㅠ 아시면서.. 그런건 물어보시는거 아닙니다. ㅠㅠ 어쨌든 지르는거.. 가장 비싼 Eco LTZ으로 질렀습니다. 옵션 다 밀어 넣으니 1610만냥이더군요.. 쿨럭 쿨럭.. 이 돈이면 액센트도 살 수 있겠지만.. 현대/기아 차는... 목숨 걸어가며 타고 싶은 마음은 전혀 없는지라.. 익히 아시다시피 경차 주제에 웬간한건 다 들어 있습니다. 경사로 밀림 방지장치, 전방 충돌 경고 시스템, 차선 이탈 경고 시스템, 크루즈 컨트롤, 애플 카플레이 시스템, 톨게이트 자동 결제 시스템, 스톱 & 스타트, TPMS, 사각지대 경고 시스템 등등... 뭐.. 대충 비싼 값어치는 합니다만.. 사실 좀 따져보면 법이 바뀌어서 몇몇 기능은 무조건 들어가야하는 건데.. 한 4년만에 차를 사보니 정말 기술의 발전이 느껴질 만큼 경차 치고는 좀 풍성한 옵션을 자랑합니다. 모닝하고는 비교가 되는지는 잘 모르겠지만서도... 그래서 2주동안 탄 소감입니다. 1. 옛날 스파크와 비교했을 떄 내부와 트렁크가 아주 조금 넓습니다. 실제로 이전 스파크의 축거가 2,375이고 더 넥스트 스파크는 2,385 입니다. 숫자로 비교해보면 큰 차이는 없지만 실제 탑승해보고 짐을 넣어보면 아주 미세하게 조금 더 넓습니다. 그런데 막상 앉아보면 좀 갑갑합니다. 이것 저것 넣어보고 앉으면 분명 넓긴하데 심리적으로는 좁습니다. 이유가 전고 즉, 차 높이가 낮습니다. 이전 스파...

쿠첸 스마트터치밥솥TOP(10인용) CJH-PD1000iCM 사용기(체험 후기)

2008년 아내를 만나 결혼을 하고.. 자식 셋이 딸린 애아빠가 되어버린 지난 7년 동안.. 머.. 다들 아시겠지만.. 참 못난 아빠로 살고 있습니다. 어느새 7년이 되었네요.. 첫째가 내년이면 초등학교에 들어가니.. 짧지 않은 세월인것 같습니다. 지난 7년동안 애 키우느라 고생만 아내에게 뭐 하나 잘 해준게 없는데.. 아직 철이 덜 들어서 여전히 잘 못해주네요.. 아내가 결혼하면서 가져온 전자 밥솥은 재작년에 수명을 다했는지.. 밥이 제대로 안되어서 한 2년 정도 압력 밭솥에 밥을 해먹었습니다. 한국인은.. 밥심이죠.. 밥을 하려면 솥이 필요한데.. 머.. 냄비에 해먹는 방법도 있지만.. 그건 음.. 귀찮고 힘들고.. 현실에서 밥솥하면 크게 2가지죠.. 압력 밥솥 아니면.. 전자 밥솥.. 압력 밥솥하면.. 풍년이죠.. 아닌가요? 압력 밥솥은 다른건 다 좋은데.. 닦기가 귀찮고(냄비보다는 뭐.. 쉽습니다만..) 밥을 보온으로 하면 금방 말라비틀어지는.. 물론 누룽지를 만들 수 있다는 장점 아닌 장점이.. 전자 밥솥은 저 어릴때는 너도나도 코끼리 밥통이었는데.. 어느샌가... 쿠쿠라는 브랜드와 쿠첸이라는 브랜드의 2강 체제로 바뀌었더군요.. 쿠쿠와 쿠첸이라면.. 밥통계의 삼성과 LG 정도라고 할까요? 주변에 물어보면 대체로 쿠쿠를 추천하더군요.. 아내가 결혼할 때 가져온 밥통도 쿠쿠였습니다. 대략 이렇게 생긴 녀석이죠. 그러다가 이 녀석이 밥을 제대로 하지를 못하야.. 밥통 하나 새로 사준다면서.. 먼넘의 밥통들이 그렇게 비싼 것인지... 그리고 쿠쿠나 쿠첸이나.. 홈페이지에 들어가보면 정말 수십개의 밥통이 있는데.. 도데체가 각각의 밥통 간의 차이가 무엇이고 무엇이 좋고 무엇이 나쁜건지 비교도 할 수 없고.. 설명도 제대로 안되어 있고 제품 겉이나 안을 제대로 볼 수 있는 사진조차 없는 사용성은 개나 줘버린 그런 구조인지라.. 선택 장애를 일으켜서 결국은 압력 밥솥에 밥을 해먹어가며 밥통 하...

아마도 절대 알아낼 수 없을 것 같은 스파크의 연비

스파크를 구매한지 이제 2개월하구 9일이 되었습니다. 이제 대략 4600km를 주행했습니다. 자동차를 몰고 다니는 분들이라면 가장 궁금해하는 것이 과연 내 차의 연비는 얼마나 될까입니다. 기름 한방울 나오지 않는 땅에서 미칠듯이 오르기만 하는 기름값을 견뎌내려면 적은 기름으로 최대한 먼 거리를 달려야하는 것이 모두의 소망이지요. 그런 의미에서 하이브리드나 디젤 차량의 연비는 가솔린 차량이 범접하기 힘든 측면이 있습니다. 그런데, 경차는 하이브리드나 디젤이 아직은 없죠. 경차의 경우 연비를 생각하시는 분들은 LPG 구매를 많이 하시는 것 같더군요. 경차라고 무조건 연비가 좋은 건 아닙니다. 단순히 연비만을 생각한다면 솔직히 하이브리드나 디젤을 구매하시는게 맞습니다. 경차는 사실 연비보다는 유지비 측면의 절감을 노리는 경우가 많죠. 통행료, 주차료, 보험료, 세금 등등.. 어쨌든.. 이제 달릴만큼 달린듯 하여 슬슬 제 차의 연비가 궁금해졌습니다. 차량 구매 후 aCar 라는 안드로이드 어플로 꼼꼼하게 기록해 두었습니다. 처음에는 aCar 사용법을 몰라서 유료 구매를 하지 않으면 연비 계산이 안되는 줄 알고 5천원이라는 거금을 주고 구매했는데.. 솔직히 조금 후회하고 있습니다. 관련 내용은 다음으로 미루고, 우선 아래는 aCar에서 보여주고 있는 제 연비 기록의 일부분입니다. 처음 차량을 인수받고 주유시 주행거리를 제대로 기록하지 못해서 오차가 있겠지만.. 그래도 대략적인 추세를 알기에는 부족함이 없습니다. 스파크 공인 연비가 어느정도인지는 잘 모르겠지만(검색하면 다 나오겠지만 극도로 귀찮습니다.) 그냥 대충 보면 준수하게 나오는 듯 보입니다. 그런데 인터넷 동호회에 올라오는 연비들을 보면 제 연비와 의외로 차이가 많이 납니다. 심지어 어떤 분들은 스파크로 7km/L 연비가 나온다고 하시는 분들도 계시더군요. 그런 글들을 자주 접하다 보니 드는 생각이 과연 aCar가 계산하는 연비 정보가 정확할건가? 라...