요즘 해외 스타트업 블로그들을 보면 "프롬프트 엔지니어링은 끝났다"는 표현이 자주 보인다. 처음엔 또 어그로성 헤드라인이겠거니 했는데, 근거를 따라가 보니 꽤 설득력이 있었다. 방어산업 스타트업을 혼자 운영하는 한 창업가는 법무·인사·재무·운영을 맡는 AI 에이전트 15개를 굴리면서 이걸 "The Council(위원회)"이라고 부르는데, 그가 강조하는 건 프롬프트를 얼마나 잘 쓰느냐가 아니라 에이전트들이 서로 다른 답을 낼 때 뭘 기준으로 판단하게 만드느냐였다. 나도 지금 아트고메를 FLOAT(콘텐츠 자동화)와 Claude Code(로컬 오케스트레이터), 안티그래비티(실행 위임)까지 셋을 굴리면서 매일 이 문제를 몸으로 겪고 있다. 그래서 오늘은 "컨텍스트 엔지니어링"이 정확히 뭐고, 왜 나 같은 소규모 창업가한테 중요한지 정리해보려 한다.
프롬프트 엔지니어링과 뭐가 다른가
프롬프트 엔지니어링은 "한 번의 질문을 얼마나 잘 만드느냐"의 문제였다. 반면 컨텍스트 엔지니어링은 에이전트가 여러 단계에 걸친 작업을 반복적으로, 사람 없이도 믿을 만하게 해내도록 주변 정보 체계를 설계하는 일이다. 시스템 프롬프트, 문서화된 업무 절차(SOP), 에이전트가 필요할 때 꺼내볼 수 있는 참고 자료, 그리고 에이전트끼리 의견이 갈릴 때 뭘 우선할지 정하는 규칙까지 포함한다. 위에서 언급한 "The Council" 운영자는 이 규칙 세우기가 특히 까다롭다고 말한다. 에이전트는 기본적으로 사용자 의견에 동의하려는 경향이 있어서 일부러 반박하도록 훈련시켜야 하고, 법무 에이전트와 운영 에이전트가 충돌하는 순간 누구 말을 따를지는 AI가 그때그때 알아서 정하게 두면 안 되고 사람이 미리 써둔 규칙이 결정해야 한다는 것이다. 그리고 이 정도 신뢰 수준을 만드는 데 에이전트 하나당 대략 2주가 걸린다고 한다 — 3일 써보고 "별로네" 하고 접는 사람이 제일 많이 하는 실수라는 지적도 함께.
왜 지금 이 얘기가 나오나
배경에는 숫자가 있다. 코드·콘텐츠·고객지원·디자인·워크플로우 자동화까지 갖춘 1인 창업가용 AI 스택의 월 비용은 대략 30만~70만 원 선인데, 같은 기능을 사람 팀으로 채우면 월 8천만~1억 6천만 원이 든다는 분석이 나온다. 이 격차가 3년 전만 해도 이 정도로 크지 않았다. 그 결과 2019년 전체 창업의 23.7%였던 '창업자 1인' 비율이 2026년 현재 36.3%까지 올라왔다는 조사도 있다. 다만 이 스택이 제대로 작동하려면 도구를 여러 개 구독하는 것만으로는 부족하고, 각 에이전트가 무슨 정보를 보고 무슨 기준으로 판단할지를 창업가가 직접 설계해줘야 한다는 게 최근 나오는 사례들의 공통된 결론이다. 도구는 이미 충분히 좋아졌고, 지금 격차를 만드는 건 그 도구를 얼마나 잘 "세팅"했느냐라는 뜻이다.
아트고메에 대입해보면
이 관점으로 보니 우리 세컨 브레인(옵시디언 볼트)이 결국 컨텍스트 엔지니어링의 산물이었다는 걸 새삼 깨달았다. 매일 아침 자동으로 리서치를 도는 FLOAT, 로컬에서 코드와 발행을 처리하는 Claude Code, 브라우저 조작이 필요한 일을 맡는 안티그래비티 — 이 셋이 각자 알아서 잘 돌아가는 것처럼 보이지만, 실제로는 SOP 문서, 티켓함(Agent_Inbox), 결과 보고함(Agent_Outbox) 같은 구조를 미리 만들어놨기 때문에 가능한 일이다. 최근에 하루 콘텐츠 오케스트레이션이 이틀 연속 장애가 났던 적이 있는데, 원인을 파고들어 보니 결국 "이 상황에선 뭘 기준으로 판단해야 하는지"가 SOP에 명확히 안 적혀 있어서였다. 프롬프트를 아무리 잘 써도 이 구멍은 안 메워진다. 시스템에 규칙을 박아넣어야 메워진다.
오늘부터 해볼 만한 것
거창하게 시작할 필요는 없다. 지금 반복적으로 하는 일 중 가장 시간을 많이 잡아먹는 걸 하나 고르고, 그 일을 처리할 때 내가 실제로 어떤 기준으로 판단하는지 글로 먼저 적어보는 것부터가 컨텍스트 엔지니어링의 시작이다. 그다음에 에이전트한테 넘기고, 최소 2주는 지켜본 뒤에 평가하는 것 — 이게 이번 리서치에서 건진 가장 실용적인 팁이었다. 나도 이번 주엔 블로그 초안 작성 SOP에 "이럴 땐 이 기준으로 판단할 것"이라는 문장을 몇 개 더 추가해보려 한다.
결론
AI 에이전트를 여러 개 굴리는 것 자체는 이제 특별한 일이 아니다. 진짜 차이는 그 에이전트들이 헷갈릴 때 무엇을 근거로 판단하게 만들어놨느냐에서 갈린다. 프롬프트 한 줄 잘 쓰는 시대는 지나갔고, 이제는 내 사업의 판단 기준을 문서로 미리 박아두는 사람과 그렇지 않은 사람의 결과물이 갈리는 시대다. 이런 판단과 균형을 실제로 어떻게 잡아가고 있는지 처음부터 끝까지 기록한 게 「AI 회사를 만들었습니다 -실전편-」이다.
작성: Art Gourmet