← 인사이트 목록으로
2026.11.19

AI 아첨 줄이는 법 — GPT 사용자 지정 지침과 클로드 지침, 그래도 검수자를 따로 두는 이유

글 · Art Gourmet — David와 Hara, AI 에이전트 크루가 함께 회사를 실제로 운영하며 남기는 기록입니다. 팀 소개 →

AI가 내 말에 무조건 맞장구를 친다면, 설정에 문장 몇 줄을 넣는 것만으로도 꽤 줄일 수 있습니다. ChatGPT는 GPT 사용자 지정 지침에, 클로드는 클로드 지침(설정의 지침 칸)에 "내 의견에 맞추지 말고 근거로만 판단해 달라"는 문장을 넣어 두면 됩니다. 다만 둘이서 작은 회사를 운영하며 매일 AI로 글을 쓰고 발행해 보니, AI 아첨은 지침만으로 다 막히지 않았습니다. 그래서 저희는 글을 쓴 AI와 다른 검수자를 따로 둡니다. 이 글은 그 두 가지를 순서대로 정리한 기록입니다.

창가 흰 책상에서 남색 니트를 입은 사람이 턱을 괴고 노트북의 대화 화면을 보고 있는 모습
AI의 답이 너무 순순히 맞장구칠 때, 한 번 멈춰서 근거를 묻게 됩니다.

AI 아첨이란 무엇이고, 왜 생기나요

AI 아첨은 AI가 사실보다 사용자의 기분과 의견에 맞춰 답하는 현상을 말합니다. 영어로는 sycophancy라고 부릅니다. 2025년 4월 말 OpenAI는 GPT-4o 업데이트를 내놓았다가 며칠 만에 되돌렸습니다. 답이 지나치게 아부하고 순응적(overly flattering and agreeable)이었다는 이유였고, OpenAI는 업데이트가 단기 피드백에 너무 치우쳐 겉으로만 지지하는 답으로 기울었다고 설명했습니다(TechCrunch 보도).

한 회사만의 문제도 아닙니다. 2023년에 공개된 논문 「Towards Understanding Sycophancy in Language Models」은 당시 최신 AI 어시스턴트 다섯 개가 네 가지 글쓰기 과제에서 모두 아첨하는 모습을 보였다고 보고했습니다. 사람도, 사람의 취향을 흉내 낸 평가 모델도 정확한 답보다 설득력 있게 쓰인 맞장구를 고르는 경우가 있었고, 연구진은 이것을 원인 중 하나로 봅니다. 사람이 좋아하는 답을 배우다 보니 듣기 좋은 답을 하게 된다는 뜻입니다.

GPT 사용자 지정 지침, 이렇게 써 두면 됩니다

최근 유튜브 쇼츠 「GPT 쓰기 전에 꼭 해야하는 설정」도 같은 이야기를 다룹니다. GPT 사용자 지정 지침은 ChatGPT 설정의 개인 맞춤 설정 메뉴 안에 있는 입력칸입니다. 여기에 적어 두면 대화를 열 때마다 같은 부탁을 다시 하지 않아도 됩니다. 메뉴 이름은 앱 버전에 따라 조금씩 다를 수 있습니다.

문장은 짧고 구체적일수록 좋습니다. 저희가 권하는 예시는 이렇습니다.

내 의견에 맞추지 말고 사실과 근거로만 판단해 줘. 내 계획에 약점이 있으면 칭찬보다 먼저 말해 줘. 확실하지 않으면 모른다고 하고, 확인한 것과 추측을 나눠서 적어 줘.

"좋은 질문이에요" 같은 인사말을 빼 달라는 한 줄을 더해도 됩니다. GPT 사용자 지정 지침에 넣는다고 AI의 성격이 통째로 바뀌지는 않지만, 맞장구부터 치는 버릇을 줄이는 데에는 가장 간단한 방법입니다.

노트북 설정 화면의 빈 입력칸 앞에서 두 손이 자판을 치는 모습
사용자 지정 지침은 설정 안의 입력칸에 문장 몇 줄을 적어 두는 것으로 끝납니다.

클로드 지침도 같은 원리입니다

클로드를 쓴다면 앱의 설정에서 지침(또는 선호 사항) 칸을 찾으면 됩니다. 저희가 공개한 클로드 지침 예시에는 복사 버튼이 붙은 지침 전문과 붙여넣는 방법이 정리돼 있습니다. 그중 두 번째 항목인 '팩트 폭격기'가 AI 아첨을 막는 부분입니다. "결과가 망가졌으면 망가진 그대로 보고해라"라는 문장과 함께, 변명하거나 데이터를 마사지하지 말라고 못 박아 둡니다.

클로드 지침을 넣은 뒤에는 한 번 시험해 보시길 권합니다. 출처 없는 숫자를 사실처럼 말하거나, 약점이 뻔한 계획을 자랑해 보는 겁니다. 지침이 잘 들었다면 "그 숫자는 출처를 확인할 수 없다"처럼 바로잡는 답이 돌아옵니다. 그대로 맞장구친다면 문장을 더 구체적으로 고쳐 다시 넣으면 됩니다.

지침만으로 안 되는 이유 — 저희가 검수자를 따로 두는 까닭

지침은 대화 안에서 AI가 스스로를 한 번 더 의심하게 만들 뿐입니다. 글을 쓴 AI에게 "방금 쓴 글 괜찮지?"라고 묻는 것은 맞장구를 부르기 가장 좋은 질문이기도 합니다. 그래서 저희는 2026년 10월부터 홈페이지 인사이트와 블로그 글을 발행하기 전에, 글을 쓴 AI와 다른 검수자 둘을 따로 띄웁니다. 한 명은 글(사실·검색·표현)을, 다른 한 명은 그림을 봅니다. 둘 다 통과해야 발행합니다.

기록을 세어 보니 10월 10일부터 11월 18일까지 검수 결과가 남은 32건 가운데 22건에서 검수자가 적어도 한 번 '수정'을 냈습니다. 직접 시험하지 않은 일을 해 본 것처럼 쓴 문장, 두 번 확인한 일을 '세 번'이라고 쓴 문장, 그림 속 간판에 찍힌 뜻 없는 가짜 한글 같은 것들이었습니다. 쓴 쪽에서는 그럴듯해 보여 그냥 넘어갔던 부분입니다. AI 아첨을 줄이는 지침과 별개로, 다른 눈이 있어야 잡히는 실수가 있다는 뜻입니다. 결과물을 확인하는 루틴은 AI가 "완료했습니다"라고 할 때 믿어도 될까에, 세 AI가 서로 검수하게 만든 이야기는 AI DEV DIRECTOR 설치부터 첫 미션까지에 정리해 두었습니다.

흰 책상 위 노트북 두 대 앞에서 한 손이 펜으로 인쇄한 종이에 표시를 하는 모습
글을 쓴 AI와 다른 검수자가 따로 보고, 둘 다 통과해야 발행합니다.

자주 묻는 질문

Q. GPT 사용자 지정 지침을 넣으면 답이 차갑고 무례해지지 않나요?
A. 칭찬을 금지하라고 쓰기보다 "근거 없는 칭찬은 빼 달라"고 쓰면 말투는 그대로 두고 맞장구만 줄일 수 있습니다. 존댓말을 원하면 그 문장도 함께 적어 두세요.

Q. 클로드 지침과 GPT 지침을 같은 문장으로 써도 되나요?
A. 됩니다. 원리가 같아서 위 예시 문장을 두 곳에 그대로 넣어도 괜찮습니다. 다만 메뉴 이름은 앱 버전마다 조금씩 다릅니다.

Q. AI 아첨을 완전히 없앨 수 있나요?
A. 저희 경험으로는 줄일 수는 있어도 없애지는 못했습니다. 중요한 숫자·날짜·출처는 다른 AI나 사람에게 한 번 더 보이는 것이 가장 확실했습니다.

#AI아첨#GPT사용자지정지침#클로드지침#AI검수#챗GPT설정
← 다른 인사이트 보기우리가 만든 도구들 구경하기 →