기억이 쌓이면 프롬프트가 짧아진다
프롬프트 엔지니어링의 반대편 — 맥락이 이미 있으면 길게 쓸 이유가 없다.
프롬프트가 길어지는 이유
AI한테 일을 시킬 때 프롬프트가 길어지는 이유는 대부분 하나다. AI가 내 상황을 모르기 때문이다.
"너는 10년 차 경리 담당자야. 우리 회사는 직원 15명인 제조업체고, 월 매출은 3억 원대야. 이번 달 매출 보고서를 써야 하는데, 표로 정리해 줘. 전문 용어는 쓰지 마."
이 중에서 "이번 달 매출 보고서를 써야 하는데, 표로 정리해 줘"가 실제 요청이다. 나머지는 전부 맥락이다. 매번 이 맥락을 처음부터 적는다.
프롬프트 엔지니어링이라는 말의 역설
프롬프트 엔지니어링이 유행하면서 사람들은 프롬프트를 더 길고, 더 정교하게 쓰는 법을 배운다. 역할을 부여하고, 예시를 주고, 제약을 걸고, 출력 형식을 지정한다. 효과가 있다. 같은 모델이라도 프롬프트에 따라 결과가 확 달라진다.
그런데 한 발짝 물러서 보면 이상한 점이 있다. 프롬프트가 길어지는 건 AI가 나를 모르기 때문이지, 내가 기술이 부족해서가 아니다. 동료한테 "매출 보고서 정리해 줘"라고 말할 때 회사 규모부터 설명하지 않는다. 그 사람이 이미 알고 있으니까.
프롬프트 엔지니어링의 정반대 방향이 있다. 프롬프트를 잘 쓰는 게 아니라, 프롬프트를 짧게 써도 되는 환경을 만드는 것이다.
맥락이 이미 있으면
마이두에서 프로젝트를 열고 일을 시키면, 그 프로젝트에 쌓인 대화와 파일이 맥락이 된다. 어제 "우리 회사는 직원 15명이고 월 매출 3억 원대야"라고 한 번 말했으면, 오늘은 "이번 달 매출 보고서 표로 정리해 줘"만 적으면 된다.
이건 단순히 편한 게 아니다. 구조적으로 다른 일이다.
프롬프트가 짧아지면 반복이 줄고, 반복이 줄면 실수가 준다. 매번 맥락을 새로 적을 때 "아, 이번에는 매출 3억 원대라고 안 썼네" 같은 누락이 생기는데, 맥락이 이미 있으면 그런 일이 없다.
기억과 AI 엔진은 별개다
마이두에서는 AI 엔진을 바꿔도 프로젝트 맥락이 이어진다. 클로드로 시작한 프로젝트를 챗GPT로 이어가도, 어제까지 쌓인 파일과 대화 기록은 그대로 남아 있다. 기억이 두뇌와 분리되어 있기 때문이다.
이게 챗GPT 메모리와 다른 점이다. 챗GPT 메모리는 그 모델 안에 있다. 모델을 바꾸면 메모리도 사라진다. 마이두의 기억은 내 PC에 있다. AI를 갈아타도 기억은 남는다.
프롬프트 기술은 여전히 중요하다
오해하지 않았으면 한다. 프롬프트를 잘 쓰는 건 여전히 중요하다. 역할을 부여하면 답변의 방향이 달라지고, 형식을 지정하면 결과물을 바로 쓸 수 있다. 그 기술은 맥락이 있어도 여전히 유효하다.
다만 매번 처음부터 맥락을 설명하는 데 쓰는 에너지를, 실제 요청을 정교하게 다듬는 데 쓸 수 있다면 더 낫다. 프롬프트 엔지니어링과 맥락 누적은 경쟁이 아니라 보완이다.
짧은 프롬프트가 되는 날
"매출 보고서 표로 정리해 줘." 이 한 줄로 원하는 결과가 나오는 건, 프롬프트를 잘 써서가 아니라 AI가 나를 이미 알고 있어서다. 그 상태를 만드는 게 기억이고, 기억이 쌓이면 프롬프트는 짧아진다.