이제 AI는 누구나 씁니다. 차이는 그다음, 어떻게 쓰느냐에서 생깁니다.
누구는 반나절 걸리던 일을 몇 분에 끝내고, 누구는 AI가 써 준 글을 처음부터 다시 씁니다. AI를 오래 쓸수록 이 차이는 더 벌어집니다.
차이가 나는 것은 재능을 타고나서도, 더 비싼 요금제를 써서도 아닙니다. AI를 바꾸지 않아도 답은 달라집니다. 지금까지 "보고서 써 줘" 한 줄만 적어 보냈다면, 이 책에 그 방법이 있습니다.
챗GPT에게 보고서를 맡겼더니 어느 회사에 갖다 붙여도 되는 뻔한 글이 나왔습니다. 옆자리 동료는 바로 보내도 될 초안을 받았습니다. 두 사람이 쓴 AI는 같습니다. AI의 한계가 거기까지였던 것이 아니라, 알려 준 것이 거기까지였을 뿐입니다.
동료는 누가 읽을 글인지 알려 주고 참고할 자료도 함께 넣었습니다. 이렇게 AI에게 일을 맡기면서 같이 알려 주고 넣어 주는 것을 컨텍스트(context), 우리말로 맥락이라고 부릅니다. 이 책에서는 맥락을 줬을 때와 주지 않았을 때 답이 얼마나 달라지는지, 무엇을 어떻게 줘야 하는지를 직접 해 본 예와 연구 결과로 배웁니다. 프롬프트 문장을 몇 번씩 고쳐도 답이 시원찮았다면, 고칠 곳은 문장이 아닐 수 있습니다.
"모델은 누구에게나 똑같다. 결과를 가르는 건 당신이 주는 컨텍스트다."
■ 이 책을 통해 알 수 있는 것
① AI가 뻔한 답을 내놓는 이유
AI는 알려 주지 않은 부분을 짐작으로 채우고, 그러다 보니 누구에게나 들어맞는 무난한 글이 나옵니다. 같은 AI에게 메일 한 통을 두 번 맡겨 보면, 무엇을 알려 줘야 내 상황에 딱 맞는 답이 나오는지 알게 됩니다.
② 표현만 바꿔도 &apos제일 좋은 AI&apos가 바뀝니다
당시 최신 모델 스무 개를 시험한 2024년 연구에서는 지시문의 표현만 바꿔도 모델들의 순위까지 바뀌었습니다. 그래서 제일 좋은 AI를 찾는 데 매달리지 않아도 됩니다.
③ AI는 긴 글의 한가운데를 놓치기 쉽습니다
분명 자료에 적혀 있는데 AI가 "그런 말은 없다"고 답하는 일이 어떤 때 생기는지, AI가 꼭 봐야 할 내용을 어디에 두고 어떻게 물어야 하는지 알게 됩니다.
④ AI는 어제 나눈 대화를 기억하지 못합니다
그런데도 어떤 날은 처음 여는 대화에서 나를 아는 듯이 답합니다. AI가 왜 나를 기억하는 것처럼 보이는지 알 수 있습니다.
⑤ "딱딱하지 않게 써 줘"로는 부족한 이유
프롬프트는 한 줄이 아닙니다. 예시와 자료, 배경과 조건을 어떻게 갖춰 주는지 회사 공지와 환불 요청 메일을 고쳐 가며 배웁니다.
⑥ AI를 쓰자 경험이 적은 사람이 더 많이 좋아졌습니다
상담원 약 5천 명이 일하는 회사를 살펴본 연구의 결과입니다. 컨설턴트 758명이 참가한 실험에서는 반대 결과도 나왔습니다. AI가 잘하지 못하는 까다로운 과제에서는 AI를 쓴 사람들이 쓰지 않은 사람들보다 더 많이 틀렸습니다.
⑦ 회사 규정을 배운 적 없는 AI가 규정대로 답합니다
입사한 지 한 달 된 사람이 출장 영수증을 언제까지 내야 하는지 회사에서 쓰는 AI에게 묻자 회사 규정대로 답이 나옵니다. 필요한 문서를 찾아 AI에게 보여 주는 방식(RAG)이 어떻게 돌아가는지, 자료를 스스로 찾아 여는 AI(에이전트)는 어떤 일을 하는지, 그래도 사람이 적어 줘야 하는 것은 무엇인지 이해하게 됩니다.
■ 읽고 나면
- 답이 시원찮을 때 문장을 또 고칠지, 자료나 예시를 넣을지 가릴 수 있습니다.
- 긴 자료를 넣을 때 무엇을 골라 어디에 둘지 알게 됩니다.
- AI의 답을 어디까지 믿고 언제 확인할지 기준이 생깁니다.
- 토큰, 컨텍스트 윈도우, RAG, 에이전트가 무슨 말인지 남에게 설명할 수 있습니다.
■ 이런 분께 권합니다
- AI를 몇 번 써 보고 "별거 없네" 하며 창을 닫은 분
- 남이 알려 준 프롬프트를 그대로 따라 했는데 결과가 시원찮았던 분
- 최신 모델이나 더 비싼 요금제로 바꾸면 나아질지 고민하는 분
- 회사 일에 AI를 쓰고 있지만 답을 어디까지 믿어도 될지 모르겠는 분
AI 분야 공학 석사이자 8년차 현직 개발자가 수식과 코드 없이 썼습니다. 복사해 쓰는 프롬프트 모음집이 아닙니다. 내 일에 맞는 맥락을 스스로 갖추는 법을 다룹니다. 평소 쓰는 AI 하나만 있으면 읽으면서 바로 따라 해 볼 수 있습니다.
『컨텍스트』 시리즈의 첫 권입니다.