[연재] 대화가 길어질수록 비싸지는 이유 — 사진 31장을 직접 본 값과 넘긴 값이 7배 갈렸습니다

사진 31장을 그냥 봤습니다

텔레그램으로 사진 31장이 한꺼번에 왔습니다. 정리해서 어디에 옮겨놓으라는 일이었어요. "그냥 내가 보면 되지" 싶어서 조수가 사진을 하나씩 직접 열어 봤습니다. 31장이니 오래 걸리지도 않았고요. 다른 데 맡기고 결과를 받는 것보다 직접 보고 바로 처리하는 게 더 빠르겠다 싶었습니다.

그런데 그날 세션이 끝날 때쯤 전체 값을 계산해 보니 이상하게 컸습니다. 사진 31장을 본 몫이 나중에는 눈덩이처럼 불어 있었어요. 처음엔 계산이 잘못된 줄 알고 다시 확인했습니다.

따져보니 사진 한 장을 보는 데 든 값은 1,228 정도였습니다. 31장이니 38,068입니다. 여기까진 예상한 그대로예요. 문제는 이게 그 순간 한 번만 드는 값이 아니었다는 겁니다. 그날 세션이 40번 더 오갔는데, 38,068이 매번 다시 계산에 들어갔습니다. 40을 곱하면 1,522,720입니다.

같은 일을 다른 조수에게 넘기고 정리된 결과 31줄만 받았으면 어땠을까 계산해봤습니다. 195,757이 나왔어요. 직접 본 것의 7분의 1이었습니다. 사진을 직접 보느냐 넘기느냐, 그 순간의 선택 하나가 세션이 끝날 때는 일곱 배 차이로 벌어져 있었던 거예요.

처음엔 이 계산이 믿기지 않아서 몇 번을 다시 해봤습니다. 사진 31장이라는 게 그렇게 대단한 양도 아니었거든요. 그런데 곱하는 숫자가 사진 개수가 아니라 "그 뒤로 몇 번 더 대화했는가"였다는 걸 알고 나서야 왜 이렇게 커지는지 납득이 갔습니다. 사진을 많이 봐서 비싸진 게 아니라, 그날따라 대화가 길게 이어졌기 때문에 비싸진 거였습니다.

<!-- 사진 자리 ①: 사진 31장 목록과 세션 끝의 값 계산 화면 -->

왜 한 번 본 게 끝까지 따라다닐까

이 차이가 왜 나는지 캐물었습니다. 답은 단순했어요. 대화창 하나는 앞서 나온 이야기를 전부 기억하고 있어야 다음 답을 할 수 있습니다. 그런데 "기억하고 있다"는 게, 한 번 저장해놓고 필요할 때만 꺼내 보는 게 아니라 매번 처음부터 다시 읽는 방식이었습니다. 사진을 본 순간의 내용이 대화 기록 속에 그대로 남아 있으니, 그다음 무슨 질문을 하든 그 사진들까지 통째로 다시 훑고 나서야 답이 나오는 구조였던 거예요.

실제로 지난 기록(399번의 대화, 응답 1,603건)을 뜯어보니, 쓰인 값의 93%가 이미 읽었던 걸 다시 읽는 몫이었습니다. 새로 들어온 건 사실상 없었어요. 그러니까 사진 31장을 직접 보는 순간의 비용은 작아 보여도, 그 뒤로 대화가 이어지는 내내 매 차례 다시 실린다는 뜻입니다. 한 번 들어온 건 그 대화가 끝날 때까지 계속 짐으로 남는 셈이에요.

이 얘기를 듣고 나서 대화창을 은행 이자에 비유해서 이해했습니다. 큰 자료를 한 번 직접 보는 건 원금을 빌리는 것과 비슷했어요. 빌린 순간엔 그 값만 치르면 끝날 것 같지만, 실제로는 세션이 끝날 때까지 매 차례 이자가 붙습니다. 반면 다른 조수에게 넘기고 요약만 받으면, 원금 자체가 작으니 이자도 작게 붙습니다. 결국 언제 갚느냐가 아니라 얼마나 오래 이자가 붙느냐가 전체 값을 갈랐습니다.

회차가 남을수록 이득이 불어납니다

이걸 계산으로 정리하니 표 하나가 나왔습니다. 다른 조수를 부르는 데 드는 고정값이 대략 5만 정도, 결과만 요약받아서 대화창에 남기는 값은 회차당 200 정도입니다. 이 둘을 놓고 "앞으로 몇 번 더 오갈지"에 따라 어느 쪽이 이득인지 계산하면 이렇게 나옵니다.

앞으로 남은 대화가 짧으면 어지간히 큰 것만 넘기면 됩니다. 그런데 대화가 길어질수록 그 기준이 계속 낮아집니다. 회차 3,710짜리 세션에서는 213만 넘어도 남에게 넘기는 게 이깁니다. 화면 한 번 훑은 목록 정도의 크기예요. 처음 이 표를 봤을 때는 숫자가 이렇게까지 빨리 떨어지는 줄 몰랐습니다. 10회차에서 40회차로 네 배 늘었을 뿐인데 기준은 5,200에서 1,450으로 훨씬 더 가파르게 떨어졌거든요.

대화가 길어지는 쪽에서 다 벌어집니다

그럼 "내 대화는 보통 짧으니 상관없다"고 넘길 수 있을까 싶어서 세션 길이도 같이 재봤습니다. 5,539개 세션을 보니 중간값은 2회차였어요. 대부분은 짧게 끝난다는 뜻입니다. 이 숫자만 보면 긴 대화 걱정은 안 해도 될 것 같았어요.

그런데 전체 회차 수를 다 더해보면 얘기가 달라집니다. 전체 회차의 56%가 200회차 넘는 세션, 그러니까 상위 1%짜리 긴 세션에서 나왔습니다. 짧은 대화가 훨씬 많지만, 실제로 값이 쌓이는 곳은 그 소수의 긴 대화입니다. 사진 31장 사건도 그런 하루였고요. 숫자만 보면 "대부분은 짧다"가 맞는 말인데, "값이 어디서 나가는가"로 보면 정반대였습니다. 많이 벌어지는 곳이 아니라 길게 벌어지는 곳이 문제였던 거예요.

그러니 "오늘 이 대화가 길어질지 짧아질지"는 시작할 때는 알 수 없습니다. 짧게 끝날 줄 알았던 대화가 어느새 몇백 회차까지 가는 일도 있으니까요. 그래서 지금은 아예 대화가 길어질 가능성을 미리 따지지 않기로 했습니다. 어차피 값이 쌓이는 건 소수의 긴 대화에서니까, 매번 짧게 끝날 걸 전제로 크게 보고 넘기지 않는 습관을 들이는 것보다, 부피가 크면 길든 짧든 상관없이 넘기는 쪽이 훨씬 안전했습니다.

10회차를 넘으면 기준이 무너집니다

앞의 표를 다시 보면, 10회차 언저리부터 기준이 뚝뚝 떨어집니다. 10회차일 땐 5,200 정도는 넘어야 했지만 40회차만 돼도 1,450으로 줄고, 200회차면 450입니다. 파일 목록 하나, 긴 검색 결과 하나도 이 기준을 넘습니다.

그래서 이제는 "이건 몇 개 안 되니까 그냥 내가 보지" 하는 판단을 접었습니다. 개수가 적어도 화면 하나, 긴 목록 하나는 일단 남에게 넘기고 결과만 받습니다. 검사가 필요한 일도 마찬가지예요. 원본은 넘긴 쪽이 보고, 저는 정리된 결과만 받아서 판단합니다. 처음엔 "이 정도는 그냥 내가 보는 게 빠르지 않나" 하는 생각이 자꾸 들었는데, 그 생각이 드는 순간이 정확히 표에서 기준을 넘는 순간이라는 걸 알고 나서는 그냥 넘기기로 했습니다.

지난 편의 그 숫자와 이어집니다

저번에 조수를 공짜 모델로 바꿔서 얼마나 아끼는지 계산했을 때, 아낀 건 전체의 1%뿐이었다는 얘기를 했습니다. 그때 나온 이유 중 하나가 "한도를 가장 많이 먹는 건 하청이 아니라 대화창 자신"이라는 거였어요. 그 몫이 전체의 70~83%였습니다.

이번 계산이 바로 그 얘기의 뒷면이었습니다. 조수를 싼 걸로 바꾸는 건 하청 몫만 줄이는 일이고, 정작 큰 몫을 차지하는 건 대화창이 스스로 쌓아놓은 것들입니다. 그러니 요금을 아끼려면 조수를 바꾸는 것보다, 큰 걸 직접 보지 않고 넘기는 습관이 훨씬 크게 작용합니다. 지난 편에서 "1%밖에 안 줄었다"고 아쉬워했던 그 자리가, 사실은 이 편에서 찾은 습관으로 메워야 할 자리였던 셈입니다.

두 편을 나란히 놓고 보니 순서가 뒤바뀌어 있었다는 것도 알았습니다. 저는 처음에 "누구에게 맡길까"부터 고민했는데, 정작 먼저 물었어야 할 건 "이걸 내가 직접 볼 것인가, 넘길 것인가"였습니다. 조수를 고르는 문제는 그다음이었어요. 순서를 바꾸고 나니 아낄 수 있는 폭도 훨씬 커졌습니다.

습관을 바꾸는 게 제일 어려웠습니다

숫자를 보고 나면 당연히 습관을 바꿔야 하는데, 이게 생각보다 잘 안 고쳐졌습니다. 눈앞에 사진 몇 장, 짧은 목록 하나가 오면 몸이 먼저 반응했어요. "이 정도는 그냥 내가 보고 말지, 넘기고 기다리는 게 더 번거롭겠다"는 생각이 매번 먼저 들었습니다. 실제로 눈으로 훑는 게 몇 초밖에 안 걸리니까 그 순간엔 정말 그게 더 빨라 보였습니다.

문제는 그 "몇 초"가 그 순간의 비용일 뿐, 세션이 끝날 때의 비용이 아니었다는 겁니다. 그래서 규칙을 아예 기계적으로 만들었습니다. 화면 한 장을 넘는 자료, 파일 여러 개를 훑는 일, 웹페이지 여러 장을 보는 일은 대화가 몇 회차째인지 세어보지 않고 일단 넘기기로 했습니다. 남은 회차를 그때그때 계산해서 판단하려면 그것도 손이 가니까, 아예 "부피가 있으면 넘긴다"는 한 줄짜리 규칙으로 단순하게 만든 거예요. 판단할 게 적을수록 습관이 잘 붙었습니다.

이번에 사람이 붙잡은 자리

• 사진 31장 사건 이후 세션 값을 실제로 계산해 본 것. 느낌으로는 안 보였던 7배 차이가 계산해야 보였습니다.
• "개수가 적으니 혼자 본다"는 판단을 접은 것. 대신 부피 기준으로 바꿨습니다.
• 검사가 필요해도 원본은 넘긴 쪽에게 맡기기로 한 것. 정리된 결과만 받아 판단합니다.
• 지난 편의 숫자와 이어 붙여, 대화를 짧게 끊는 쪽이 조수를 바꾸는 것보다 크다고 정리한 것.

이번 네 편으로 여러 AI를 같이 부리면서 알게 된 걸 정리했습니다. 확인과 판단을 갈라 적고, 싼 판정기는 구멍 찾기에만 쓰고, 틀린 건 세어야 나아졌는지 알 수 있고, 큰 건 개수와 상관없이 넘긴다는 것. 넷 다 결국 같은 얘기였어요. 도구가 똑똑해지는 것보다, 제가 어디서 손을 대고 어디서 손을 떼는지가 값을 갈랐습니다.