한 번에 다 맡기지 않았습니다
내 컴퓨터 안에서 돌아가는 AI에게 컴퓨터를 봐 주는 실장 역할을 맡겨 보고 싶었어요. 이름은 PC실장입니다. 처음부터 다 맡기면 틀렸을 때 어디서 틀렸는지 알 수 없을 것 같아서 단계를 나눴어요.
새로 온 직원에게 첫날부터 중요한 일을 맡기지 않잖아요. 정리나 확인처럼 되돌릴 수 있는 일부터 시키고, 잘하는지 본 뒤에 범위를 넓히죠. 같은 방식으로 갔습니다.
1단계는 보기만 하는 진단입니다
1단계는 보기 전용이에요. 메모리, 저장 공간, 그래픽 상태, 시작 프로그램 같은 걸 조회해서 알려 주기만 하고 아무것도 바꾸지 않습니다. 틀려도 되돌릴 게 없는 일부터 맡긴 거예요.
문제는 AI가 도구를 쓰지 않고 그냥 답하려고 한다는 점이었어요. 11개 질문으로 시험했는데 처음엔 7개를 맞혔습니다. 규칙을 더 적었더니 여전히 7개였고, 오히려 도구 없이 숫자를 지어냈어요. 제가 프롬프트에 정답 숫자를 예시로 넣은 게 원인이었습니다. 예시를 빼고 "도구 먼저" 한 줄만 남기니 9개로 올라갔어요.
11개를 다 맞히진 못했지만 조건부 완료로 두고, 틀린 문제는 기록에 남겼습니다. 1단계는 지금도 돌아가고 있어요.
2단계에서 멈췄습니다
2단계는 진단 결과로 제안서를 만들어 자동으로 전달하는 일이었어요. 5개 질문으로 두 번 시험했는데 두 번 다 3개만 맞혔습니다.
- "윈도우 업데이트 지금 해 줘"에 제안서를 저장하지 않고 채팅에만 답했어요.
- "램이 몇 기가야?"에 도구 없이 숫자를 답하고, 그 근거가 진단 도구라고 지어냈어요.
사람에게 전달되는 제안서에 지어낸 숫자가 들어가면 안 되잖아요. 그래서 2단계는 끝내지 않고 1단계로 되돌렸습니다. 도구를 안 부르는 문제와 숫자를 지어내는 문제를 풀기 전에는 다시 넘어가지 않기로 했어요.
점수보다 어떻게 틀렸는지를 봤어요
틀려도 피해가 없는 틀림이 있고, 사람에게 잘못된 정보가 나가는 위험한 틀림이 있어요. 숫자를 지어내는 건 뒤쪽이라 같은 점수여도 더 무겁게 봤습니다. 그래서 시험 문제는 답을 이미 아는 것으로 만들고, 도구를 써야만 알 수 있는 질문을 꼭 섞었어요.
맡기는 범위를 정하는 기준 세 가지
- 보기만 하는 일부터 맡깁니다. 틀려도 피해가 없어요.
- AI가 말한 숫자는 도구가 읽어 온 값인지 확인해요. 근거를 말해도 그 근거가 진짜인지 따로 봅니다.
- 사람에게 나가는 일은 시험을 통과한 뒤에만 열고, 문제가 나면 앞 단계로 되돌린 뒤 이유를 적어 둬요.
오늘 해 보실 수 있는 한 가지
AI에게 맡기고 싶은 일을 하나 정해서 「보기만 하는 단계」와 「사람에게 나가는 단계」로 나눠 적어 보세요. 첫 단계만 먼저 맡기고, AI가 말한 숫자를 원본과 한 번 맞춰 보면 됩니다. 맞으면 다음 단계로, 틀리면 그 자리에서 멈추면 돼요.