챗GPT한테 물어봤는데, 답이 너무 자신 있어서 그대로 믿은 적 있으세요?
저는 자주 있었어요. 특히 잘 알려지지 않은 걸 물어볼 때요. 어떤 사람에 대해, 우리 동네 가게나 시설에 대해 물어보면 그럴듯한 답이 나오는데, 확인해보면 틀린 경우가 많더라고요.
말투는 늘 확신에 차 있었는데 말이죠.
이걸 AI 쪽에서는 '환각'이라고 불러요. 모르는 걸 모른다고 하지 않고, 그럴듯한 말로 빈칸을 채우는 거예요. AI는 원래 다음에 올 자연스러운 문장을 만들어내는 방식이라, 모를 때도 말은 술술 나옵니다.
완전히 막을 방법은 아직 없어요. 그래도 질문 끝에 한 줄만 붙이면 확실히 덜 지어내더라고요.
질문 끝에 붙이는 한 줄
확실하지 않으면 모른다고 말해줘.
이 한 줄이 기본이에요. AI에게 "몰라도 된다"는 허락을 주는 거죠. 이 말이 없으면 AI는 어떻게든 답을 채우려고 합니다.
더 확실하게 하고 싶을 때
1. 추측은 추측이라고 표시해 달라고 하기
확실한 것과 추측인 것을 나눠서 알려줘.
답을 읽을 때 어디부터 의심해야 하는지 바로 보여요.
2. 근거를 같이 달라고 하기
어디서 나온 정보인지도 같이 알려줘.
근거를 못 대면, 그 부분은 한 번 더 확인해야 한다는 신호예요. 다만 AI가 출처까지 지어내는 경우도 있어서, 알려준 주소는 직접 눌러보는 게 좋아요.
3. 답을 받은 뒤 한 번 더 묻기
방금 답에서 틀렸을 수 있는 부분이 있으면 짚어줘.
의외로 스스로 고치는 경우가 많습니다.
이런 질문일수록 꼭 붙이세요
- 날짜, 가격, 법, 제도처럼 자주 바뀌는 것
- 동네 가게·시설, 잘 알려지지 않은 사람처럼 인터넷에 정보가 적은 것 (제가 제일 많이 틀린 답을 받은 경우예요)
- 이름, 주소, 전화번호처럼 정확해야 하는 것
- 병원·약·돈처럼 틀리면 손해가 큰 것 — 이건 한 줄을 붙여도 마지막 판단은 전문가나 공식 안내에서 확인하세요
오늘 해볼 것
평소 챗GPT에 묻던 질문 하나를 골라서, 끝에 이 한 줄만 붙여보세요.
확실하지 않으면 모른다고 말해줘.
답이 어떻게 달라지는지 비교해보면 바로 느낌이 옵니다.
질문 자체를 잘 쓰는 방법이 궁금하다면 AI에 질문할 때 먼저 적어야 할 4가지도 같이 보세요.