AI는 왜 틀린 답도 그렇게 자신 있게 말할까?
매끄러운 답변과 확인된 답변은 다릅니다.
생성형 AI는 다음에 올 법한 글을 예측해 문장을 만듭니다. 그래서 설명을 잘할 때도 있지만, 틀린 주장이나 존재하지 않는 출처를 만들고 앞뒤가 맞지 않는 말을 하기도 합니다. 미국 국립표준기술연구소(NIST)는 이런 출력을 “confabulation(허위 생성)”이라고 설명합니다.
“그럴듯한가?”만 묻지 말고, 답변이 제시한 정확한 출처를 열어 해당 문장이 실제 주장을 뒷받침하는지 확인하세요. 중요한 수치·날짜·절차는 원문이나 공식 기록과 대조하세요. 근거를 찾을 수 없다면 사실이 아니라 초안으로 취급하는 편이 안전합니다.
기억할 점: 20초 확인법: 답변에서 가장 중요한 사실 한 문장을 골라 원출처를 찾고, 그 출처가 실제로 그 말을 하는지 비교하세요. 자신감 있는 말투는 증거가 아닙니다.
이 방법이 모든 오류를 잡아내는 것은 아닙니다.