할루시네이션(Hallucination)

AI는 때때로 사실이 아닌 거짓 정보를 매우 자신감 있게 생성하여 제공할 수 있습니다.

왜 생길까요? AI는 정답을 어딘가에서 찾아오는 것이 아니라, 학습한 통계적 패턴을 바탕으로 가장 그럴듯한 다음 단어를 이어 붙여 문장을 만듭니다(옆의 ‘확률 기반의 답변’). 그래서 학습 데이터에 없거나 부족한 주제, 최신 정보, 모호한 질문을 만나면 “모른다”고 답하기보다 가장 그럴듯해 보이는 내용을 지어냅니다. 스스로 진위를 확인하는 장치가 없기 때문에, 틀린 내용도 사실처럼 자신감 있게 제시하게 됩니다.

컨텍스트의 한계

AI는 한 번에 제한된 길이의 정보만 처리할 수 있으며, 입력이 길어지면 성능이 저하되거나 오작동할 수 있습니다.

확률 기반의 답변

AI는 통계적 패턴을 기반으로 가장 적합한 다음 단어를 예측하여 답변을 생성합니다.