🤖 AI의 할루시네이션(Hallucination)이란?
🤖 AI의 할루시네이션(Hallucination)이란? AI 할루시네이션 은 인간의 환각과는 다르지만, 유사한 방식으로 존재하지 않는 정보를 그럴듯하게 생성하는 현상 을 의미합니다. 생성형 AI(예: 챗GPT, 이미지 생성 AI)에서 자주 발생합니다. ⚠️ 1. AI 할루시네이션의 주요 증상 형태 예시 사실 왜곡 역사적 날짜, 인물 등을 틀리게 설명 출처 조작 존재하지 않는 논문, 기사, 링크 생성 논리 오류 전제와 결론이 모순되는 답변 과도한 일반화 "대부분 ~한다" 식의 근거 없는 진술 상상형 코드 실제로 존재하지 않는 API, 함수 작성 🔍 2. 왜 AI가 할루시네이션을 일으킬까? 확률 기반 언어 예측: 사실보다 문맥상의 자연스러움을 우선함 훈련 데이터의 한계: 오류가 있는 데이터를 그대로 배움 모호한 프롬프트: 사용자의 질문이 애매하면 AI가 억지로 만들어냄 지식 업데이트 지연: 최신 정보 반영이 어려움 🛠️ 3. AI 할루시네이션 해결방법 출처 확인 기능 강화: 링크와 함께 응답하는 AI 사용 구체적인 질문: 모호한 표현을 줄이고 원하는 결과를 명확히 제시 팩트 체크 도구 병행: 생성된 내용을 다시 검증 도메인 특화 AI 사용: 전문 분야에 특화된 LLM 또는 하이브리드 AI 사용 사후 감수 시스템: 사람이 최종 확인하는 구조 도입 📌 4. 대화할 때 할루시네이션 줄이는 프롬프트 팁 질문 스타일 할루시네이션 가능성 "아무거나 추천해줘" 높...