지난번에는 강아지 미용을 고민하던 대화방에서 비트코인 타점을 물어봤다가, AI가 가상자산 차트 지지선을 강아지 털 미용 스타일(스킨 숏, 스포팅 등)에 빗대어 경고했던 황당한 상황을 말씀드렸는데요. 이렇게 웃고 넘어갈 수 있는 상황이면 다행이지만, 만약 세금 계산이나 정부 지원금 신청, 건강 문제 같은 진짜 민감한 문제에서 AI가 그럴듯한 거짓말을 한다면 어떻게 될까요?
일상의 궁금증부터 복잡한 업무까지 제미나이(Gemini) 같은 AI를 활용하는 분들이 많아졌습니다. 하지만 AI가 내놓은 그럴듯한 답변을 무작정 믿었다가 낭패를 볼 수 있습니다. 특히 돈이나 건강과 직결된 문제라면 그 피해는 온전히 사용자의 몫이 됩니다. 오늘은 AI의 거짓말, 즉 '할루시네이션(환각)' 현상을 방지하고 제미나이를 똑똑하게 사용하는 세팅 방법을 알아보겠습니다.
핵심 요약
- 제미나이는 실시간으로 학습하지 않으므로 과거 데이터에 의존해 틀린 답변을 할 수 있습니다.
- 세금, 건강 등 오답 시 실제 피해가 발생하는 '빨간불 질문'은 맹신하지 말고 공식 출처 확인이 필수입니다.
- 질문 끝에 "오늘 날짜 기준으로 공식 자료를 검색해서 알려줘" 한 줄만 추가해도 신뢰도가 올라갑니다.
제미나이가 당당하게 거짓말을 하는 이유
제미나이를 비롯한 AI 모델은 스스로 '진실'을 알고 말하는 것이 아닙니다. 학습한 방대한 데이터 중에서 현재 질문과 문맥에 가장 확률이 높은 단어들을 조합해 답변할 뿐입니다. 이 구조적인 한계 때문에 크게 두 가지 오류가 발생합니다.
데이터가 오래된 경우: AI의 기본 학습 데이터셋은 보통 특정 시점에서 멈춰 있습니다. 최근 건강보험료 정책이 바뀌었음에도 과거 기준으로 답변하게 되는 식입니다.
학습 데이터 자체가 틀린 경우: 인터넷상의 오류나 드라마의 과장된 연출(예: 한국 법정에서 판사가 망치를 친다는 오해)을 사실로 학습해 그대로 말하는 경우입니다.
질문 유형에 따른 대처법: '빨간불 질문'을 조심하라
그렇다고 AI를 쓰지 말아야 할까요? 아닙니다. 질문의 종류에 따라 다르게 대처하면 됩니다. 가장 조심해야 할 것은 정답이 하나로 정해져 있으면서, 틀렸을 때 금전적·신체적 손해가 발생하는 질문입니다. 이를 '빨간불 질문'이라 부릅니다.
| 구분 | 일반 질문 | 🔴 빨간불 질문 |
|---|---|---|
| 특징 | 정해진 답이 없고, 수정이 자유로움 | 답이 명확하며, 오답 시 직접적 손해 발생 |
| 예시 | 여행 코스 추천, 인사말 작성, 아이디어 도출 | 건강보험료 산정, 세금 감면 조건, 약의 효능 |
| 대처법 | 대화하듯 자유롭게 수정 및 활용 | AI 답변은 참고만, 전문가 최종 검증 필수 |
신뢰도를 끌어올리는 세팅법 두 가지
AI로 생성한 이미지입니다.
전문가에게 묻기 전에 AI로 최대한 정확한 1차 가이드를 얻고 싶다면, 다음 두 가지 원칙을 적용해 보세요.
상위 모델(Pro) 선택하기
중요한 문제를 다룰 때는 기본 '플래시(Flash)' 모델 대신, '프로(Pro) 사고 모델'을 사용하세요. 답변 도출까지 시간은 조금 더 걸리지만, 내부적으로 오류 확률을 계산하고 여러 대안을 검토해 답변의 신뢰도가 올라갑니다.
검색 강제 프롬프트 추가하기
가장 핵심적이고 간단한 방법입니다. 제미나이가 모호한 질문을 오래된 데이터로 지레짐작하여 답변하는 것을 막기 위해, 질문 맨 마지막에 아래 문장을 덧붙이세요.
"오늘 날짜 기준으로 공식 자료를 검색해서 알려줘"
이 문장은 과거 데이터 대신 오늘 기준의 팩트를 찾도록 검색 기능을 활성화하는 역할을 합니다. 또한 인터넷의 무분별한 블로그 글이 아닌 신뢰할 수 있는 공식 출처를 기반으로 답하도록 유도합니다.
체크포인트: 내 AI 활용 습관은 안전한가?
- 나의 질문이 금전(세금, 지원금)이나 건강(의료정보)과 관련된 '빨간불 질문'인가 판단했는가?
- 질문 작성 시 끝에 "공식 자료를 검색해서 알려줘" 문구를 추가했는가?
- 답변에 제시된 출처 링크를 직접 클릭해 1차 원문 자료를 확인했는가?
- 중요한 의사결정(차량 구매, 세금 신고 등) 직전, 관련 분야 전문가에게 크로스 체크를 진행했는가?
자주 묻는 질문
Q. "공식 자료 검색"을 지시하면 틀린 답변이 나올 확률이 0%가 되나요?
오답률을 크게 낮출 수는 있지만 0%가 되지는 않습니다. 검색된 공식 문서의 해석 과정에서 AI가 문맥을 오해할 수 있으니, 제공된 출처 링크를 직접 확인하는 과정이 필요합니다.
Q. 일반적인 상식을 물어볼 때도 꼭 검색을 강제해야 하나요?
단순한 역사적 사실이나 보편적인 개념 설명 등은 굳이 검색을 강제하지 않아도 됩니다. 정책, 제도, 지원금, 금리처럼 특정 시점에 따라 기준이 계속 바뀌는 정보에 주로 적용하세요.
Q. 더 철저하게 팩트 체크를 강제하는 방법은 없나요?
모르면 모른다고 대답하게 만들고, 답변 전에 반드시 출처부터 표기하도록 지시하는 전용 프롬프트를 길게 세팅해 두는 방법이 있습니다. 이러한 고급 프롬프트를 메모장 등에 저장해 두고 필요할 때마다 복사해서 사용하면 더 높은 수준의 안전성을 확보할 수 있습니다.
돈과 건강이 걸린 질문은 제미나이를 맹신하지 말고, 반드시 "오늘 날짜 공식 자료 검색"을 지시해 스스로 팩트를 검증하세요.
#제미나이 #Gemini #AI할루시네이션 #할루시네이션대처법 #AI프롬프트 #프롬프트엔지니어링 #인공지능사용법 #제미나이사용법 #챗GPT
댓글 쓰기