글로벌 회계·컨설팅 기업 KPMG가 인공지능(AI)으로 작성한 보고서에서 사실과 다른 내용(환각)이 다수 발견돼 2026년 6월 해당 보고서를 철회했다. 2025년 10월 발간된 「에이전틱 AI 시대의 우수성 재정의(Redefining excellence in the age of agentic AI)」가 대상으로, UBS·영국 NHS 등 보고서에 인용된 기관들이 "우리에 대한 서술이 사실과 다르다"고 반박하면서 문제가 불거졌다. AI를 다룬 보고서를 AI로 쓰다 환각에 걸린 역설적 사례로 기록됐다.

발단: AI 탐지 업체의 지적

2025년 10월 공개된 「에이전틱 AI 시대의 우수성 재정의」 보고서에 사실과 다른 서술이 포함됐다는 지적이 나오자, KPMG는 보고서를 웹사이트에서 내리고 자체 조사에 착수했다고 밝혔다. 발단은 AI 탐지 업체 GPTZero였다. GPTZero가 보고서에서 여러 부정확한 내용을 확인하고 그 오류가 AI 환각에서 비롯됐다고 분석했다.

흥미로운 지점은 오류를 처음 잡아낸 쪽도 AI 도구였다는 사실이다. AI가 만든 결함을 또 다른 AI가 적발한 셈으로, 사람의 검수 단계가 양쪽 모두에서 얇았음을 짐작하게 한다. 탐지 도구가 없었다면 오류가 더 오래 방치됐을 가능성도 배제하기 어렵다.

환각이 출판물에 실리는 구조

환각(hallucination)은 AI가 사실이 아닌 내용을 그럴듯하게 만들어내는 현상이다. 대규모 언어 모델은 학습한 패턴을 바탕으로 가장 그럴듯한 다음 단어를 생성하기 때문에, 근거가 없는 인용·수치·사례를 실제처럼 제시할 수 있다. 이번 KPMG 사례에서는 존재하지 않거나 왜곡된 기업 도입 사례가 보고서에 담긴 것으로 알려졌다.

주목할 점은 환각이 가장 위험해지는 지점이 바로 '구체적 사례'라는 것이다. 추상적 주장은 독자가 의심이라도 하지만, 실명 기관의 도입 사례처럼 검증 가능한 형태로 제시되면 오히려 신뢰를 얻는다. 그럴듯함이 곧 진실성으로 오독되는 순간, 환각은 가장 큰 피해를 만든다.

사례가 무너지자 보고서 전체가 흔들린 이유

파이낸셜타임스(FT) 보도에 따르면 UBS(스위스 은행), 영국 NHS(국민보건서비스), 스위스 연방철도, 런던교통공사(TfL) 등이 보고서가 소개한 자사의 AI 도입 사례가 사실이 아니거나 오해를 부른다고 반박했다. 하나같이 이름값 있는 기관들이라는 점이 문제를 키웠다.

보고서에서 사례는 주장을 떠받치는 근거다. 그 근거가 당사자에게 부인당하면 나머지 정확한 서술까지 의심받는다. 반박한 곳이 개별 기업이 아니라 공공·금융 인프라를 대표하는 기관들이었다는 점에서, KPMG가 입은 평판 손실은 오류 개수 이상으로 크다.

한국 기업이 읽어야 할 신호

이 사건은 전문 기관조차 AI 결과물 검증을 건너뛰면 신뢰를 잃을 수 있음을 보여준다. 2026년 기업들이 에이전틱 AI(스스로 작업을 수행하는 AI) 도입을 늘리는 가운데, 컨설팅·회계처럼 정확성이 핵심인 분야일수록 생성 결과를 사람이 교차검증하는 절차가 필수가 된다.

국내에서도 보고서·제안서·IR 자료에 생성형 AI를 쓰는 조직이 빠르게 늘고 있다. 이번 사례의 교훈은 'AI 금지'가 아니라 실명·수치·인용에 대한 사실검증(fact-check) 게이트를 문서 워크플로에 명시적으로 박아 넣어야 한다는 것이다. 특히 대외 공개 문서라면 인용 기관 확인은 협상 불가능한 최소 단계로 다뤄야 한다.

---

출처: TechCrunch · The Next Web · The Register