ASAPKPMG, AI로 쓴 보고서가 '환각' 논란에 철회
글로벌 회계·컨설팅 기업 KPMG가 인공지능(AI)으로 작성한 보고서에서 사실과 다른 내용(환각)이 다수 발견돼 2026년 6월 해당 보고서를 철회했습니다. 2025년 10월 발간된 「에이전틱 AI 시대의 우수성 재정의(Redefining excellence in the age of agentic AI)」가 대상으로, UBS·영국 NHS 등 보고서에 인용된 기관들이 "우리에 대한 서술이 사실과 다르다"고 반박하면서 문제가 불거졌습니다. AI를 다룬 보고서를 AI로 쓰다 환각에 걸린 역설적 사례로 기록됐습니다.
무슨 일이 있었나
KPMG가 AI 활용을 다룬 자사 보고서를 환각 문제로 내렸습니다. 2025년 10월 공개된 「에이전틱 AI 시대의 우수성 재정의」 보고서에 사실과 다른 서술이 포함됐다는 지적이 나오자, KPMG는 보고서를 웹사이트에서 내리고 자체 조사에 착수했다고 밝혔습니다. AI 탐지 업체 GPTZero가 보고서에서 여러 부정확한 내용을 확인했고, 그 오류가 AI 환각에서 비롯됐다고 분석한 것이 발단이 됐습니다.
환각이란 무엇인가
환각(hallucination)은 AI가 사실이 아닌 내용을 그럴듯하게 만들어내는 현상입니다. 대규모 언어 모델은 학습한 패턴을 바탕으로 가장 그럴듯한 다음 단어를 생성하기 때문에, 근거가 없는 인용·수치·사례를 실제처럼 제시할 수 있습니다. 이번 KPMG 사례에서는 존재하지 않거나 왜곡된 기업 도입 사례가 보고서에 담긴 것으로 알려졌습니다. AI를 활용한 결과물을 사람이 검증(fact-check)하지 않으면 환각이 그대로 출판물에 실릴 수 있음을 보여줍니다.
어떤 기관들이 반박했나
보고서가 인용한 여러 기관이 자사에 대한 서술이 틀렸다고 밝혔습니다. 파이낸셜타임스(FT) 보도에 따르면 UBS(스위스 은행), 영국 NHS(국민보건서비스), 스위스 연방철도, 런던교통공사(TfL) 등이 보고서가 소개한 자사의 AI 도입 사례가 사실이 아니거나 오해를 부른다고 반박했습니다. 보고서의 신뢰를 뒷받침해야 할 실제 사례들이 사실관계에서 어긋나면서, 보고서 전체의 신뢰성이 흔들렸습니다.
왜 중요한가
이 사건은 전문 기관조차 AI 결과물 검증을 건너뛰면 신뢰를 잃을 수 있음을 보여줍니다. 컨설팅·회계처럼 정확성이 핵심인 분야에서 AI를 도입할수록, 생성 결과를 사람이 교차검증하는 절차가 필수가 됩니다. 2026년 기업들이 에이전틱 AI(스스로 작업을 수행하는 AI) 도입을 늘리는 가운데, 이번 사례는 'AI가 쓴 것을 AI 이야기라며 그대로 신뢰하는' 위험을 경고하는 신호로 받아들여지고 있습니다.
출처: TechCrunch · The Next Web · The Register