AI 답변은 조작될 수 있다: GEO는 순위가 아니라 '근거 자체'를 노린다
GEO(생성엔진 최적화)의 진짜 위험은 검색 순위 조작이 아니라 AI 답변의 근거와 추론 과정 자체를 오염시키는 데 있습니다. ICML 2026에 채택된 포지션 논문은 GEO가 RAG의 근거 풀에 침투해 플랫폼 집중·출처 불투명·연구 공백이라는 세 가지 위험을 만든다고 2026년 경고했습니다. 인용되는 법을 다룬 직전 글의 짝으로, 같은 기술의 어두운 면입니다. ASAP은 이 결과를 1차 출처로 정리합니다.
무엇이 달라졌나 — 순위가 아니라 근거를 노린다
GEO가 SEO와 다른 핵심은 공격 대상입니다. SEO는 검색 결과의 순위를 노리지만, GEO는 생성 AI가 답을 합성하는 근거 풀과 추론 과정을 노립니다. 즉 조작이 '어느 페이지를 위로 올리나'에서 '답 자체에 무엇을 심나'로 옮겨갑니다.
세 가지 위험
논문이 지목한 위험은 세 가지이며, 모두 검색 시대에 없던 새 표면입니다. 정리하면 다음과 같습니다.
| 위험 | 메커니즘 |
|---|---|
| 플랫폼 집중 | 소수 생성엔진이 질의 다수를 장악해, 한 곳 조작이 여론에 큰 영향을 줌 |
| 출처 불투명 | 데이터·검색 과정이 비공개라, 오염된 근거인지 사용자가 검증 불가 |
| 연구 공백 | SEO 조작과 달리 학계 연구가 부족해, 정책·플랫폼이 무방비 |
세 위험은 서로를 키웁니다. 집중된 플랫폼이 출처를 공개하지 않고 연구도 부족하면, 조작은 들키지 않고 확산됩니다.
왜 검색 시대보다 위험한가
답변형 엔진에서는 조작이 페이지가 아니라 답변 수준에서 일어납니다. ChatGPT 서치와 구글의 그라운딩 검색처럼 출처를 직접 합성하는 엔진에서는, 사용자가 보는 것이 링크 목록이 아니라 완성된 답 하나입니다. 그래서 근거 풀에 심긴 상업적·악의적 정보는 비교 대상 없이 곧장 '정답'처럼 제시됩니다.
어떻게 막나 — 거버넌스 세 갈래
ICML 2026 논문은 세 위험에 각각 대응하는 거버넌스 세 갈래를 제안합니다. 핵심 개입은 다음과 같습니다.
- 경쟁 촉진: 소수 플랫폼의 독점적 통제를 막아 단일 장애점을 줄입니다.
- 공개 의무화: 데이터 출처·검색 과정·학습 방식을 투명하게 밝히게 합니다.
- 연구 투자: GEO 기법·위협·방어를 다루는 학계 연구를 따로 지원합니다.
세 개입은 각각 집중·불투명·공백을 정면으로 겨냥합니다.
의미
GEO 논문은 AEO를 잘하려는 쪽에 꼭 필요한 균형추가 됩니다. 인용되는 법(밝은 면)과 답변을 지키는 법(어두운 면)은 함께 가야 합니다. ASAP이 최신성·근거·단정으로 인용을 노리는 것과, 그 근거 풀이 오염되지 않도록 출처를 투명하게 밝히는 것은 같은 책임의 양면입니다. 좋은 콘텐츠를 만드는 일과 답변 생태계를 지키는 일은 분리되지 않습니다.
정리
GEO의 위험은 순위가 아니라 답의 근거에 있습니다. ICML 2026 포지션 논문은 플랫폼 집중·출처 불투명·연구 공백을 핵심 위험으로 지목하고, 경쟁·공개·연구라는 세 거버넌스를 제안했습니다. 답변형 검색 시대에는 '어떻게 인용되나'만큼 '근거가 오염되지 않게 하는가'가 중요합니다.
출처: Yizhu Wen 외, "Position: Generative Engine Optimization Creates Underexamined Risks, Governance Must Target Concentration, Disclosure, and Academic Blind Spots"(arXiv 2606.12439, 2026; ICML 2026 포지션 트랙).
AI·테크 이슈,
가장 빠르게
단순 소식을 넘어, 맥락과 구조까지 파고듭니다
Ai Soon As Possible · asapai.co.kr
