AI 답변은 조작될 수 있다: GEO는 순위가 아니라 '근거 자체'를 노린다

GEO(생성엔진 최적화)의 진짜 위험은 검색 순위 조작이 아니라 AI 답변의 근거와 추론 과정 자체를 오염시키는 데 있다. ICML 2026에 채택된 포지션 논문은 GEO가 RAG의 근거 풀에 침투해 플랫폼 집중·출처 불투명·연구 공백이라는 세 가지 위험을 만든다고 2026년 경고했다. 인용되는 법을 다룬 직전 글의 짝으로, 같은 기술의 어두운 면이다. ASAP은 이 결과를 1차 출처로 정리한다.

공격 지점이 페이지에서 답변으로 이동했다

GEO가 SEO와 갈라지는 지점은 무엇을 노리느냐다. SEO는 검색 결과의 순위를 노렸지만, GEO는 생성 AI가 답을 합성하는 근거 풀과 추론 과정을 노린다. 조작이 '어느 페이지를 위로 올리나'에서 '답 자체에 무엇을 심나'로 옮겨간 것이다.

이 이동이 왜 결정적인지는 사용자가 마주하는 화면을 보면 드러난다. ChatGPT 서치나 구글의 그라운딩 검색처럼 출처를 직접 합성하는 엔진에서, 사용자가 보는 것은 링크 목록이 아니라 완성된 답 하나다. 검색 시대에는 조작된 페이지가 상위에 떠도 그 밑에 다른 링크들이 나란히 놓여 비교가 가능했다. 답변형 엔진에는 그 비교 열이 없다. 근거 풀에 심긴 상업적·악의적 정보는 견줄 대상 없이 곧장 '정답'처럼 제시된다. 조작의 발판이 좁아진 대신, 성공했을 때 파괴력은 더 크다.

서로를 키우는 세 가지 위험

논문이 지목한 위험은 세 가지이며, 모두 검색 시대에 없던 새 표면이다.

세 위험은 병렬이 아니라 서로를 증폭한다. 집중된 플랫폼이 출처를 공개하지 않고 연구도 부족하면, 조작은 들키지 않고 확산된다. 세 갈래 대응은 그래서 하나씩 정면으로 겨눈다. 경쟁 촉진은 소수 플랫폼의 독점적 통제를 막아 단일 장애점을 줄이고, 공개 의무화는 데이터 출처·검색 과정·학습 방식을 투명하게 밝히게 하며, 연구 투자는 GEO 기법·위협·방어를 다루는 학계 연구를 따로 지원한다. 집중·불투명·공백에 각각 하나씩 대응하는 설계다.

왜 이 논문이 AEO를 노리는 쪽에 필요한가

GEO 논문은 인용을 노리는 실무에 균형추가 된다. 인용되는 법(밝은 면)과 답변을 지키는 법(어두운 면)은 원래 한 기술의 양면이다. 최신성·근거·단정으로 인용을 노리는 일과, 그 근거 풀이 오염되지 않도록 출처를 투명하게 밝히는 일은 같은 책임에서 갈라져 나온다. 좋은 콘텐츠를 만드는 쪽이 곧 답변 생태계를 오염시킬 수 있는 쪽이기도 하다는 뜻이다.

한국 실무자에게 이 경고는 특히 시차를 두고 온다. 공개 의무화나 경쟁 촉진 같은 거버넌스는 국내에 아직 제도가 없고, 답변형 엔진의 근거 풀은 대부분 해외 플랫폼이 통제한다. 즉 조작 표면은 이미 열려 있는데 방어 장치는 남의 손에 있다. 지금 실무에서 할 수 있는 것은 최소한 자기 콘텐츠의 출처를 검증 가능하게 남기고, 인용을 노릴 때 근거를 날조하지 않는 자율 규범뿐이다.

이 논문이 답하지 않는 것

한 가지는 짚어둘 만하다. 이 글이 근거로 삼은 것은 실증 연구가 아니라 포지션 논문이다. 위험을 개념적으로 지목하고 거버넌스 방향을 제안하는 성격이지, 조작이 실제로 얼마나 자주·얼마나 크게 일어나는지 측정한 것은 아니다. 저자들이 지목한 '연구 공백'이 곧 이 논문 자체의 한계이기도 하다. 그래서 경쟁·공개·연구라는 세 처방은 방향은 옳아도 구체적 강도나 우선순위는 아직 빈칸으로 남아 있다. 실무자는 이 논문을 위험의 지도로 읽되, 정답표로 읽지는 않는 편이 정확하다.

출처: Yizhu Wen 외, "Position: Generative Engine Optimization Creates Underexamined Risks, Governance Must Target Concentration, Disclosure, and Academic Blind Spots"(arXiv 2606.12439, 2026; ICML 2026 포지션 트랙).