AI가 링크를 나열하지 않을 때, 콘텐츠는 어떻게 답변에 채택되는가

AI가 링크를 나열하지 않을 때, 콘텐츠는 어떻게 답변에 채택되는가

먼저 한 가지 상황을 생각해 보겠습니다. 예전에는 ‘어떤 공기청정기가 가성비가 좋을까’를 알고 싶으면 검색 엔진을 열어 나열된 제목과 링크를 하나씩 눌러 비교했습니다. 지금은 다릅니다. AI 어시스턴트나 Google의 AI Overview에 물으면 ‘여러 리뷰를 종합하면 XX 브랜드는 CADR과 소음 제어에서 뛰어난 성능을 보이며[1], YY 브랜드는 필터 교체 비용이 더 낮습니다[2]…’라는 문장을 바로 작성합니다. 답은 AI가 직접 ‘쓴’ 것입니다. 사용자가 보는 것은 링크 열 개가 아니라 여러 웹사이트의 정보를 통합하고 인용 번호까지 붙인 하나의 글입니다.

사용자에게는 편리해 보이지만 리뷰, 상품 소개, 과학 해설을 작성하는 콘텐츠 제작자에게는 게임의 규칙이 완전히 바뀌었습니다. 예전에는 ‘검색 결과 몇 페이지의 몇 위인가’를 놓고 경쟁했다면, 이제는 ‘AI의 답변에 내가 언급되는가, 내 이름이 나오는가, 내 글이 얼마나 많이 인용되는가’를 놓고 경쟁합니다. 논문에서는 이 새로운 최적화 분야를 ‘생성형 엔진 최적화’(Generative Engine Optimization, GEO)라고 부릅니다. 이번 논문은 베이항대학교의 Jiaqi Yuan 등 연구진이 2026년 3월 arXiv에 공개한 ‘AgenticGEO: A Self-Evolving Agentic System for Generative Engine Optimization’입니다. 쉽게 말해 스스로 진화하는 ‘콘텐츠 최적화 도우미’를 만들어 콘텐츠가 AI에 채택되고 인용되기 쉽게 고쳐 쓰도록 하는 연구입니다. 이 도우미는 사용할수록 더 똑똑해지며, 매번 실제 AI 엔진에 ‘이렇게 쓰면 괜찮을까요’라고 물을 필요가 없습니다.

아래에서는 최대한 쉬운 말로 논문을 처음부터 차근차근 설명하고 핵심 도표도 함께 소개하겠습니다.

------

첫째, 순위 중심 사고와 채택 중심 사고

기존 SEO(검색 엔진 최적화)는 ‘내 페이지를 검색 결과 첫 페이지에 어떻게 올릴까’에 집중하며 키워드, 외부 링크 등의 신호를 활용합니다. 그러나 생성형 엔진은 페이지를 나열해서 보여 주는 대신 여러 출처의 내용을 ‘소화’하여 하나의 답변으로 재구성합니다. 이 구조에서는 순위가 더 이상 최종 목적이 아닙니다. 논문은 GEO의 목표를 두 가지로 나눕니다.

• 가시성(Visibility): AI가 생성한 답변에 내 콘텐츠가 포함되는가.
• 출처 귀속(Attribution): 출처가 명시되고 내 콘텐츠에 인용 표시가 붙는가.

이 두 가지는 사용자가 내 웹사이트를 클릭해 방문할지, 그 정보를 내가 작성했다는 사실을 알게 될지를 직접 좌우합니다. 논문이 GEO를 ‘전체 웹 생태계의 지속 가능성과 관련된 문제’라고 말하는 이유도 여기에 있습니다. 앞으로 AI 답변이 관심을 어떻게 배분하는지는 어느 정도 트래픽과 노출을 어떻게 배분하는지와 같아집니다.

둘째, ‘만능 최적화 템플릿’이 존재하지 않는 이유

논문은 시작부터 다소 뼈아픈 실험을 제시합니다. 키워드 억지 삽입, 전문 용어 사용, 권위 있는 출처 인용, 유명인 발언 인용, 통계 데이터 추가 등 흔히 쓰는 9가지 최적화 기법을 GEO-Bench 데이터셋의 콘텐츠에 각각 적용해 효과를 비교했습니다. 결과는 다음과 같습니다. 모든 콘텐츠에 통하는 기법은 하나도 없었습니다. 게다가 콘텐츠의 거의 절반은 이 9가지 기법 중 어떤 것을 적용해도 개선되지 않았습니다.

위 그림(논문의 Figure 1)의 가로축은 ‘전략 민감도’입니다. 값이 높을수록 일부 전략만 효과가 있고 다른 전략으로 바꾸면 효과가 사라집니다. 세로축은 ‘최적 전략이 가져올 수 있는 최대 개선 폭’입니다. 논문은 표본을 네 가지로 구분합니다. ‘어떻게 최적화해도 개선되는’ 콘텐츠(왼쪽 위, 안정적으로 최적화 가능), ‘맞는 전략을 골라야만 효과가 있는’ 콘텐츠(오른쪽 위, 전략 의존형), ‘어떻게 해도 별 효과가 없는’ 콘텐츠(왼쪽 아래, 최적화 저항성이 큼), ‘결과의 기복이 크고 운의 영향이 큰’ 콘텐츠(오른쪽 아래)입니다.

여기서 분명한 결론을 얻을 수 있습니다. 모든 콘텐츠를 같은 방식으로 고쳐 쓰겠다는 출발점 자체가 잘못되었습니다. 생활용품 추천을 예로 들면 스마트 비데와 영아용 분유 리뷰에서 강조해야 할 점은 완전히 다릅니다. 전자는 정확한 세정 성능 수치와 안전 인증, 후자는 권위 있는 기관의 근거와 실제 가정의 피드백이 중요합니다. 같은 템플릿을 적용하면 양쪽 모두 좋은 결과를 얻기 어려울 것입니다.

셋째, AgenticGEO는 이 문제를 어떻게 해결하는가

논문이 제안한 해법의 핵심은 한 문장으로 정리할 수 있습니다. 하나의 전략을 고집하지 말고 ‘전략 창고’ 전체를 키우면서 저렴하고 쓰기 편한 ‘모의 채점관’이 선택을 돕게 하는 것입니다.

위 그림(Figure 2)의 비교처럼 기존 GEO 방식은 고정된 재작성 공식을 적용합니다. 반면 AgenticGEO는 계속 진화하는 전략 아카이브와 평가 모델을 함께 운영하면서 콘텐츠마다 전략을 동적으로 선택하고 수정합니다.

전체 시스템은 세 단계로 작동합니다.

첫 번째 단계: 오프라인 준비. 먼저 앞서 설명한 키워드 채우기, 출처 인용, 통계 데이터 추가 등 9가지 기본 전략을 학습 데이터에 적용합니다. 각 전략이 ‘가시성’을 얼마나 높였는지 기록하고 이 실제 데이터로 경량 평가 모델을 학습시킵니다. 논문은 이를 ‘Critic’(평가자)이라고 부릅니다. 쉽게 말해 저렴한 대리 채점관입니다. 콘텐츠와 후보 전략을 주면 ‘이렇게 바꾸면 점수가 얼마나 오를까’를 빠르게 예측합니다. 비용과 시간이 드는 실제 AI 엔진 질의를 매번 수행할 필요가 없습니다.

두 번째 단계: 온라인 공동 진화. 이 부분이 논문에서 가장 흥미롭습니다. 시스템은 ‘MAP-Elites 아카이브’를 운영합니다. ‘전체 최고 순위표’가 아니라 종류별로 구분된 수납장이라고 생각하면 됩니다. 전략을 다섯 가지 차원으로 분류합니다(논문의 Table 1).

홈·리빙 분야를 예로 들어 보겠습니다. 같은 ‘로봇청소기 리뷰’라도 ‘지시=청소 커버리지 강조 + 제약=실측 데이터 출처 필수 명시 + 어조=권위 있고 전문적으로’라는 전략 조합이 있을 수 있습니다. 다른 조합은 ‘지시=가성비 비교 + 형식=가격대별 목록 + 어조=친구와 대화하듯 친근하게’일 수 있습니다. 이 두 조합은 아카이브의 서로 다른 칸에 들어가며, 서로 자리를 뺏지 않고 같은 유형의 전략끼리만 성과를 비교합니다. 따라서 시스템이 ‘권위 있고 전문적인 말투’ 한 가지에만 몰리지 않습니다. 다양한 스타일을 보존해 두었다가 적합한 콘텐츠를 만났을 때 활용합니다.

새 전략이 칸에 들어가려면 두 가지 관문을 통과해야 합니다. 해당 칸의 기존 전략보다 효과가 좋은가(가치 관문), 기존 전략과 다른가(참신성 관문, n-gram 유사도로 판단). 새로운 전략이 현재 최고 점수가 아니더라도 충분히 독특하다면 향후 대안으로 보존됩니다.

공동 진화 주기는 대략 다음과 같이 진행됩니다(논문의 Algorithm 1을 쉬운 말로 네 단계로 정리했습니다).

1. 생성: 아카이브에서 여러 ‘부모’ 전략을 고릅니다. 일부는 AI(Evolver, 진화기)를 통한 ‘신경망 방식’의 변이를 적용하고, 일부는 사전 규칙에 따라 직접 변경합니다. 예를 들어 문단을 목록으로 바꾸거나 온건한 어조를 강한 어조로 전환합니다.
2. 선별: Critic이 모든 후보 전략에 점수를 매겨 가장 유망한 몇 가지를 고릅니다. 여기에 무작위 후보도 추가해 시스템이 자기 반복이나 정보 편향에 빠지지 않도록 합니다.
3. 검증: 선택한 전략을 실제 AI 엔진에서 실행하여 실제 피드백을 얻습니다. 검증하지 않은 전략은 우선 Critic의 추정 점수로 대신합니다.
4. 학습: 실제 피드백과 추정 피드백으로 진화기에는 더 효과적인 재작성 동작을, Critic에는 더 정확한 평가를 동시에 학습시킵니다.

여기에는 세밀한 설계가 하나 있는데, 바로 형제 관계를 고려한 이점 계산(Sibling-Aware AWR)입니다. 본래 최적화하기 어려운 콘텐츠가 있습니다. 이미 내용이 충실해 더 개선하기 어려운 경우가 그 예입니다. ‘점수가 얼마나 올랐는가’만 보면 재작성 동작의 실제 효과를 잘못 판단할 수 있습니다. 그래서 시스템은 전체 전략과 비교하지 않고 ‘같은 부모 전략에서 나온 여러 변형’끼리 비교합니다. 이를 통해 ‘재작성 동작 자체가 뛰어난 것인지’, 아니면 ‘콘텐츠가 원래 개선하기 쉬웠던 것인지’를 더 정확히 구별할 수 있습니다.

세 번째 단계: 추론 시 여러 차례 재작성. 학습을 마친 시스템이 새로운 콘텐츠를 최적화할 때 Critic은 ‘빠른 계획자’ 역할을 맡습니다. 매 단계에서 현재 예상 개선 폭이 가장 큰 전략을 아카이브에서 골라 콘텐츠를 고쳐 쓰고 효과가 더 좋아졌는지 확인합니다. 더 나은 전략을 고를 수 없거나 재작성을 세 번 완료하면(논문 실험에서 정한 상한) 멈춥니다. 시스템에는 ‘금지 목록’도 있어 한 번 사용한 전략을 다시 쓰지 않습니다. 같은 방법을 반복하는 대신 매번 새로운 요소가 추가되도록 하는 것입니다.

넷째, 이 구조는 믿을 만한가, 수학적 보장은 있는가

논문은 이론적 분석도 제시합니다. ‘리플레이 버퍼가 선형으로 증가한다’, ‘Critic이 립시츠 연속성을 만족한다’는 일반적인 가정 아래에서 Critic과 Evolver 공동 진화 구조의 누적 후회(cumulative regret, 쉽게 말해 ‘이론적 최적 전략과의 차이’)는 $\mathcal{O}(\sqrt{T})$ 입니다. 즉, 실행 라운드 T가 늘어날수록 최적 전략과의 평균적인 차이가 줄어들어 영에 가까워집니다. 쉬운 말로 하면 다음과 같습니다. 이 시스템은 무작정 운에 기대는 방식이 아니라, 오래 실행할수록 전략 선택 능력이 이론적으로 최상 수준에 가까워집니다. 부록에는 리플레이 버퍼 크기의 집중 부등식, Critic의 일반화 오차 상한, Evolver의 온라인 학습 후회 상한으로 구성된 세 단계의 완전한 증명이 있습니다. 관심이 있다면 원문 부록 A.3을 참고하시기 바랍니다.

다섯째, 실제 성과는 어떤가

실험에서는 GEO-Bench(주로 Google 검색 결과에서 수집한 장문 콘텐츠)를 학습과 동일 도메인 평가에 사용했습니다. 여기에 MS MARCO(Bing 검색 로그 기반의 짧은 텍스트)와 자체 구축한 이커머스 데이터셋(Amazon 상품 설명과 리뷰)을 추가해 학습한 적 없는 새로운 도메인에서 테스트했습니다. 최종 답변을 생성하는 엔진은 구조와 규모가 다른 Qwen2.5-32B-Instruct와 Llama-3.3-70B-Instruct를 사용했습니다.

동일 도메인 성적(Table 2):

보시다시피 키워드를 억지로 채우거나 권위 있는 어조를 흉내 내는 기존 방식은 개선 폭이 매우 작습니다. 최적화하지 않았을 때보다 더 나빠지는 경우도 있습니다. 예를 들어 ‘더 생소한 어휘 사용’ 전략은 두 엔진 모두 17~18점으로 떨어져 오히려 역효과를 냈습니다. AgenticGEO는 구조와 규모가 완전히 다른 두 엔진에서 모두 가장 좋은 성적을 얻었습니다. 특정 엔진의 ‘취향’이 아니라 더 일반적인 최적화 원리를 학습했음을 보여 줍니다.

새로운 도메인에서는 어떨까요(Table 3, 교차 도메인 테스트)?

이 숫자는 더 많은 것을 말해 줍니다. 동일 도메인에서 AgenticGEO의 우위는 이십 퍼센트를 조금 넘었지만, 전혀 본 적 없는 콘텐츠 유형, 특히 엔터티 관련 단어가 밀집된 이커머스 상품 설명에서는 격차가 오십 퍼센트 가까이에서 칠십 퍼센트까지 커졌습니다. 이는 ‘특정 콘텐츠를 어떻게 고칠지’를 암기한 것이 아니라 다른 영역에도 이전할 수 있는 콘텐츠 적응형 최적화 원리를 학습했다는 뜻입니다. 홈·리빙 분야에 비유하면 ‘로봇청소기’ 리뷰를 배운 작성자가 ‘유모차’ 리뷰도 잘 쓰는 것과 같습니다. 로봇청소기 템플릿만 적용할 줄 아는 작성자와는 다릅니다.

각 구성 요소의 역할 분석(Figure 4):

논문은 네 가지 비교 실험을 진행했습니다. (a) 오프라인 학습을 마친 Critic만 사용하고 온라인 진화는 수행하지 않는 조건, (b) 전략 아카이브 전체를 제거하는 조건, (c) Critic 기반 계획을 무작위 재작성으로 바꾸는 조건, (d) 아카이브에서 전략 다양성을 고려하지 않고 점수만 보는 조건입니다. 그 결과, 아카이브를 제거했을 때 점수가 가장 크게 하락했습니다. 이는 ‘다양한 전략을 장기적으로 축적하는 것’이 진정한 핵심 동력임을 보여 줍니다. 오프라인 Critic만 사용했을 때도 성능이 뚜렷하게 낮아져 온라인에서의 지속적인 보정이 중요함을 알 수 있습니다. 무작위 계획과 ‘다양성 없이 점수만 보는’ 설정 역시 성과를 떨어뜨렸습니다. 다양성은 보기 좋은 장식이 아니라 그 자체로 효과가 있는 요소입니다.

하이퍼파라미터 선택(Figure 5):

실험에서는 여러 차례 재작성할 때 3회에서 가장 좋은 성과를 보였습니다(종합 점수 25.48). 그 이상 반복해도 추가 이익이 작아 짧고 효과적인 계획만으로 충분함을 보여 줍니다. 아카이브 규모는 전략 25~35개 사이에서 가장 효과적이었고, 35개에서 정점을 기록했습니다. 너무 작으면 탐색이 부족하고 너무 크면 선별 효율이 떨어집니다. 전형적인 ‘탐색과 활용’의 절충 관계입니다.

오프라인 Critic은 얼마나 정확한가(Table 4)?

NDCG는 순위 품질을 평가하는 대표적인 지표입니다. 값이 높을수록 Critic이 예측한 전략 순위가 실제 순위와 잘 맞습니다. 동일 도메인에서 Critic의 NDCG@5는 95%에 가까워 실제 엔진의 선호 순위를 거의 정확하게 재현했습니다. 완전히 낯선 분야에서도 순위 품질이 다소 낮아지긴 하지만 칠십~팔십 퍼센트 수준을 유지했습니다. 이는 ‘모의 채점관’이 학습 데이터를 암기한 것이 아니라 다른 영역에도 적용할 수 있는 판단 원리를 배웠음을 보여 줍니다.

비용 절감 효과(Figure 6):

이 그림은 매우 현실적인 질문에 답합니다. 실제 AI 엔진에 질의하려면 호출 횟수와 시간이라는 비용이 듭니다. 질의를 줄여도 괜찮을까요? 답은 다음과 같습니다. 실제 피드백 700회(전체의 41.2%)만 사용해도 25.12점을 얻어 전체 피드백을 사용한 25.60점의 98.1%를 유지했습니다. 즉, Critic이라는 ‘저렴한 대역’ 덕분에 실제 질의 비용을 거의 육십 퍼센트 줄이면서도 성능은 거의 떨어지지 않았습니다. 모든 방안을 실제 시험장에 보내는 대신 견습생에게 먼저 후보를 추리게 하고 가능성이 높은 몇 가지만 본시험에서 검증하는 것과 같습니다.

재작성 후에도 콘텐츠의 ‘원래 의미’가 남아 있는가(Figure 7)?

이는 중요한 검증입니다. 점수를 높이는 대가로 내용이 완전히 달라진 것은 아닐까요? 논문은 BERTScore로 재작성 전후의 의미적 유사도를 측정합니다. 기존의 많은 휴리스틱 방법은 의미를 잘 보존하지만 점수 개선은 제한적입니다. AutoGEO는 점수가 크게 오르는 대신 의미적 유사도가 뚜렷하게 낮아졌습니다. 즉, 개선의 일부는 ‘너무 많이 바꿔 원래 주제에서 벗어난’ 대가로 얻은 것입니다. 반면, AgenticGEO는 최고 점수를 얻으면서도 의미적 유사도를 비교적 높게 유지했습니다. 이는 전면적으로 뜯어고치기보다 문제에 맞춘 작고 정밀한 조정이 효과를 냈음을 보여 줍니다. 콘텐츠 제작자에게는 중요한 점입니다. AI에 몇 문장 더 인용되기 위해 원래 전하려던 의미까지 잃고 싶지는 않을 것입니다.

여섯째, 실제 사례 세 가지로 구체적인 수정 방식 살펴보기

논문 부록에는 서로 다른 분야의 실제 최적화 과정 세 가지가 제시되어 있습니다(Figure 8).

• GMO(유전자 변형 작물) 관련 콘텐츠에는 권위 있는 기관의 인용과 구체적인 통계 데이터를 추가해 사실적 근거를 강화했습니다.
• 아열대 우림 관련 콘텐츠에는 정확한 기후 관측 데이터와 전문 용어를 추가해 내용의 충실도와 전문성을 높였습니다.
• 도서 추천 관련 콘텐츠에서는 다른 접근을 택했습니다. 여러 플랫폼의 실제 리뷰를 종합해 ‘많은 사람이 좋다고 평가한다’는 사회적 증거로 설득력을 강화했습니다.

이 세 사례를 함께 보면 핵심이 분명해집니다. 같은 시스템이 성격이 다른 콘텐츠에 대해 완전히 다른 방법을 선택했습니다. 전문 지식 콘텐츠에는 ‘근거와 데이터 보강’을, 사회적 추천 콘텐츠에는 ‘사람들의 평판 활용’을 선택한 것입니다. 이는 논문 초반의 발견과 맞아떨어집니다. 모든 상황에 통하는 만능 템플릿은 없으며, 콘텐츠의 특성을 보고 대응하도록 시스템을 학습시키는 것이 핵심입니다.

일상에 가까운 상황으로 비유하면 이렇습니다. ‘Xiaomi 공기청정기와 다른 브랜드 제품 중 무엇을 고를까’ 같은 비교 리뷰라면 시스템은 CADR 값, 소음 데시벨 등 구체적인 성능 수치를 보강하고 권위 있는 시험 기관의 인증 출처를 추가할 것입니다. 반면 ‘올해 사 두면 좋은 어린이 그림책 목록’이라면 전문 용어를 억지로 넣기보다 주요 플랫폼 독자들의 실제 호평이나 재쇄 횟수 같은 사회적 증거를 추가할 가능성이 높습니다. 그림책을 사는 부모는 기술 사양보다 ‘다른 사람들이 좋다고 하는지’를 더 알고 싶기 때문입니다.

일곱째, 마무리하며

이 논문은 검색 엔진이 ‘링크를 나열해 주는 도구’에서 ‘답을 직접 작성해 주는 도구’로 바뀔 때 콘텐츠 제작자가 어떻게 적응해야 하는가라는 현실적인 질문에 답합니다. 접근은 실용적입니다. AI의 허점을 파고들거나 부정한 방식으로 인용을 얻는 방법을 가르치지 않고, 콘텐츠 자체의 내재적 품질을 높이고 특성에 맞게 정밀하게 조정할 것을 반복해서 강조합니다. 동시에 원래 의미를 최대한 보존하고 정보 왜곡으로 노출을 얻지 않도록 합니다. 논문의 결론도 같은 방향을 제시합니다. ‘편법적인 템플릿 적용’이 아니라 ‘품질과 다양성’에 보상을 주어야 제작자와 AI 엔진이 함께 이익을 얻는 생태계를 만들 수 있습니다. 제작자가 AI의 취향을 필사적으로 추측하고 AI는 계속 취향을 바꿔 제작자를 곤란하게 하는 관계가 되어서는 안 됩니다.