난카이대학교와 Alibaba Group 등 연구진이 LLM 에이전트의 장기 작업을 위한 추론 시점 프레임워크 PoS(Progression of States)를 arXiv에 공개했습니다(10월 2일 09시 한국 시각, 00:00 UTC). 상호작용 기록을 요약·압축해 기억으로 넘기는 대신, 에이전트가 현재 세계를 어떻게 이해하고 무엇이 남았는지를 '믿음 상태'로 직접 적어 두고 관리하는 방식입니다. 논문은 4개 벤치마크, 3개 LLM 백본 모두에서 전체 성능이 가장 높았다고 밝혔습니다.

1/ 기록이 쌓일수록 지금 상황이 흐려지는 문제

에이전트가 오래 작업하면 행동이 환경을 바꾸고 새 관찰이 이전 추론을 뒤집습니다. 그런데 누적된 문맥에는 지난 상태의 증거와 중간 판단이 뒤섞여 있어서, 어떤 사실이 아직 유효한지, 아직 풀리지 않은 것이 무엇인지 가리기 어려워집니다. 원문 기록을 그대로 두거나 압축하는 기존 메모리 방식은 증거를 보존할 뿐, 확인하고 고쳐 나갈 수 있는 '현재 세계에 대한 하나의 추정'을 만들어 주지는 않는다는 것이 논문의 문제 제기입니다. 논문은 믿음 상태를 만드는 것만으로는 부족하다고 보고 두 가지 추가 문제를 짚습니다. 하나는 LLM이 스스로 쓴 믿음에 모순이나 근거 없는 추론이 섞일 수 있다는 점입니다. 전자레인지가 열려 있다고도, 닫혀 있다고도 적히는 경우가 예입니다. 다른 하나는 일관성이 있어도 의미 있는 진전 없이 행동만 이어 가는 Belief Trapping(믿음 함정)입니다.

2/ 세계 상태·남은 과제·감시·탈출 장치로 구성

PoS의 믿음 B는 네 부분입니다. 과업과 관련된 개체(Entity)·상태(State)·관계(Relation)로 이루어진 세계 상태, 과업 목표, 그리고 아직 모르는 것을 뜻하는 인식 격차(epistemic gap)와 아직 이루지 못한 것을 뜻하는 달성 격차(achievement gap)입니다. 각 상태와 관계에는 출처와 신뢰도, 가능하면 근거도 붙습니다. 에이전트는 격차 중 가장 가치 있는 하나를 활성 격차로 골라 그에 맞춰 행동합니다. 행동 뒤 관찰로 만든 후보 믿음은 Belief Sentinel(믿음 감시자)이 먼저 검사합니다. 같은 개체에 양립 불가능한 상태가 붙었는지(내부 불일치), 최신 관찰과 어긋나는지(외부 불일치)를 확인해 에이전트에게 돌려주고, 에이전트가 증거를 따져 고친 뒤에야 확정합니다. 믿음 함정은 격차 지속, 진전 정체, 믿음 재발이라는 세 지표로 감지합니다. 이후 에이전트 행동 양상과 막힌 격차의 유형 두 축으로 진단해, 그에 맞는 복구 제약을 다음 행동 선택에 덧붙입니다. 이 제약은 평소에는 비어 있습니다. 진전 판정은 진단 과업에서는 추론된 상태·관계의 신뢰도 변화량이 임계값 ε을 넘는지로 합니다. 실행 과업의 판정 기준은 제공된 원문 본문이 잘려 확인되지 않습니다.

3/ 4개 벤치마크·3개 백본 모두에서 최고 성능

평가는 실행 과업인 ALFWorld와 LOCA-Bench, 진단 과업인 RCA-100과 ClinDiag에서 LLM 백본 3종으로 했습니다. 논문에 따르면 PoS는 모든 벤치마크, 모든 백본에서 전체 성능이 가장 높았습니다. 가장 강한 기준선 대비 상대 향상폭은 ALFWorld에서 22.68%, RCA-100 joint accuracy에서 37.89%까지 나왔습니다. 일관성 검증과 복구를 뺀 제거 실험에서는 두 요소가 믿음을 명시하는 것 이상으로 중요하다는 결과가 나왔고, 문맥이 길어져도 성능이 유지되는 내성도 확인했다고 합니다. 이 밖에 함정 유형과 복구 효과, 토큰 소비와 성능 사이의 균형도 분석했습니다. 백본 모델의 이름과 벤치마크별 세부 점수는 제공된 본문에 없습니다.

4/ 기록 보존에서 현재 상태 관리로 옮겨 가는 흐름 (해석)

이 논문은 장기 에이전트의 병목을 얼마나 많은 기록을 들고 있느냐가 아니라 지금 세계를 얼마나 정확히 붙들고 있느냐로 옮겨 놓습니다. 믿음 상태 자체를 만드는 선행 연구는 이미 여럿 있고, 이 논문이 내세우는 차별점은 그 믿음을 지속적으로 검증하고 막혔을 때 추론 중에 복구하는 부분입니다. 다만 제공된 본문에는 한계 항목이 나오지 않았고, 이 방식이 감시자 호출과 믿음 갱신으로 토큰을 얼마나 더 쓰는지는 논문이 따로 분석했다고만 언급되어 있어 실제 적용 때는 그 수치를 원문에서 확인해야 합니다.

출처: Hugging Face 인기 논문 · 발표 2026.10.02 09:00 (KST) · 원문 보기