KOREAN ASSOCIATION FOR ARTIFICIAL INTELLIGENCE AND LAW

KAAIL · AI LAW & POLICY RESEARCH

Inside the Trap: A Renewal Law for Prefix-Cache Collapse in LLM Agent Serving

연구 서지정보와 원문 안내: Inside the Trap: A Renewal Law for Prefix-Cache Collapse in LLM Agent Serving

국외 연구arXiv초록 제공

프리프린트 · 동료심사 여부 미확인

저자

Akshat Valse · Ali Jannesari

발행일언어 en

요약 상태

초록이 제공되었으며 AI 요약은 아직 생성되지 않았습니다.

초록 미리보기
Prefix caching lets an LLM agent's follow-up turns reuse cached KV, but a burst can…
초록과 원문 더 읽기

원문과 출처

데이터베이스
arXiv
논문 원문원문에서 자세히 읽기