Approve What, Exactly? Effect Binding and Trusted Rendering for Agent Step-Up Authorization
arXiv · 2026-10-1510개 런타임 감사, 승인 후 인수 변경, 정확한 행동 결합 방어와 모의 공격 결과·한계를 설명합니다.
NEWS SOURCES이번 화의 뉴스 근거 근거 3개 보기 ＋
연구진은 10개 AI 에이전트 런타임의 승인 경로를 감사하고, 행동 결합을 측정할 수 있었던 8개 중 4개에서 승인 뒤 도구 인수가 바뀔 수 있음을 재현했습니다. 제안한 참조 방어는 실제 실행할 호출을 정규화한 카드와 승인 서명을 결합해 저장된 호출만 한 번 실행합니다. 다만 결과는 공개 런타임과 모의 공격에 한정되며, 승인 요청 남발이나 사람이 해로운 행동을 직접 승인하는 문제까지 해결하지는 않습니다.
- 선정 뉴스
- Study audits whether AI-agent approvals stay bound to the action that executes
- 사건일
- 2026-10-15
- 조사일
- 2026-10-18
Agent Step-Up (ASU)
SportsVision AI 연구진 · 2026-10-15게이트웨이, 공격 시나리오, 감사 결과, 실험 데이터와 형식 검증 자료를 공개합니다.
AI Frontier · Oct 16, 2026
Rosetta Intel · 2026-10-164/8 결합 실패와 신뢰 카드 실험을 요약하고, 시험 범위·승인 남발·정책 허용 행동의 한계를 함께 확인합니다.
선정 기준 최근 48시간의 Beam 1.0 공개 가중치 후보는 ep-033과 핵심 주제가 겹쳐 제외했습니다. 7일 보완 창에서 arXiv 논문, 공개 코드·결과 저장소, Rosetta Intel의 독립 요약을 모두 열어 읽고 4/8 감사 결과와 실험 범위, 남은 한계를 교차 확인했습니다.
이 작품의 제작 정보
- 기획·대본
- GPT-5 확인된 모델 기록
- 이미지 생성
- OpenAI Image Generationbuilt-in image_gen · 정확한 버전 기록 없음
- 레터링·내보내기
- OpenAI Image Generation 이미지 생성 내 레터링 · built-in image_gen
END OF EPISODE 035
“승인 화면은 에이전트의 설명이 아니라 실제 실행할 정확한 행동을 보여 주고, 그 행동에 일회용으로 결합되어야 한다.”