AI 에이전트를 위한 땅hog의 날: Amazon Bedrock에서 OpenAI 모델을 사용하기 위한 프롬프트 캐싱 패턴

에이전트가 한 번 움직일 때마다, 행동하기 전에 전체 컨텍스트를 다시 읽습니다. 다음은 Amazon Bedrock에서 OpenAI 모델을 위한 프롬프트 캐싱이 어떻게 에이전트의 기억을 유지하여, 매 턴마다 동일한 도구, 지침 및 이력을 다시 전송하지 않고도 입력 비용과 지연 시간을 줄여주는지 보여줍니다.