AI 에이전트 메모리

작성: Ai Flowi · 게시일

AI 에이전트 메모리는 에이전트가 이후 대화나 작업 단계에서 사용할 수 있도록 보관하는 정보입니다. 대화 메시지, 명시적인 작업 메모, 별도의 지식 자료에서 검색한 사실 등이 포함될 수 있습니다. 각 형태의 목적은 서로 다르며, 텍스트를 저장했다고 해서 모델이 그 내용을 영구적으로 학습한 것은 아닙니다.

다음에 어떤 정보가 누구에게 얼마나 오래 제공되는지를 확인하는 것이 중요합니다. 최근 대화 내용은 후속 질문을 해석하는 데 도움이 됩니다. 검토된 원본 문서는 정책 관련 질문에 답하는 데 도움이 됩니다. 그러나 어느 쪽도 미완료 작업을 자동으로 신뢰성 있게 기록해 주지는 않습니다.

에이전트 메모리에서 대화, 작업 메모와 지식 자료는 어떻게 다른가요?

목적에 맞는 기록 선택하기
기록유용한 내용사용하기 전에 확인할 사항
최근 메시지질문, 추가 설명과 이전 답변입니다.세션, 순서와 검색된 메시지 범위가 올바른지 확인합니다.
작업 메모확인된 사실, 남은 질문과 현재 결정입니다.출처가 표시되어 있는지, 메모가 여전히 유효한지 확인합니다.
정리된 지식 자료대화와 별개로 승인된 문서입니다.접근 권한, 원본 버전과 검색 결과의 관련성을 확인합니다.

메시지에는 부정확한 주장이 담길 수 있고, 정리된 문서도 시간이 지나면 최신 정보가 아닐 수 있습니다. 따라서 메모리 설계에는 저장뿐 아니라 출처 추적과 정정 규칙도 필요합니다. 기록 구성 요소가 이전 모델 답변을 검색할 수 있다는 이유만으로 그 답변을 권위 있는 출처로 취급해서는 안 됩니다.

관련 자료: Zep 사용법: AI Flowi Workflow 메모리 연동.

메모리가 이후 답변에 전달되는 과정

먼저 어떤 정보를 기록할지 결정합니다. 그런 다음 의도한 범위에 맞게 저장하고, 적절한 일부를 검색하여 다음 작업의 문맥에 포함합니다. 각 작업은 개별적으로 실패할 수 있습니다. 메시지가 저장되지 않았거나, 잘못된 기록이 검색되거나, 검색된 정보가 다음 프롬프트에서 빠질 수 있습니다.

모델은 전달받은 정보나 별도로 사용할 수 있는 기능을 바탕으로만 답할 수 있습니다. 표에 기록을 보관한다고 해서 다음 모델 호출이 그 표를 읽는다는 보장은 없습니다. 후속 질문에서 내용을 잊은 것처럼 보이면 검색 결과와 완성된 프롬프트를 모두 확인합니다.

AI Flowi Workflow의 메모리 관련 구성 요소

Message History 인터페이스에는 아래 실습에서 사용하는 저장 및 검색 필드가 설명되어 있습니다.

검색된 대화는 어떤 말이 오갔는지를 보여 줍니다. 어떤 진술이 여전히 적용되는지 판단하는 것은 별도의 정정 규칙에 해당합니다.

카탈로그에서 Message Store의 저장 작업을 확인한 뒤, 기억 여부를 평가하기 전에 저장된 기록을 검증합니다.

실습을 채팅에서 시작한다면 Chat Input과 Chat Output 문서에서 메시지 저장 설정을 확인합니다.

가상 데이터를 이용한 기억과 망각 실습

개인정보가 없는 가상의 선호 사항을 사용합니다. 먼저 보고서에 글머리 기호를 사용하라고 대화에서 알립니다. 나중에는 문단 형식으로 바꾸라고 요청합니다. 마지막으로 지금 어떤 형식을 사용해야 하는지 묻습니다. 이 실습에서 기대하는 동작은 가장 최근의 명시적인 정정을 따르고 다른 선호 사항을 지어내지 않는 것입니다.

구성 예시이며, 기록된 테스트가 아닙니다

Message History, retrieval node
mode: "Retrieve"
order: "Ascending"
n_messages: 4
session_id: synthetic-format-check

Message Store, storage node
message: supply each synthetic preference message
session_id: synthetic-format-check
sender: User

이 개수는 실습을 위해 제안한 설정이며, 문서에 명시된 최댓값이나 관찰된 검색 결과가 아닙니다. 저장과 검색은 별도로 확인합니다. 이후 모델 단계에 연결하기 전에 messages_text와 dataframe에 무엇이 담겼는지 살펴봅니다. 출력 유형이 맞는다는 사실만으로 선택 순서나 메시지 범위가 어떻게 적용되는지 확인할 수는 없습니다.

검색된 대화 텍스트로 후속 프롬프트를 준비할 때는 Language Model 문서를 참고합니다.

기억 여부를 판단하기 전에 정정 내용 확인하기

다음 가상의 발화를 순서대로 사용합니다. “보고서에는 글머리 기호를 사용해 주세요”, “정정합니다. 보고서에는 문단을 사용해 주세요”, “부록에만 표를 사용해 주세요”, 그리고 “보고서와 부록에는 각각 어떤 형식을 적용하나요?”입니다. 의도한 답은 두 범위를 모두 유지하여 보고서에는 문단을, 부록에는 표를 사용하는 것입니다. 모델에 묻기 전에 저장된 텍스트와 검색된 기록을 확인합니다. 검색 결과에 정정 내용이 없다면 문맥 전달의 실패입니다. 두 진술이 모두 있는데 답변이 글머리 기호를 선택한다면 해석 지침을 확인합니다.

이제 관련 없는 가상의 발화를 추가하고 같은 메시지 범위 설정으로 다시 검색합니다. 최근 메시지 네 개가 최근 사용자 지시 네 개를 뜻한다고 가정하지 말고, 어떤 정정 내용이 여전히 제공되는지 기록합니다. 발신자 필터와 정렬 순서가 유용한 문맥에 영향을 줄 수 있습니다. 요약에 “표를 선호함”이라고만 적으면 원래 메시지가 모두 저장되어 있어도 부록에만 적용한다는 조건이 사라집니다.

망각을 확인하려면 부록에 대한 선호를 철회한 뒤 같은 질문을 다시 합니다. 기대하는 결과는 부록 형식이 미지정 상태가 되는 것이며, 이전 추측으로 돌아가는 것이 아닙니다. 원본 대화 기록뿐 아니라 유지 중인 요약도 확인합니다. 오래된 요약이 철회한 선호를 다시 끌어들일 수 있습니다. 선택한 백엔드가 삭제를 지원한다면 가상 기록 하나를 삭제하고 다시 검색합니다. 해당 기록을 프롬프트에서 뺀 뒤 답변이 올바르게 나왔다는 사실은 그 프롬프트에서 기록을 사용하지 않았다는 것만 보여 주며, 저장된 기록이 삭제되었다는 증거는 아닙니다.

별도로 정리된 지식 자료는 구분해서 다루기

별도로 정리된 문서를 검색할 때는 대화 기록을 원본 자료 모음으로 취급하지 말고 RAG를 참고합니다.

대화에서는 정책이 바뀌었다고 하지만 승인된 문서에는 다른 내용이 있다면, 해당 대화는 그런 주장이 있었다는 기록으로 보관하고 불일치를 표시합니다. 대화가 원본 검토의 계기가 될 수는 있지만, 알리지 않은 채 기존 정책을 대체해서는 안 됩니다. 질문이 사용자의 보고서 형식 선호에만 관한 것이라면 문서 검색으로 더 신뢰할 만한 근거를 얻을 수 없습니다. 대신 정정 이력을 확인합니다.

보존과 망각 확인에서 입증해야 할 사항

  • 저장: 검색의 문제로 판단하기 전에 가상 메시지가 기록되었는지 확인합니다.
  • 범위: 가상의 발화를 추가하여 어떤 이전 발화가 계속 제공되는지 관찰합니다. 실제 동작을 문서화합니다.
  • 정정: 가장 최근의 명시적인 선호가 이전 선호를 대체하는지 확인합니다.
  • 격리: 권한이 있는 다른 테스트 세션을 사용하여 첫 번째 세션의 메시지를 가져올 수 없는지 확인합니다. 식별자가 있다는 것만으로 격리가 입증되지는 않습니다.
  • 제거: 백엔드가 삭제를 지원한다면 저장된 기록과 이후 검색을 모두 확인합니다. 프롬프트 하나에서 메시지를 빼는 것만으로 저장소에서 제거되지는 않습니다.

이 카탈로그는 보존 기간, 삭제 기능이나 지속적인 학습 결과를 입증하지 않습니다. 이 메모리 관련 구성 요소는 카탈로그에 문서화되어 있지만, Ai Flowi가 운영 환경에서 테스트한 것은 아닙니다. 모델을 사용하는 후속 단계에는 자신의 제공업체 계정과 API 키가 필요하며, 제공업체 요금은 워크플로 요금제와 별도로 부과됩니다.

흔한 실수와 관련 용어

과거의 모든 발화를 추가하면 현재 지시가 묻히고 불필요한 민감 정보가 전달될 수 있습니다. 무분별한 요약은 정정 내용이나 출처에 붙은 조건을 없앨 수 있습니다. 작업에 필요한 문맥만 기록하고, 출처가 뒷받침하는 사실과 모델의 이전 추측을 구분할 수 있게 유지합니다.

AI 에이전트 상태는 명시적인 진행 상황과 완료 기록을 설명합니다. 자율 에이전트는 행동 권한을 다루며, 멀티 에이전트 시스템에서는 각 참여자가 볼 수 있는 정보에 대한 인계 결정도 필요합니다. 활용 사례 모음에는 기존 Memory Chatbot의 시작 구성이 연결되어 있지만, 이 페이지에서 새로운 실행 결과를 입증하는 것은 아닙니다.

워크플로 사용 요금

요금제: Go 연간 결제 시 월 USD8부터(월간 USD10), Plus 월 USD16부터(월간 USD20), Pro 100 월 USD80부터(월간 USD100), Pro 200 월 USD160부터(월간 USD200), Pro 500 월 USD400부터(월간 USD500). 매월 5,000~250,000 Flowi Tokens가 제공되며 충전도 가능합니다. 노드 실행 1회당 1토큰, 타사 API 및 모델 사용 요금은 포함되지 않습니다.