자율 AI 에이전트

작성: Ai Flowi · 게시일 2026-10-11

자율 AI 에이전트는 시스템이 제공하는 권한과 도구 안에서 목표를 향한 행동을 선택합니다. 자율성은 매 단계마다 사람의 승인 없이 어떤 결정을 진행할 수 있는지에 관한 것입니다. 무제한 접근, 올바른 판단 또는 모든 실패에서 복구할 수 있는 능력을 뜻하지는 않습니다.

유용한 정의는 목표와 경계를 모두 명시합니다. 문서를 검토하고 답변 초안을 작성하도록 허용된 에이전트와 업무 레코드를 변경하도록 허용된 에이전트는 행동 범위가 다릅니다. 이러한 권한을 설명하지 않은 채 둘 다 자율적이라고 부르면 중요한 결정이 가려집니다.

허용된 행동으로 자율성 정의하기

이 표는 설계 보조 자료이며 제품 인증이 아닙니다. 권한을 해당 행동, 대상, 데이터와 연결해 두세요. 원본을 읽도록 승인했다고 수정을 허용한 것은 아닙니다. 초안 작성을 허용했다고 게시를 허용한 것도 아닙니다.

자율 에이전트의 작동 방식

도구 결과에서 행동을 선택하는 원리는 React Agent를 참조하세요.

자율성은 그 과정에 부여한 권한에서 시작합니다. 아래 정책 검토에서 허용된 결과는 검토자를 위한 권고이며, 정책 변경에는 별도의 권한 부여가 필요합니다. 더 완전한 답변을 요청했다는 이유로 에이전트의 권한이 조용히 확대되지 않도록 이 구분을 작업과 함께 기록하세요.

에이전트의 성공 주장보다 관찰 가능한 실행 순서가 더 중요합니다. 제안된 호출은 실행된 호출이 아닙니다. 도구 응답이 성공해도 질문에 답하는 데 필요한 증빙이 빠져 있을 수 있습니다. 완료 여부는 최종 답변의 어조가 아니라 검증된 결과와 정의된 중단 조건에 따라야 합니다.

고정된 워크플로와 도구를 사용하는 컴포넌트의 차이를 명확히 유지하세요. 기존 플랫폼 비교 문서가 그 차이를 설명합니다. 이 페이지는 해당 설계 선택 이후 어느 정도의 행동 권한을 부여할지에 초점을 맞춥니다.

범위가 제한된 조사 예제

검토자가 내부 정책 발췌문 두 개를 제공하고 제안된 절차가 뒷받침되는지 묻는다고 가정해 보세요. 에이전트의 목표는 근거 발췌문, 충돌, 누락 정보를 식별하는 것입니다. 제공된 발췌문을 읽고 답변 초안을 작성할 수 있지만, 절차나 원본 레코드를 수정할 권한은 없습니다.

도구를 추가하기 전에 중단 규칙을 정하세요. 발췌문이 질문에 답한다면 인용한 발췌문과 함께 마치고, 그렇지 않다면 증빙이 부족하다고 보고하세요. 두 번째 발췌문이 첫 번째와 다르면 그 불일치를 드러내야 합니다. 타협안을 지어내 정책으로 취급할 권한이 생기는 것은 아닙니다.

예제 설정이며, 기록된 테스트가 아닙니다

Agent
input_value: the question and synthetic policy extracts
system_prompt: Use only supplied evidence. Identify conflicts.
               Request human review when evidence is insufficient.
max_iterations: 3
model: select a configured model
tools: connect only separately verified read-only tools, if needed

반복 횟수는 예시 설정이며, 측정된 안전 한계나 문서화된 기본값이 아닙니다. 제공된 자료 묶음에 필요한 내용이 이미 있다면 도구를 생략하세요.

모델 연결 가이드에 따라 본인의 제공업체 계정과 API 키를 연결하세요. 모델 사용료는 해당 제공업체가 별도로 청구합니다.

AI Flowi Workflow에서의 적용

범위가 제한된 조사 연습은 모델, 작업, 응답 인터페이스를 정의하는 Agent 참조 문서에 따라 설정하세요.

제공된 자료 묶음 밖에서 읽기 전용 조회가 필요하면 함수 호출을 참조하세요.

에이전트가 다른 승인된 문서를 선택할 수 있는지, 아니면 이미 제공된 발췌문 두 개만 다시 읽을 수 있는지 정하세요. 둘 다 읽기이지만 권한은 다릅니다. 질문에 허용 범위 밖의 원본이 필요하면 해당 원본 요청을 검토자에게 전달하세요. 답변이 완전해 보이게 하려는 이유만으로 검색 범위를 넓히지 마세요.

가드레일 페이지는 도구 보호를 다룹니다. 여기서 자율성에 관한 결정은 애초에 어떤 기능을 부여할지입니다.

이 자료 묶음 연습에서는 발췌문 해석, 허용된 조회 선택, 수정 절차 제안의 세 권한을 따로 문서화하세요. 첫 번째 권한이 나머지 둘을 의미하지는 않습니다. 검토자가 범위 확대를 정당화할 증빙을 식별할 수 있을 때까지 초기 연습을 해석에 한정하세요. 해당 컴포넌트는 카탈로그에 문서화되어 있으나 Ai Flowi가 실제 운영 환경에서 테스트하지 않았습니다.

자율 에이전트에서 되돌릴 수 있는지가 승인 판단에 어떤 영향을 미치나요?

문서 읽기, 초안 준비, 공유 레코드 삭제는 결과가 다릅니다. 행동을 되돌릴 수 있는지, 누가 영향을 받는지, 어떤 증빙이 결과를 확인하는지 고려하세요. 되돌릴 수 있는 로컬 초안에도 올바른 접근 권한이 필요하지만, 검토 경계는 되돌릴 수 없는 외부 변경보다 단순할 수 있습니다.

승인 워크플로 요구사항은 검토 기록과 제안 버전의 경계를 다룹니다.

결과의 영향에 따라 자율성 범위를 선택하세요. 비공개 작업 초안은 통상적인 검토를 기다릴 수 있지만 공유 절차의 변경은 즉시 그 절차에 의존하는 사람들에게 영향을 줍니다. 에이전트가 결과를 확인할 수 있는지, 허용된 행동을 확실히 되돌릴 방법이 있는지, 사람이 불명확한 결과를 해결할 수 있는지 확인하세요. 어느 하나라도 불명확하면 무인 실행이 아닌 준비 단계에 범위를 유지하세요. 이 판단은 첫 도구 호출이 성공한 뒤가 아니라 도구를 연결하기 전에 적용됩니다.

중단과 불명확한 결과

작업 완료, 증빙 누락, 권한 거부, 기술적 실패를 구분하세요. 외부 요청 후 시간 초과가 발생하면 결과를 알 수 없을 수 있습니다. 즉시 재시도하면 이미 일어난 변경을 반복할 수 있습니다. 결과가 불명확한 쓰기를 재시도하기 전에 대상 시스템을 확인하고, 필요하면 별도로 검증한 중복 처리 설계를 사용하세요.

반복 횟수 상한은 구현 방식에 따라 시도하는 작업량을 제한하며, 작업이 완료되었다는 증거는 아닙니다. 카탈로그에는 max_iterations가 있지만 기본값, 유효 범위, 정확한 종료 응답은 공개되어 있지 않습니다. 상한 소진을 성공적인 답변과 별도로 테스트하세요. 제공업체 오류는 운영자가 확인할 수 있어야 하며, 사용자에게 표시하는 결과에 자격 증명을 노출해서는 안 됩니다.

흔한 실수

• 작업 범위가 넓어 보인다는 이유로 사용 가능한 모든 도구를 부여하는 것. 질문에 답하는 최소한의 도구 집합을 선택하세요.
• 친절한 최종 답변을 완료 증빙으로 취급하는 것. 실제 관찰 결과와 제안된 변경을 확인하세요.
• 최근 대화 맥락을 지속적인 학습과 혼동하는 것. 메시지 저장과 이후 검색은 별개의 작업입니다.
• 접근 거부, 증빙 누락, 모호한 결과를 테스트하기 전에 무인 쓰기를 활성화하는 것. 읽기 전용 시연의 성공으로 쓰기 안전성을 입증할 수는 없습니다.

관련 용어와 예제

AI 에이전트 가드레일은 행동 권한을 둘러싼 검사를 설명합니다. 에이전트 메모리는 이후 사용을 위해 보존하는 정보를 다룹니다. 멀티 에이전트 시스템은 책임을 나눌 때의 위임 계약을 추가합니다. 에이전트 범위를 넓히기 전에 문서화된 사용 사례에서 기존 예제를 확인하세요.

워크플로 사용량

요금제: Go 연간 결제 시 월 USD8부터(월간 USD10), Plus 월 USD16부터(월간 USD20), Pro 100 월 USD80부터(월간 USD100), Pro 200 월 USD160부터(월간 USD200), Pro 500 월 USD400부터(월간 USD500). 매월 5,000~250,000 Flowi Tokens가 제공되며 충전도 가능합니다. 노드 실행 1회당 1토큰, 타사 API 및 모델 사용 요금은 포함되지 않습니다.