도구 호출은 무엇인가요?
도구 호출은 모델의 요청을 바탕으로 애플리케이션이 외부 기능을 실행하는 방식입니다. 모델이 요청한 인자가 유효한지와 실행 권한이 있는지는 코드에서 검사해야 합니다.
적용 범위
AI 용어의 설명은 일반적인 개념 수준으로 제공합니다. 실제 기능의 지원 여부와 성능은 제품 버전과 설정에 따라 확인해야 합니다.
확인할 항목
- 개념과 제품 기능을 구분
- 출력의 근거를 별도로 확인
- 보안 제어를 모델 답변에만 맡기지 않기
공식 참고 자료
아래 자료는 이 주제의 개념과 검토 기준을 확인하는 공식 참고 문서입니다. 작업 순서와 비교 방법은 편집팀의 제안이며, 제품의 성능을 직접 시험했다는 뜻은 아닙니다.
- NIST AI 위험관리 프레임워크확인일 2026-10-20
- OWASP 생성형 AI 보안 위험확인일 2026-10-20
관련 질문
구조화 출력은 무엇인가요?
구조화 출력은 JSON처럼 정해진 형식에 맞춘 모델 응답을 말합니다. 형식이 맞는다는 사실과 내용이 정확하다는 사실은 별도 검사 대상입니다.
구조화 출력은 무엇인가요 자세히 보기 ↗프롬프트 인젝션은 무엇인가요?
프롬프트 인젝션은 외부 입력의 지시가 시스템의 의도된 작업을 바꾸도록 유도하는 공격입니다. 읽어 온 문서의 문장을 실행 권한이 있는 명령으로 취급하지 않아야 합니다.
프롬프트 인젝션은 무엇인가요 자세히 보기 ↗사람 검토 단계는 무엇인가요?
사람 검토 단계는 자동 처리 중 특정 결과나 실행을 사람이 확인하는 절차입니다. 무엇을 검토하고 어떤 경우에 멈추는지 명확해야 실제 통제가 됩니다.
사람 검토 단계는 무엇인가요 자세히 보기 ↗