프롬프트 인젝션은 무엇인가요?
프롬프트 인젝션은 외부 입력의 지시가 시스템의 의도된 작업을 바꾸도록 유도하는 공격입니다. 읽어 온 문서의 문장을 실행 권한이 있는 명령으로 취급하지 않아야 합니다.
적용 범위
AI 용어의 설명은 일반적인 개념 수준으로 제공합니다. 실제 기능의 지원 여부와 성능은 제품 버전과 설정에 따라 확인해야 합니다.
확인할 항목
- 개념과 제품 기능을 구분
- 출력의 근거를 별도로 확인
- 보안 제어를 모델 답변에만 맡기지 않기
공식 참고 자료
아래 자료는 이 주제의 개념과 검토 기준을 확인하는 공식 참고 문서입니다. 작업 순서와 비교 방법은 편집팀의 제안이며, 제품의 성능을 직접 시험했다는 뜻은 아닙니다.
- NIST AI 위험관리 프레임워크확인일 2026-10-20
- OWASP 생성형 AI 보안 위험확인일 2026-10-20
관련 질문
사람 검토 단계는 무엇인가요?
사람 검토 단계는 자동 처리 중 특정 결과나 실행을 사람이 확인하는 절차입니다. 무엇을 검토하고 어떤 경우에 멈추는지 명확해야 실제 통제가 됩니다.
사람 검토 단계는 무엇인가요 자세히 보기 ↗대규모 언어 모델은 무엇인가요?
대규모 언어 모델은 많은 언어 자료를 바탕으로 텍스트의 패턴을 학습한 모델입니다. 자연스러운 문장을 만들 수 있다는 사실이 모든 내용의 정확성을 뜻하지는 않습니다.
대규모 언어 모델은 무엇인가요 자세히 보기 ↗토큰은 무엇인가요?
토큰은 모델이 텍스트를 처리할 때 사용하는 단위입니다. 글자나 단어와 일대일로 대응하지 않으며 언어와 토크나이저에 따라 달라집니다.
토큰은 무엇인가요 자세히 보기 ↗