AI가 요청한 도구 실행을 바로 믿어도 되나요?
도구 인자와 대상, 실행 권한을 애플리케이션에서 확인해야 합니다. 모델 출력이 형식에 맞는다는 이유만으로 실행을 승인하지 마세요.
적용 범위
이 묶음은 앱 개발에서 기본적으로 확인할 신뢰 경계를 설명합니다. 실제 보호 수준은 배포 환경과 데이터의 성격에 맞춰 별도로 검토해야 합니다.
확인할 항목
- 서버에서 권한 확인
- 비밀값을 공개 번들에서 제외
- 외부 입력을 신뢰하지 않기
공식 참고 자료
아래 자료는 이 주제의 개념과 검토 기준을 확인하는 공식 참고 문서입니다. 작업 순서와 비교 방법은 편집팀의 제안이며, 제품의 성능을 직접 시험했다는 뜻은 아닙니다.
- W3C 입력 양식 접근성 안내확인일 2026-10-20
- NIST AI 위험관리 프레임워크확인일 2026-10-20
- OWASP 생성형 AI 보안 위험확인일 2026-10-20
관련 질문
외부 문서의 지시문은 어떻게 취급하나요?
읽을 자료로 취급하고 시스템의 작업 지시나 권한으로 승격하지 마세요. 문서가 메일 발송이나 파일 삭제를 요구해도 별도 권한 검사가 필요합니다.
외부 문서의 지시문은 어떻게 취급하나요 자세히 보기 ↗실행 환경 격리는 어떤 도움이 되나요?
생성 코드나 외부 작업이 접근할 수 있는 파일과 네트워크 범위를 줄일 수 있습니다. 격리 환경이 있다고 모든 코드의 동작 검토가 불필요해지는 것은 아닙니다.
실행 환경 격리는 어떤 도움이 되나요 자세히 보기 ↗새 패키지를 추가할 때 무엇을 확인하나요?
공식 출처와 유지 상태, 필요한 권한과 기능 범위를 확인하세요. AI가 제안한 패키지 이름이 실제로 존재하고 의도한 프로젝트인지도 검증해야 합니다.
새 패키지를 추가할 때 무엇을 확인하나요 자세히 보기 ↗