사내 생성형 AI 보안 검토 체크리스트

사내 생성형 AI의 보안 검토는 모델 이름이나 설치 위치만으로 끝나지 않습니다. 어떤 데이터가 연결되는지, 누가 그 데이터를 볼 수 있는지, 질문과 답변이 어디에 남는지, 운영 중 문제가 생기면 누가 대응하는지를 함께 확인해야 합니다.

보안 담당자가 처음부터 모든 기능을 평가할 필요는 없습니다. 먼저 한 업무의 데이터 흐름을 그린 뒤, 그 흐름의 각 지점에 접근·보관·삭제·운영 질문을 붙이면 검토 범위를 좁힐 수 있습니다.

원본부터 로그까지 하나의 흐름으로 정리하세요

문서 저장소에서 답변 화면까지의 경로를 적어 보세요. 원본 파일, 추출 텍스트, 문서 조각, 임베딩과 검색 인덱스, 모델에 전달되는 내용, 질문·답변 이력, 운영 로그를 각각 구분합니다.

각 항목에 실행 위치와 저장 위치, 접근 계정, 보관 기간, 삭제 방법을 기록합니다. 모델 학습에 사용되지 않는다는 설명과 데이터가 저장되지 않는다는 설명은 서로 다른 조건입니다. 외부 전송 여부도 별도로 확인해야 합니다.

Wissly는 문서·질문·답변을 AI 모델의 학습·재학습·파인튜닝이나 자체 모델 개선에 사용하지 않습니다. SaaS의 AI 처리는 기능과 선택 모델에 따라 Amazon Bedrock 또는 Google Cloud Vertex AI를 이용하며, 온프레미스는 사내망 로컬 AI를 사용합니다. 조직에 필요한 데이터 처리 조건은 Enterprise 구성을 검토할 때 함께 협의하세요.

검토표에 질문과 시험 방법을 함께 넣으세요

항목	확인할 질문	확인 방법
연결 데이터	어떤 저장소와 폴더를 읽나요?	연결 대상과 제외 경로를 나란히 검토
접근 계정	문서 수집 계정은 어디까지 접근하나요?	테스트 계정으로 허용·차단 폴더 확인
사용자 권한	서로 다른 사용자의 검색 범위가 구분되나요?	같은 질문을 권한이 다른 계정으로 실행
모델 호출	어떤 내용이 어느 모델로 전달되나요?	요청 경로와 네트워크 설정 검토
보관·삭제	파일, 인덱스, 이력, 로그는 어떻게 지우나요?	각 저장 위치와 삭제 절차 확인
운영 접근	공급사 지원 인력의 접근은 어떻게 승인하나요?	접근 신청·회수 절차와 담당자 확인
업데이트	새 버전과 모델은 어떻게 반입하나요?	업데이트·복구 절차 검토

표의 빈칸에는 “지원”이라는 한 단어보다 담당자, 설정, 계약 범위를 적는 편이 좋습니다. 적용되지 않는 항목은 이유를 기록해 후속 검토에서 같은 질문을 반복하지 않게 합니다.

권한은 답변을 만들기 전에 확인해야 합니다

사용자가 열 수 없는 문서가 검색 과정에서 모델에 전달되면, 최종 답변에서 파일 링크를 숨겨도 내용이 드러날 수 있습니다. 문서 제목, 검색 요약, 인용 구절, 대화 이력도 시험 대상에 포함하세요.

문서별 검색 결과를 제한하는 보안 필터는 이런 검토에 참고할 수 있는 구현 패턴입니다. 특정 필터가 있다는 사실만으로 사용자 인증과 권한 검증 전체가 해결되는 것은 아니므로, 실제 계정과 문서를 사용한 시험이 필요합니다.

예시로 일반 프로젝트 폴더와 제한된 견적 폴더를 준비합니다. 제한 폴더를 볼 수 없는 계정으로 견적 내용을 질문한 뒤 답변, 제목, 인용, 원문 열기를 모두 확인하세요. 권한을 바꾼 후에도 같은 시험을 반복합니다.

문서 안의 지시문도 시험에 포함하세요

수집한 문서에는 업무 정보뿐 아니라 AI에게 다른 행동을 요구하는 문장이 들어갈 수 있습니다. OWASP가 설명하는 프롬프트 인젝션은 RAG를 사용한다고 해서 자동으로 없어지지 않습니다.

테스트 문서에 업무 내용과 무관한 지시를 넣어 답변이 어떻게 변하는지 확인하세요. 도구 실행이나 외부 전송 기능이 있는 시스템이라면 해당 행동의 허용 범위와 승인 조건도 검토합니다. 시험에는 민감한 실제 자료보다 테스트 데이터를 사용하는 편이 관리하기 쉽습니다.

운영 중 바뀌는 조건을 검토에 포함하세요

초기 설치에서 통과한 설정은 문서 추가, 직원 이동, 계정 삭제, 모델 교체 후 달라질 수 있습니다. 운영 전에는 누가 변경을 승인하고 어떤 항목을 다시 시험할지 정하세요.

SSO, SCIM, 감사 로그처럼 조직 정책과 연결되는 기능은 필요한 방식과 계약 범위를 함께 확인합니다. Wissly의 지원 범위도 Enterprise 상담에서 협의하는 항목입니다. “모든 기능 포함”이라고 가정하기보다 요구하는 계정 체계와 로그 항목을 구체적으로 전달하세요.

문서 갱신과 삭제 점검을 운영 절차에 넣고, RAG PoC 평가에 권한 시험을 포함하면 보안 검토와 업무 검증을 같은 문서와 계정으로 진행할 수 있습니다.