교육 대상
- 기관 정보화 담당자
- 정보보호·보안 담당자
- AI 도입 사업 담당자
- 내부 AI 서비스 운영자
학습 목표
- 기관 AI 서비스에서 자료가 지나가는 경로를 그리고 위협 지점을 지목할 수 있습니다
- 프롬프트 인젝션과 간접 인젝션을 재현해 방어 설정의 효과를 확인할 수 있습니다
- 수명주기 단계별 점검표를 기관 양식으로 옮겨 담당 부서를 지정할 수 있습니다
- 점검 결과를 근거와 함께 정리해 조치 우선순위를 제시할 수 있습니다
커리큘럼
1일차 · DAY 1
1교시
90분
AI 시스템 유형과 보안위협 지도
생성형·에이전틱·검색증강 구조를 나누고 각 구조에서 자료가 지나가는 경로를 그립니다.
국가·공공기관 AI보안 가이드북의 15개 위협 유형을 기관 상황에 대응시킵니다.
OWASP Top 10 for LLM Applications 2025 항목과 용어를 맞춰 둡니다.
2교시
90분
프롬프트 인젝션 직접 해보기
무료 오픈소스 모델을 로컬에 올려 지시 무력화, 역할 탈취, 시스템 프롬프트 노출을 시도합니다.
공격이 통한 지점을 기록하고 입력 검증·출력 필터를 걸어 다시 확인합니다.
실습은 교육용 환경에서만 수행하고 운영 시스템은 대상으로 삼지 않습니다.
3교시
90분
간접 인젝션과 문서 권한
첨부 문서와 웹 페이지에 숨은 지시를 넣어 요약·회신 결과가 바뀌는 과정을 관찰합니다.
검색 대상 문서에 권한 등급을 부여해 열람 범위를 나누는 설정을 실습합니다.
외부 자료를 근거로 쓸 때 출처와 신뢰 등급을 함께 저장하는 방식을 정리합니다.
4교시
90분
입력 자료 유출 경로 점검
대화 기록, 로그, 캐시, 외부 전송 구간에서 자료가 남는 위치를 목록화합니다.
기관 반출 금지 항목을 정의하고 입력 단계에서 걸러내는 규칙을 작성합니다.
사고 발생 시 확인할 로그 항목과 보존 기간을 정합니다.
2일차 · DAY 2
5교시
90분
에이전트 권한과 도구 호출 통제
도구를 자동 호출하는 구성에서 권한 상승과 무단 실행이 생기는 조건을 확인합니다.
승인이 필요한 동작을 분류하고 사람이 개입하는 지점을 설계합니다.
호출 기록을 남겨 사후에 추적할 수 있는 형태를 만듭니다.
6교시
90분
수명주기별 보안대책 정리
기획·구축·운영·폐기 단계로 점검 항목을 나눠 담당 부서를 지정합니다.
가이드북의 보안 체크리스트를 기관 양식으로 옮기고 판정 기준을 붙입니다.
NIST AI RMF와 ISO/IEC 42001에서 참고할 관리 항목을 확인합니다.
7교시
120분
팀별 점검 실습
팀별로 운영 중이거나 도입 예정인 AI 서비스 한 건을 골라 점검합니다.
위협 유형별 확인 결과와 근거 화면을 정리해 점검표를 채웁니다.
조치 난이도와 시급성을 나눠 우선순위를 매깁니다. 팀은 4~5인으로 구성합니다.
8교시
60분
점검 결과 보고와 강평
팀별 점검 결과를 발표하고 강사와 다른 팀의 반론을 받습니다.
미결 항목은 담당자와 기한을 적어 후속 과제로 남깁니다.
총 12시간(720분) — 모듈 720분