AI 기본법 시행, 사내 AI 컴플라이언스 체크리스트 12가지로 한 번에 끝내기 (2026)
시행 100일이 지났는데, 회사의 94.6%는 아직 모릅니다
2026년 1월 22일, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 AI 기본법)이 정식 시행되었어요. 한국은 EU에 이어 세계에서 두 번째로 포괄적 AI 규제 체계를 갖춘 국가가 되었죠.
그런데 시행 100일이 훌쩍 지난 지금도 현장은 무방비예요. 한국표준협회가 기업 종사자 368명을 대상으로 한 조사에 따르면, 응답자의 52.8%는 법 시행 사실 자체를 모르고, 41.8%는 시행은 알지만 구체적인 내용을 모른다고 답했어요. 합쳐서 약 94.6%가 사실상 무방비 상태인 셈이에요. 시행 한 달 전 스타트업얼라이언스가 AI 기업 101곳에 물었을 때도 98%가 "대응 준비가 되어 있지 않다"고 답했죠.
다행히 과학기술정보통신부는 최소 1년 이상의 과태료 계도기간을 운영하고 있어요. 본격적인 과태료 부과 시점은 빨라도 2027년 이후가 될 가능성이 높습니다. 하지만 계도기간은 '의무의 유예'가 아니라 '준비의 유예'예요. 법적 의무는 이미 발생했고, 중대 사안이 생기면 계도기간 중에도 사실조사가 들어갈 수 있어요. 시정명령을 어기는 순간 곧바로 3천만원 이하 과태료로 직행할 수 있다는 점도 기억해 두세요.
남은 시간은 약 8개월. 본격적인 체크리스트로 들어가기 전에, 실무자가 가장 먼저 정리해야 할 세 가지 구분부터 짚어 볼게요.
1. 먼저 구분해야 할 3가지: 인공지능사업자, 고영향 AI, 내부용·외부용 AI
AI 기본법을 읽을 때 가장 먼저 해야 할 일은 "우리 회사도 AI를 쓰고 있다"는 문장을 더 잘게 쪼개는 거예요. 실무자는 다음 세 가지를 순서대로 판단해야 해요.
판단 질문 | 의미 | 왜 중요한가요? |
|---|---|---|
① 우리 회사는 인공지능사업자인가요? | 의무를 지는 주체인지 판단 | AI 기본법의 주요 의무는 인공지능사업자를 중심으로 설계되어 있어요 |
② 우리가 제공하는 AI는 고영향 인공지능인가요? | AI의 위험 유형 판단 | 고영향 AI라면 위험관리·설명·사람 감독·문서 보관·영향평가가 필요해요 |
③ AI가 내부 업무용인가요, 외부 제공용인가요? | AI 결과가 누구에게 전달되는지 판단 | 내부 업무용은 일부 고지·표시 의무가 완화되지만, 보안 리스크는 그대로 남아요 |
이 세 가지는 서로 다른 차원의 개념이라 섞으면 안 돼요. '인공지능사업자'는 누가 의무를 지는가, '고영향 AI'는 어떤 AI가 더 위험한가, '내부용·외부용'은 AI 결과가 누구에게 전달되는가의 문제예요.
① '인공지능사업자' = AI 제품·서비스를 외부에 제공하는 자
AI 기본법은 인공지능사업자를 두 종류로 나누고, 이용자는 규율 대상에서 제외해요.
구분 | 쉬운 설명 | 예시 |
|---|---|---|
인공지능개발사업자 | AI 모델을 직접 개발해 제공 | 네이버 하이퍼클로바X, 카카오 카나나, 업스테이지 솔라 |
인공지능이용사업자 | 다른 회사 AI를 활용해 자기 이름의 AI 제품·서비스를 제공 | GPT API로 채용 평가 챗봇을 만드는 HR테크, Claude API로 법률 상담 서비스를 운영하는 리걸테크 |
이용자 (규제 대상 아님) | AI 제품·서비스를 단순히 받아 쓰는 자 | 직원이 ChatGPT로 보고서 초안을 작성, 회사가 외부 SaaS AI를 내부 참고용으로 사용 |
핵심은 "AI를 쓴다는 사실만으로 곧바로 인공지능사업자가 되지 않는다"는 거예요. 직원이 ChatGPT로 사내 보고서를 만든다면 회사는 일단 '이용자' 위치에 가까워요. 반대로 회사가 ChatGPT API를 붙여 고객에게 "AI 상담 서비스"나 "AI 채용 평가"를 제공한다면, 이때는 '인공지능이용사업자'로서 AI 기본법 의무가 본격적으로 적용돼요.
② '고영향 AI'는 사업자 유형이 아니라 'AI의 위험도 분류'
가장 헷갈리는 부분이에요. 고영향 AI는 회사 규모나 업종이 아니라, AI가 쓰이는 업무 영역과 그 AI가 사람에게 미치는 영향의 크기로 정해져요. 시행령은 다음 영역을 명시하고 있어요.
에너지 공급 / 먹는 물 생산 / 보건의료 / 의료기기·디지털의료기기 / 원자력 시설 / 범죄 수사·체포를 위한 생체정보 분석 / 채용·대출심사 등 개인의 권리·의무에 중대한 영향을 미치는 판단 / 교통수단·교통체계 운영 / 공공서비스 자격·결정 / 학생 평가
같은 AI 기술이라도 사용 맥락에 따라 결과가 달라져요. 사내 규정에서 출장비 한도를 찾아 주는 AI는 권리 판단이 아니라서 고영향이 아닐 가능성이 크지만, AI가 직원 성과평가 점수를 추천해 승진·보상·징계에 반영된다면 내부 업무여도 권리 영향이 발생하는 셈이에요. 즉 "AI를 쓰느냐"가 아니라 "AI 결과가 사람의 권리·기회·안전·의무에 영향을 주느냐"가 판단 기준이에요.
③ '고영향 AI 사업자'는 두 개념의 조합
고영향 AI 사업자 = 인공지능사업자 + 고영향 인공지능 제품·서비스 제공
직원이 ChatGPT를 쓰는 일반 기업은 곧바로 고영향 AI 사업자가 아니에요. 하지만 회사가 AI 채용 평가나 AI 대출 심사를 외부에 제공한다면, 인공지능사업자이자 동시에 고영향 AI 사업자가 돼요. 판단이 애매하면 과기정통부 'AI 기본법 지원데스크'에 공식 확인을 요청할 수 있고(60일 내 회신, 비밀 관리), 결과에 따라 제34조 책무(위험관리·설명·이용자 보호·사람의 감독·문서 5년 보관)와 제35조 영향평가가 적용돼요.
2. 내부용 AI와 외부 제공 AI는 무엇이 다른가
AI 기본법에서 내부용과 외부용의 차이는 "서버가 사내에 있느냐"가 아니에요. 핵심은 두 가지예요.
AI 기능 또는 결과물이 외부 이용자에게 제품·서비스로 제공되는가
AI 결과가 사람의 권리·의무·기회·안전에 영향을 주는가
구분 | 내부용 AI | 외부 제공 AI |
|---|---|---|
사용 주체 | 임직원 | 고객, 지원자, 거래처 |
사용 목적 | 업무 보조, 문서 검색, 요약, 초안 작성 | 제품·서비스 제공, 상담, 심사, 평가, 결과물 생성 |
결과 전달 | 내부 회의·검토 | 외부 이용자에게 직접 제공 |
법적 초점 | 보안, 개인정보, 영업비밀, 로그 관리 | AI 기본법상 투명성, 고영향 확인, 이용자 보호 |
고지·표시 의무 | 내부 업무 용도 예외 가능 | 적용 가능성 높음 |
고영향 AI 가능성 | 단순 보조면 낮음 | 채용·대출·의료·공공서비스 등에서 높음 |
대표 사례 | 사내 규정 검색, 계약서 내부 요약 | AI 채용 평가, AI 대출 심사, 고객용 AI 상담 |
법적 근거: 법무법인 세종 해설에 따르면, 제31조 사전 고지·표시 의무는 "인공지능사업자의 내부 업무 용도로만 사용되는 경우"에 전부 또는 일부가 면제될 수 있어요. 다만 이 면제는 제31조(투명성)에 한해서이고, 제34조 고영향 AI 책무나 보안·개인정보 관련 의무는 그대로 적용된다는 점에 주의해야 해요.
특히 조심해야 할 영역이 있어요. 채용·인사평가·징계·대출·의료·교육·공공서비스처럼 사람의 권리에 영향을 주는 업무는 회사 안에서 처리된다고 해서 단순 내부용으로 보기 어려워요. 형식보다 영향이 중요하니까요. 실무적으로는 이렇게 정리하는 게 안전해요.
단순 업무 보조 AI → 내부용으로 관리 (보안·로그 중심)
고객·지원자·직원·국민의 권리 판단에 영향을 주는 AI → 내부용이라도 고위험 업무로 별도 관리
외부 이용자에게 AI 기능·결과물을 제공하는 AI → 인공지능사업자 의무를 본격 검토
3. 가장 큰 사각지대: 섀도우 AI 리스크
AI 기본법 대응에서 가장 위험한 사각지대는 멋진 AI 프로젝트가 아니에요. 보이지 않는 곳에서 이미 벌어지고 있는 섀도우 AI(Shadow AI)예요.
섀도우 AI란 회사가 승인하지 않았는데 직원이 개인 계정이나 무료 AI 도구로 업무를 처리하는 상황이에요. 법무 담당자가 계약서 전문을 ChatGPT에 올려 요약을 요청하고, HR 담당자가 지원자 이력서를 Gemini에 넣고 평가 기준을 물어보고, 전략팀이 미공개 사업계획서를 NotebookLM에 넣어 보고서 초안을 만드는 식이에요.
수치는 우리가 생각하는 것보다 훨씬 심각해요.
글로벌 브라우저 보안 업체 '레이어X' 분석에 따르면, 생성형 AI 접근의 71.6%가 기업 계정이 아닌 개인 계정을 통해 일어나고 있어요. DLP·ID 관리 시스템의 사각지대예요.
챗GPT에 업로드된 파일의 약 40%에 개인 식별 정보(PII)나 결제 카드(PCI) 데이터가 포함돼 있어요.
평균 직원은 하루 6.8회 AI에 텍스트를 붙여넣고, 그중 절반(3.8회)에 민감한 기업 데이터가 들어 있어요.
2024년 한 해 동안 생성형 AI 관련 데이터 유출 사고가 전년 대비 2.5배 급증했어요.
국내 사례도 만만치 않아요. 2023년 삼성전자 DS 부문이 ChatGPT 사용을 허가한 지 단 20일 만에 반도체 설비 계측 DB 소스 코드, 수율 정보, 내부 회의록 등 3건의 기밀이 외부로 유출됐죠.
문제는 이 위험이 AI 기본법뿐 아니라 개인정보보호법(국외 이전·제3자 제공)·영업비밀 보호법 등과 동시에 충돌한다는 점이에요. 직원의 사용은 AI 기본법상 '이용자' 위치라 직접 규제 대상은 아니지만, 그 행위 때문에 회사가 동시에 지고 있는 시나리오 A(외부 제공) 책무 이행이 무너질 수 있어요. 그래서 사내 AI 정책은 직원의 사용 행위까지 회사 차원에서 통제하는 형태로 설계해야 해요.
4. 챗GPT·Gemini·NotebookLM·Copilot의 5가지 충돌 지점
외부 생성형 AI 도구가 사내 컴플라이언스와 충돌하는 지점은 결국 5가지로 압축돼요. 이 5가지가 곧 다음 섹션의 12개 체크리스트의 출발점이에요.
충돌 지점 | ChatGPT | Gemini | NotebookLM | Microsoft 365 Copilot |
|---|---|---|---|---|
① 데이터 처리 위치 (외부 전송) | OpenAI 미국 서버 (Enterprise 일부 region 선택) | Google 글로벌 클라우드 | Google 클라우드 | Microsoft 글로벌 클라우드 (Tenant region 일부 선택) |
② 입력 데이터 학습 사용 | 기본 학습 사용, OFF 옵션 (Team/Enterprise는 미사용) | 플랜별 상이 | 학습 사용 안 함 명시 | 학습 사용 안 함 명시 |
③ 출력의 출처 추적 | ⚠️ 출처 표기 불안정 | ⚠️ 불안정 | ✅ 소스 링크 제공 (위치 부정확 가능) | ⚠️ 일부 가능 (Graph 연결 시) |
④ 환각(Hallucination) 통제 | ⚠️ GPT-5 기준 약 9.6%, 추론 모드 최대 48% 보고 | ⚠️ 중반부 맥락 소실 | ⚠️ 원문 의역·왜곡 사례 | ⚠️ Tenant 데이터 기반에도 환각 발생 |
⑤ 영향평가·문서화 가능성 | ❌ 외부 SaaS로 자체 평가 어려움 | ❌ 동일 | ❌ 동일 | ⚠️ Tenant 한정 부분 가능 |
여기서 가장 까다로운 부분이 ③ 출처 추적과 ⑤ 영향평가예요. 제34조는 "기술적으로 가능한 범위에서 인공지능이 도출한 최종결과, 활용된 주요 기준, 학습용 데이터의 개요"에 대한 설명 방안의 수립·시행을 요구해요. 외부 SaaS에 100% 의존하는 구조에서는 이 의무를 회사가 직접 입증하기 어려워요.
중요한 결론은 하나예요. 외부 AI 도구를 금지할지 허용할지보다, "어떤 데이터는 절대 넣지 말아야 하는지"를 먼저 정해야 해요. "ChatGPT 허용"이 아니라 "ChatGPT Business 계정에서, DPA 확인 후, 금지 데이터 업로드 없이, 로그 정책 준수 범위에서 허용"처럼 써야 한다는 뜻이에요.
5. 사내 AI 컴플라이언스 체크리스트 12가지
이제 본론이에요. 위 5가지 충돌 지점을 기준으로, 실무자가 인쇄해 회의에 들고 갈 수 있도록 12개 항목을 5개 영역으로 묶고, 각 항목이 어느 충돌점과 매핑되는지 명시했어요.
# | 영역 | 점검 항목 | 매칭 충돌점 / 법조문 | 책임 부서 | 우선순위 |
|---|---|---|---|---|---|
1 | A. 정책·거버넌스 | 사내 AI 사용 가이드라인 문서화 (허용 도구·금지 데이터·승인 절차) | 모든 충돌점의 토대 | 법무 + 정보보안 | ★★★ |
2 | A. 정책·거버넌스 | 인공지능사업자 해당 여부 판단 (이용자/이용사업자/개발사업자) | 의무 주체 식별 | 법무 + 사업부 | ★★★ |
3 | A. 정책·거버넌스 | 내부용·외부용 AI 분류 + 위험도(고영향 가능성) 분류 | 제33조 고영향 AI 확인 | DX + 법무 | ★★★ |
4 | B. 데이터 처리 위치 | 외부 AI로의 사내 문서 전송 차단 (DLP) | 충돌점 ① | 정보보안 | ★★★ |
5 | B. 데이터 처리 위치 | 사용 중 AI의 서버·국외 이전·하위처리자 매핑 | 충돌점 ① + 개인정보보호법 | 정보보안 + 개인정보보호 책임자 | ★★ |
6 | C. 학습 데이터 통제 | 입력 데이터 학습 사용 여부 점검, Team/Enterprise 플랜 전환 | 충돌점 ② | IT 운영팀 | ★★★ |
7 | C. 학습 데이터 통제 | DPA(데이터 처리 부속서) 확보 + 하위처리자·보존기간·감사권 확인 | 충돌점 ② | 법무 + 구매팀 | ★★ |
8 | D. 출처 추적·설명가능성 | 페이지·항목 단위 출처를 짚는 AI 도구로 전환 | 충돌점 ③ + 제34조 설명방안 | DX 추진팀 | ★★ |
9 | E. 환각·위험 관리 | 환각·오류 사례 로그 기록, 위험 등급별 대응 절차 | 충돌점 ④ + 제34조 위험관리 | DX + 정보보안 | ★★★ |
10 | F. 책무 이행·문서화 | AI 사용 로그 5년 보관 체계 (누가·언제·무엇을) | 충돌점 ⑤ + 제34조 문서 보관 | 정보보안 | ★★★ |
11 | F. 책무 이행·문서화 | 고영향 AI 해당 시 영향평가 수행·연 1회 갱신 | 충돌점 ⑤ + 제35조 영향평가 | 컴플라이언스 + 법무 | ★★ |
12 | G. 사람·운영 | AI 윤리·보안 교육 의무화 + 섀도우 AI 신고 채널 + SaaS 화이트리스트 | 모든 충돌점의 사람·운영 측면 | HR + 정보보안 | ★★ |
이 표의 핵심은 5가지 충돌점(섹션 4) → 12가지 체크리스트(섹션 5) → 5개 영역(B~F)이 1:1로 매핑되도록 설계했다는 점이에요. 외부 AI 도구의 어느 지점이 문제이고 그것을 어떻게 점검할 것인가가 같은 논리 라인 위에 놓여 있어요.
★★★ 7개 항목은 계도기간(약 8개월) 안에 우선 완료해야 할 핵심 과제예요. 1·2·3번(정책·거버넌스 토대)을 가장 먼저 정비해야 나머지 항목이 의미를 가져요. 정책이 없으면 직원은 계속 개인 판단으로 AI를 쓰니까요.
6. 컴플라이언스 친화적인 사내 AI 도구의 5가지 조건
5가지 충돌점을 뒤집어 보면, 체크리스트 12개를 가장 효율적으로 만족시킬 수 있는 사내 AI 도구의 조건이 자연스럽게 도출돼요.
조건 | 해결하는 충돌점 | 매칭 체크리스트 | 확인 질문 |
|---|---|---|---|
① 문서 원본 외부 미전송 (로컬 처리) | ① | #4, #5 | 문서 전체가 외부 서버로 전송·저장되나요? |
② 입력 데이터 학습 미사용 보장 | ② | #6, #7 | 입력 데이터가 모델 학습·품질 개선·사람 검토에 쓰이나요? |
③ 답변 출처가 페이지·항목 단위로 명확 | ③ | #8 | 어떤 문서, 어떤 페이지에서 나온 답인지 보이나요? |
④ 모르면 모른다고 답하는 환각 통제 | ④ | #9 | 문서에 없는 내용을 지어내지 않나요? |
⑤ 모든 사용 로그 5년 이상 보관 | ⑤ | #10, #11 | 사용자별 로그·삭제·보존·권한 분리가 가능한가요? |
이 다섯을 모두 만족시키는 방법은 크게 두 가지예요. 1억~50억 원을 들여 자체 LLM을 온프레미스로 구축하거나, 하이브리드 구조(문서 처리는 로컬, 추론만 클라우드 API)로 동일한 효과를 저비용에 달성하는 방식이에요. 중견기업 이하라면 후자가 현실적인 답이에요.
사내 AI 도입의 핵심은 "가장 똑똑한 모델"을 고르는 게 아니라, 보안팀과 법무팀이 설명할 수 있는 사용 구조를 고르는 거예요.
7. 계도기간 카운트다운: 우선순위 로드맵
본격 과태료 부과까지 남은 약 8개월, 분기별 우선순위는 이렇게 잡으시면 돼요.
이번 분기 안 (1~3개월): 부서별 AI 사용 현황 조사 → 인공지능사업자 해당 여부 1차 검토 → 내부용·외부용 분류 (체크리스트 #1·#2·#3)
다음 분기 안 (4~6개월): 금지 데이터 정의 → 외부 전송 차단 → 학습 사용 차단 → 사용 로그 보관 (체크리스트 #4·#6·#9·#10)
연내 (7~12개월): 서버 매핑 → DPA 확보 → 출처 추적 도구 도입 → 영향평가 → 직원 교육 (체크리스트 #5·#7·#8·#11·#12)
고영향 AI 사업자 해당 가능성이 있는 회사: 과기정통부 'AI 기본법 지원데스크'에 공식 확인 요청 발송 (60일 내 회신)
EU 사업 기업: 한국·EU AI Act 동시 점검 — "한국에서는 내부용"으로 판단한 AI가 EU에서는 다른 지위로 평가될 수 있어요. AI 사용 인벤토리를 국가별로 나눠 관리하는 게 안전해요.
"계도기간 있으니 천천히" 하자는 안일함이 가장 큰 함정이에요. 시행령 제31조는 사실조사 착수 요건을 '위법 의심' 수준으로 포괄적으로 규정하고 있어서, 중대 사례 발생 시 계도기간 중에도 즉시 조사·시정명령이 들어올 수 있어요.
마치며: '안 쓰는 것'이 아니라 '안전하게 쓰는 것'
AI 기본법은 기업이 AI를 쓰지 못하게 막는 법이 아니에요. 'AI를 어떻게 안전하게, 신뢰할 수 있게 써야 하는가'에 대한 사회적 합의예요. 직원이 답답함을 못 이겨 개인 챗GPT 계정에 사내 기밀을 올리는 섀도우 AI 시나리오는, 회사가 '쓰지 마라'는 금지령으로 막을 수 있는 게 아니에요. 직원에게 공식적으로 허용된, 그리고 충분히 똑똑한 대안이 손에 들려 있어야 비로소 멈춰요.
체크리스트 12개 중 #4 외부 전송 차단, #6 학습 사용 차단, #8 출처 추적, #9 환각 모니터링, #10 사용 로그 보관 — 이 다섯이 결국 사내 AI 정책의 기술적 코어예요. 이 다섯을 한꺼번에 충족시키는 도구가 있다면, 그게 가장 컴플라이언스 친화적인 선택지가 되겠죠.
이런 맥락에서 검토해 볼 수 있는 대안 중 하나가 로컬독스 같은 하이브리드 구조의 사내 문서 AI예요. 문서를 읽고 검색하는 과정은 내 PC 안(로컬)에서 처리하고, 답변을 다듬는 추론 단계에서만 외부 AI API를 빌려 쓰는 방식이라 1억~50억 원짜리 온프레미스 구축 없이도 사내 기밀 원본이 외부 서버로 전송되지 않아요. 출처를 페이지 단위로 짚어 주고 모르면 모른다고 답하는 정직함까지 갖춰서 체크리스 #4·#6·#8·#9·#10에 자연스럽게 닿아 있어요.
물론 로컬독스가 유일한 정답이라는 뜻은 아니에요. 우리 회사의 데이터 민감도, 사용자 규모, 예산에 맞는 도구를 찾는 게 핵심이고, 그 선택의 기준이 바로 위에서 정리한 12가지 체크리스트와 5가지 도구 조건이에요.
계도기간이 끝나기 전, 우리 회사가 인공지능사업자에 해당하는지, 사내 AI는 어디까지 정비되어 있는지 한 번 점검해 보시길 바라요. AI 기본법은 위기가 아니라, 사내 AI 거버넌스를 한 단계 업그레이드할 기회예요.