AI가 똑똑해지는 속도가 무섭다는 말, 요즘 심심찮게 들립니다. 스스로 취약점을 찾아내는 모델이 등장하고, 딥페이크 피해는 일상이 됐죠. 바로 이 시점에 정부가 민간과 함께 '국가 AI 안전 종합계획'을 만든다고 나섰습니다. AI 혁신을 가속하면서도, 안전의 끈은 놓치지 않겠다는 선언입니다.
이번 계획의 공식 명칭은 '(가칭) 국가 AI 안전 생태계 조성 마스터플랜'입니다. 과학기술정보통신부가 중심이 돼 민·관 실무협의체를 꾸리고, 연말까지 최종안을 내놓겠다는 일정입니다. 과연 어떤 내용이 담길까요? 발표된 내용을 중심으로 3대 전략과 쟁점을 정리해 봅니다.
📋 핵심 요약
과기정통부가 민·관 실무협의체(약 25명)를 구성해 올해 12월까지 '국가 AI 안전 생태계 조성 마스터플랜'을 수립합니다. 관리체계 구축, 대응역량 강화, 일상 안전 환경 3대 전략을 중심으로 현장 의견을 반영한 과제를 발굴할 예정입니다.
1. 왜 지금 AI 안전인가 — 배경은 '현실이 된 위험'
정부가 마스터플랜을 추진하는 이유는 분명합니다. 최첨단 AI의 위험이 현실화되고 있기 때문입니다. AI 기술과 산업 환경이 급변하면서, 제도와 대응 역량이 속도를 따라가지 못하고 있다는 문제의식이 깔려 있습니다.
실제로 국내 AI 안전 대응 인프라는 주요국에 비해 크게 뒤처져 있다는 지적이 나옵니다. 최근 국회에 제출된 자료에 따르면, 핵심 조직인 AI안전연구소의 AI 안전 평가실 실질 평가 인력은 6명에 불과합니다. 영국이 약 200명, 미국이 80명까지 늘릴 계획인 것과 비교하면 격차가 큽니다.
예산과 장비 사정도 비슷합니다. AI안전연구소 올해 예산은 89억 원 수준으로 영국(약 1216억 원)과 큰 차이를 보이고, GPU도 5대에 불과해 일부는 민간 클라우드 서버를 임차해 쓰는 구조입니다. 현행 인공지능기본법상 안전조치 시정명령 위반 과태료도 최대 3000만 원에 그쳐 글로벌 빅테크를 상대로 한 실효성이 약하다는 평가도 있습니다.
이런 상황에서 정부가 AI 혁신 가속과 안전·신뢰 기반 강화를 동시에 추진하겠다고 나선 것은 의미가 큽니다. 이진수 과기정통부 인공지능정책기획관은 "그간 인공지능기본법 시행 등 AI 혁신과 안전의 균형을 위한 기반을 조성해 왔으나, 첨단 AI 위험에 대한 국가적 대응역량 강화가 필요한 시점"이라고 밝혔습니다.
2. 3대 전략은 이것 — 마스터플랜의 뼈대
마스터플랜의 3대 전략(안)은 다음과 같습니다. 실무협의체는 이 전략들을 점검하고, 글로벌 정책 동향을 반영한 신규·보완 과제를 발굴하게 됩니다.
| 전략 | 내용 |
| ① 관리체계 구축 | 국가 AI 안전 관리체계 구축 |
| ② 대응역량 강화 | 첨단 AI 안전 대응 역량 강화 |
| ③ 일상 안전 환경 | 국민 일상의 AI 안전 환경 조성 |
특히 첨단 AI 대응 역량 강화는 해외 흐름과도 맞닿아 있습니다. 일본은 고성능 AI의 안보 위협에 대응하기 위해 AI 기본계획을 반년 만에 개정했고, 위험 AI 개발사에 대한 벌칙 법제화도 논의 중입니다. 영국은 국제 AI 안전 연구소 네트워크를 구축해 각국과 협력하고 있죠. 우리 마스터플랜도 이런 글로벌 AI 안전 정책의 흐름을 반영하게 됩니다.
📊 실무협의체가 하는 일
협의체는 과기정통부를 비롯해 국가인공지능전략위원회, AI 안전 관련 유관기관(인공지능안전연구소, 한국지능정보사회진흥원, 정보통신정책연구원, 한국정보통신기술협회), 국내외 AI 기업·협회, AI 기술 및 법·제도 전문가 등 25명 내외로 구성됩니다.
산업계에서는 국내 주요 AI 기업과 글로벌 AI 기업, 중소·스타트업, 한국인공지능·소프트웨어산업협회, 코리아스타트업포럼 등이 참여해 AI 개발·활용 현장의 경험과 의견을 공유합니다. 유관기관과 전문가들은 기술·정책·법제 등 다양한 관점에서 의견을 제시할 예정입니다.
이 기획관은 "현장의 수용성과 글로벌 AI 안전 정책·기술 동향을 반영하여 실효성 있는 국가 AI 안전 생태계 조성 방안을 마련하겠다"고
덧붙였습니다.
3. 국민 일상에 닥칠 변화는?
3대 전략 중 세 번째인 '국민 일상의 AI 안전 환경 조성'은 일반 국민의 생활과 가장 맞닿아 있는 부분입니다. 딥페이크, AI 사기, 개인정보 유출 같은 생활 속 AI 위험에 대한 대응이 핵심 과제가 될 것으로 보입니다.
예상되는 변화를 정리하면 이렇습니다.
- AI 피해 신고·대응 창구 정비 — 딥페이크·보이스피싱 등 AI 악용 피해에 대한 체계적 대응
- AI 안전 평가 기준 마련 — 첨단 AI 모델의 위험도 평가와 공개 기준 정립
- 산업 현장 지원 강화 — 중소·스타트업이 AI 안전 기준을 지킬 수 있는 지원책
- 글로벌 협력 체계 참여 — 국제 AI 안전 네트워크와의 공조 확대
아직은 전략 '안' 단계인 만큼, 구체 과제는 실무협의체 논의를 통해 가다듬어질 예정입니다. 중요한 건 산업 현장의 목소리가 반영되는지 여부인데, 협의체에 기업과 전문가가 대거 포진했다는 점은 긍정적인 신호입니다.
4. 관전 포인트 — 세 가지만 기억하세요
🔍 과연 '실효성 있는' 계획이 나올까
관전 포인트는 세 가지입니다. 첫째, 12월까지 마스터플랜이 실제로 완성될 수 있는지입니다. 실무협의체가 본격 가동되는 시점부터 연말까지, 논의 시간은 넉넉하지 않습니다.
🔍 인력·예산 확충이 뒤따를까
둘째, 계획 이후의 실행력입니다. AI 안전 평가 인력 6명, 예산 89억 원 수준으로는 아무리 좋은 계획도 공염불이 될 수 있습니다. 인력·예산·인프라 확충이 함께 가야 한다는 지적은 이미 국회에서 제기된 상태입니다.
🔍 혁신과 규제의 균형점
셋째, AI 혁신과 안전의 균형입니다. 과도한 규제는 산업 경쟁력을 해칠 수 있고, 부족한 규제는 국민 피해를 방치하게 됩니다. 정부가 'AI 3대 강국'을 목표로 하는 만큼, 두 마리 토끼를 잡는 절묘한 설계가 필요합니다.
❓ 자주 묻는 질문
Q. '국가 AI 안전 종합계획'이 정확히 뭔가요?
A. 정식 명칭은 '(가칭) 국가 AI 안전 생태계 조성 마스터플랜'입니다. AI 혁신을 가속하면서 AI 안전·신뢰 기반을 강화하기 위한 정부 차원의 종합 계획으로, 올해 12월까지 수립될 예정입니다.
Q. 실무협의체는 언제부터 활동하나요?
A. 구성 발표 이후 다음 달부터 본격 운영에 들어갑니다. 협의체는 3대 전략과 핵심과제를 점검하고, 글로벌 정책 동향을 반영한 신규 과제를 발굴합니다.
Q. 일반 국민에게 어떤 영향을 주나요?
A. 직접적인 변화는 내년 이후 과제별 시행 계획에서 나옵니다. 다만 딥페이크 등 일상 속 AI 피해 대응 강화, AI 안전 평가 기준 마련 등이 핵심 과제로 예상됩니다.
Q. 다른 나라들도 비슷한 계획을 세우고 있나요?
A. 네. 영국은 AI 안전 연구소를 중심으로 국제 네트워크를 구축했고, 일본은 고성능 AI 기본계획을 개정하며 위험 AI 개발사에 대한 벌칙 법제화를 논의 중입니다. AI 안전은 이제 글로벌 공통 과제입니다.
맺음말
AI는 이미 우리 일상의 일부입니다. 편리함 뒤에 숨은 위험을 방치하면, 그 피해는 고스란히 국민에게 돌아옵니다. 정부가 민간과 함께 국가 차원의 AI 안전 청사진을 그리기로 한 것은 늦었지만 필요한 첫걸음입니다.
12월에 나올 마스터플랜이 '선언문'이 아니라 '실행계획'이 되기를 기대합니다. 실무협의체의 논의 과정과 최종안에 계속 관심을 가질 이유입니다.