AI 도입 로드맵은 작게 쪼개십시오 — 큰 프로젝트가 더 자주 실패하는 이유
전사 AI 전환을 1년짜리 대형 프로젝트로 시작하는 회사일수록 더 자주 멈춥니다. 소규모 프로젝트 성공률 61% 대 초대형 6%라는 데이터를 바탕으로, AI 도입 로드맵을 방향·분기 목표·2~4주 과제의 세 층으로 쪼개는 법과 과제 선정 기준, 쪼갤 때 빠지기 쉬운 함정을 정리했습니다.
AI 도입 계획서는 대개 크게 시작합니다. 그리고 대개 그 크기 때문에 멈춥니다.
"1년 안에 전사 AI 전환"
경영진 보고용 AI 도입 계획서에 자주 나오는 문장입니다. "전사 업무 AI 전환", "고객 응대 전면 자동화", "통합 AI 플랫폼 구축". 목표는 크고, 일정은 1년이고, 예산도 큽니다.
이런 계획은 보고하기 좋습니다. 하지만 실행 단계에서 거의 같은 길을 걷습니다. 요구사항 정리에 석 달, 업체 선정에 두 달. 첫 결과물이 나올 즈음에는 현업의 관심이 식었고, 그사이 AI 기술은 한 세대 바뀌어 있습니다. 이 과정은 실패하는 AI 프로젝트에서 자세히 다루었습니다.
잘 되는 회사의 로드맵은 모양이 다릅니다. 방향은 크게, 과제는 작게 잡혀 있습니다.
큰 프로젝트는 실제로 더 자주 실패합니다
숫자로 보면 분명합니다.
스탠디시 그룹의 2015 CHAOS 보고서에 따르면 소규모 소프트웨어 프로젝트의 성공률은 61%, 초대형 프로젝트는 6%였습니다. 열 배 차이입니다.

구글 DORA 연구팀의 2019년 보고서도 같은 방향입니다. 작게 자주 배포하는 상위 조직은 하위 조직보다 배포 빈도가 208배 높았고, 장애 복구는 2,604배 빨랐으며, 변경 실패율은 7분의 1이었습니다.
AI 프로젝트는 이 차이가 더 벌어집니다. 일반 소프트웨어는 요구사항대로 만들면 대체로 동작하지만, AI는 실제 데이터와 실제 사용자 앞에 놓아 보기 전까지 결과를 알 수 없습니다. 1년 뒤에 처음 확인하는 것은 1년치 위험을 한 번에 지는 것입니다.

로드맵을 세 층으로 쪼개세요
권하는 구조는 세 층입니다.
| 층 | 기간 | 예시 |
|---|---|---|
| 방향 | 1~2년 | "영업 조직이 고객 대응에 쓰는 시간을 절반으로" |
| 분기 목표 | 3개월 | "미팅 준비 자료를 AI가 자동으로 만든다" |
| 과제 | 2~4주 | "고객사 최근 소식 한 장 요약을 영업 1팀에 매일 보낸다" |
방향은 숫자 하나로 적을 수 있을 만큼 구체적이어야 합니다. "AI 전환"은 방향이 아니라 구호입니다.
과제는 끝을 눈으로 확인할 수 있는 크기여야 합니다. 2~4주 안에 실제로 돌아가는 결과물이 나오고, 완료됐는지 누구나 판단할 수 있어야 합니다.
| 너무 큰 과제 | 쪼갠 첫 과제 |
|---|---|
| 고객 응대를 자동화한다 | 자주 묻는 질문 20개의 답변 초안을 만든다 |
| 사내 지식을 AI로 검색한다 | 인사 규정 문서 하나에 대해 답하게 한다 |
| 보고서 작성을 자동화한다 | 주간 매출 보고서 한 종의 서술 부분만 쓰게 한다 |
그리고 앞 과제가 뒤 과제의 재료가 되도록 순서를 짭니다. 질문 20개에 답하게 만든 경험이 다음 50개의 바탕이 되고, 인사 규정 하나를 다뤄 본 구조가 다른 규정 문서로 그대로 넓어집니다.
과제를 고르는 네 가지 기준
분기 목표 아래 후보 과제가 여럿이라면 이 네 가지로 점수를 매겨 보세요.
1. 방향에 닿는가? 이 과제가 끝나면 방향의 숫자가 조금이라도 움직이는가. 움직이지 않는다면 쉬워도 뒤로 미룹니다.
2. 효과를 잴 수 있는가? 처리 시간, 건수, 오류율처럼 전후를 비교할 기준이 있는가. 측정 방법은 AI 도입 후 성과를 측정하는 법에 정리해 두었습니다.
3. 틀렸을 때 되돌릴 수 있는가? 초기 과제는 사람이 결과를 확인하는 구조여야 합니다. 고객에게 바로 나가는 과제는 뒤로 둡니다.
4. 다음 과제로 넓어지는가? 이 과제의 구조를 다른 팀, 다른 문서에 다시 쓸 수 있는가. 넓어지는 과제가 이자를 낳습니다.
작은 성공이 조직을 움직입니다
작게 쪼개는 효과는 일정과 위험에서만 나오지 않습니다. 사람에게서도 나옵니다.
하버드 경영대학원의 테레사 애머빌 연구팀은 7개 기업 238명의 업무 일기 약 1만 2천 건을 분석했습니다. 직원의 하루 동기를 가장 크게 끌어올린 것은 거창한 보상이 아니라 의미 있는 일에서의 작은 진전이었습니다.
AI 도입에 옮기면 이렇습니다. 1년 뒤 완성될 "통합 AI 플랫폼"은 현업에게 남의 일입니다. 이번 주에 회의록 요약이 실제로 돌아가는 것을 본 직원은 다음에 자동화할 일을 스스로 찾기 시작합니다. AI를 쓰는 사람 만들기에서 이야기했듯, 채택을 만드는 것은 교육보다 직접 해 본 경험인 경우가 많습니다.
경영진 설득도 마찬가지입니다. "작은 성공(small wins)"이라는 개념을 정리한 심리학자 칼 와익은, 눈에 보이는 성과가 쌓이면 주변이 그 흐름에 합류하고 반대하던 사람도 마음을 돌린다고 봤습니다. 가장 강력한 설득 자료는 계획서가 아니라 이미 돌아가고 있는 결과물입니다. 이 이야기는 AI 도입을 경영진에게 설득하는 방법에서 더 다루었습니다.
쪼갤 때 빠지는 함정 두 가지
함정 1: 쉬운 과제만 고르게 됩니다. 작게 쪼개면 손대기 쉬운 과제부터 고르게 됩니다. 문서 요약, 문구 다듬기 같은 과제는 금방 끝나고 성과 보고도 쉽습니다. 그런데 "현업이 정말 이걸 매일 쓸까", "이걸로 비용이 줄어드나" 같은 어려운 질문은 계속 미뤄집니다. 분기마다 물어보세요. 중요한 것을 쪼개고 있나, 쪼개기 편한 것만 쪼개고 있나.
함정 2: 단계가 형식이 됩니다. 외과의사 아툴 가완디가 제안한 수술 체크리스트는 여덟 개 나라 병원에서 수술 후 사망률을 1.5%에서 0.8%로 낮췄습니다. 그런데 캐나다 온타리오의 101개 병원이 이를 의무로 도입한 뒤 분석해 보니 사망률이 의미 있게 줄지 않았습니다. 팀이 실제로 멈춰 서서 확인하느냐, 칸만 채우느냐의 차이로 봅니다. AI 로드맵도 같습니다. 과제를 "완료" 처리하는 것이 목적이 되는 순간 업무는 그대로입니다. 완료의 기준은 결과물이 나왔느냐가 아니라 현업이 실제로 쓰고 있느냐여야 합니다.
분기 점검 질문
분기 말에 이 세 가지만 확인하세요.
- 이번 분기 과제들이 방향의 숫자를 움직였는가?
- 끝낸 과제 중 현업이 지금도 쓰고 있는 것은 몇 개인가?
- 미뤄 둔 어려운 질문은 무엇이고, 다음 분기에 어떻게 쪼갤 것인가?
세 번째 질문에 답이 없다면, 로드맵이 쉬운 쪽으로 흘러가고 있다는 신호입니다.
마무리
AI 도입 계획서를 다시 펼쳐 보세요. 첫 과제가 몇 달짜리라면 너무 큽니다. 이번 달 안에 끝이 보이는 한 칸으로 자르고, 그 칸이 어느 방향을 향하는지 한 줄로 적어 두세요.
큰 성과는 목표로 삼는다고 오지 않습니다. 작은 성공을 방향에 맞춰 쌓은 조직에 결과로 따라옵니다. 어디서 시작할지 막막하시다면 AI 도입 전 체크리스트부터 한 장 채워 보시길 권합니다.
이 주제를 직접 실험해 본 기록은 작은 성공을 반복하는 법 (1) 쪼개는 것이 가장 오래된 정공법에 적어 두었습니다.
참고 자료
- The Standish Group, CHAOS Report 2015
- DORA, Accelerate State of DevOps 2019
- Harvard Business Review, The Power of Small Wins (2011)
- Weick, Small Wins: Redefining the Scale of Social Problems, American Psychologist (1984)
- Haynes 외, A Surgical Safety Checklist to Reduce Morbidity and Mortality in a Global Population, NEJM (2009)
- Urbach 외, Introduction of Surgical Safety Checklists in Ontario, Canada, NEJM (2014)