한 줄로 만든 지도 두 장 — AI로 무엇이 되고 무엇이 안 되는가

만들 수 있느냐는 이제 문제가 아닙니다. 만든 것이 맞는지 누가 확인하느냐가 문제입니다.

지난 주말에 지도를 두 장 만들었습니다. 하나는 서울 불꽃축제가 어디서 잘 보이는지, 다른 하나는 전국에서 가을꽃이 언제 어디서 절정인지를 보여 주는 지도입니다.

각각 요청은 한 줄이었습니다.

이 글은 그 결과물을 자랑하려는 것이 아닙니다. 저희가 궁금했던 것은 다른 쪽입니다. 이런 방식을 회사 업무에 옮길 수 있는가, 옮긴다면 어디까지인가. 그 경계를 실제로 만들어 보고 정리했습니다.

무엇을 만들었나

첫 번째는 관람 명당 지도입니다. "서울 지도와 고도 정보를 활용해 불꽃축제가 어디서 잘 보이는지 히트맵으로 표시해 달라"는 한 줄이었습니다. 40분 뒤에 서울을 가로세로 30미터 칸으로 쪼갠 99만 칸마다 시야가 트였는지를 계산한 지도가 나왔습니다.

두 번째는 가을 꽃놀이 지도입니다. "어떤 식물을 보려면 언제 어디로 가야 하는지를 지도에 얹어 달라"고 했습니다. 전국 62곳의 절정 시기를 모아 시간축에 얹었고, 날짜를 옮기면 그 시점에 피어 있는 곳만 밝아집니다.

두 결과물 모두 공개되어 있습니다. 만드는 과정은 불꽃축제 지도 편과 가을 꽃놀이 지도 편에 자세히 적어 두었습니다.

예전에는 왜 안 됐나

같은 일을 몇 년 전에 하려면 두 곳에서 막혔습니다.

첫째, 그런 데이터가 있는 줄 몰랐습니다. 유럽우주국의 전 세계 고도 데이터, 유럽연합의 건물 높이 데이터, 산림청의 단풍 예측 자료. 전부 무료로 공개되어 있는데, 있는 줄 알아야 찾습니다. 이것이 오랫동안 진짜 병목이었습니다.

둘째, 형식을 뚫는 데 며칠이 걸렸습니다. 위성 데이터는 낯선 파일 형식과 낯선 좌표계로 되어 있습니다. 전문 도구를 깔고 사용법을 익히는 데만 며칠입니다.

지금은 두 가지 모두 몇 분입니다. 그런데 병목이 사라진 것이 아니라 옮겨 갔습니다.

새 병목은 검증입니다

작업 도중에 이런 일이 있었습니다.

지형 데이터를 받아 확인해 보니, 여의도 파크원 자리의 높이가 13미터로 나왔습니다. 실제로는 333미터짜리 건물이 서 있는 자리입니다. 다른 데이터로 바꿔 봤더니 이번에는 63빌딩이 18미터였습니다.

이유는 단순했습니다. 전 세계 고도 데이터는 대부분 땅을 재려고 만든 것이라 건물을 잡음으로 지워 버립니다. 지질 조사나 홍수 예측에는 맞지만, 도시에서 시야가 트였는지를 따지는 일에는 정확히 반대로 쓸모가 없습니다.

여기서 중요한 것은 이 데이터가 오류를 내지 않았다는 점입니다. 형식도 멀쩡하고, 좌표도 맞고, 숫자도 잘 들어 있습니다. 그대로 계산했다면 지도는 아무 문제 없이 완성됐을 것입니다. 다만 틀린 지도가 됐을 것이고, 아마 아무도 몰랐을 것입니다.

그럴듯한 쓰레기가 가장 위험합니다

이것이 저희가 이 글에서 가장 하고 싶은 이야기입니다.

AI가 만드는 결과물의 위험은 엉뚱한 답을 내놓는 데 있지 않습니다. 엉뚱한 답은 눈에 띕니다. 위험한 것은 형태가 그럴듯한 결과물입니다. 지도 모양을 하고 있으면 사람은 지도라고 믿습니다. 표와 숫자가 들어간 보고서 형태면 검증된 자료라고 믿습니다.

조직에서는 이 문제가 더 커집니다. 실무자가 만든 자료가 보고 라인을 타고 올라가는 동안, 숫자의 출처를 되짚는 사람은 점점 줄어듭니다. 위로 갈수록 그 자료는 더 확실해 보입니다.

그래서 저희는 이렇게 정리했습니다. AI 도입의 성패는 무엇을 만들 수 있느냐가 아니라, 만든 것이 맞는지 확인하는 절차를 함께 두었느냐로 갈립니다.

되는 것과 안 되는 것

두 건을 만들면서 경계가 제법 분명해졌습니다.

지금 되는 것	아직 어려운 것
공개 데이터를 엮어 답을 내는 일회성 분석	계속 돌아가야 하는 운영 시스템
형식이 막고 있던 자료를 여는 일	사내 데이터 없이 내리는 업무 판단
결정에 쓸 근거를 모으는 일	검증할 사람이 없는 자동 결정
만들지 말지 정하기 전의 시제품	규제나 안전이 걸린 책임 있는 영역

왼쪽은 틀려도 되돌릴 수 있고 확인할 사람이 있는 일입니다. 오른쪽은 틀리면 되돌리기 어렵거나, 틀린 줄 모르고 지나가는 일입니다.

특히 운영 시스템은 만드는 것과 유지하는 것이 전혀 다른 일입니다. 40분 만에 만든 것은 40분 만에 고칠 수 있지만, 반년 뒤에 장애가 났을 때 그 코드를 책임질 사람이 있는지는 별개 문제입니다. 이 이야기는 AI 에이전트 1년 회고에서 더 다루었습니다.

실무에서 쓰는 법 네 가지

이번에 효과가 있었던 것들만 옮겨 적습니다.

목적과 결과물의 꼴을 같이 말합니다. 첫 요청에는 "어디서 잘 보이는지"라는 목적과 "지도에 히트맵처럼"이라는 형태가 둘 다 있었습니다. 목적만 말하면 표가 나오고, 형태만 말하면 보기 좋지만 쓸모없는 것이 나옵니다.

데이터를 지정하지 않습니다. 대신 출처를 요구합니다. 어떤 공개 자료가 있는지는 사람보다 기계가 더 많이 압니다. 특정 데이터를 콕 집어 지시했다면 건물이 빠진 채로 끝났을 것입니다. 대신 "이 숫자는 어디서 온 것이냐"를 물으면 근거가 따라옵니다. 두 번째 지도에서 산림청 예측 자료가 나온 것도 그 질문 덕분입니다.

결과가 이상하면 근거를 보여 달라고 합니다. 남산 정상이 0점으로 나왔을 때 "왜 이렇게 나왔는지 근거를 보여 달라"는 한마디가 계산 오류 두 건을 끌어냈습니다. 이 한마디를 하지 않으면 틀린 지도를 그대로 받습니다.

한계를 먼저 물어봅니다. "이 결과에서 믿으면 안 되는 부분이 무엇이냐"고 묻습니다. 대답이 나오지 않으면 그 결과물은 아직 덜 된 것입니다.

비용은 어떻게 되나

이런 작업의 비용은 대부분 사람 시간이 아니라 토큰에서 나옵니다. 자료를 많이 읽고 여러 번 되짚을수록 늘어납니다. 견적과 실제 비용이 왜 달라지는지는 AI는 진짜 얼마가 들까에 따로 정리해 두었습니다.

한 가지만 덧붙이면, 이번처럼 되짚기가 많은 작업일수록 비용이 올라갑니다. 그런데 되짚기를 아끼면 앞에서 이야기한 그럴듯한 쓰레기가 나옵니다. 검증에 드는 비용은 줄일 대상이 아니라 감수할 대상에 가깝습니다.

마무리

요즘 이런 작업에 딸깍이라는 말이 붙습니다. 저희가 겪어 보니 그 말의 뜻이 조금 달랐습니다.

일이 적어졌다는 뜻이 아니라, 사람 손이 적게 움직인다는 뜻입니다. 그 사이에 있던 판단이 사라진 것이 아니라 기계 쪽으로 옮겨 갔고, 옮겨 간 만큼 그 판단이 맞았는지 확인하는 일이 사람에게 새로 생겼습니다.

AI 도입을 검토하실 때 "무엇을 자동화할 수 있는가"만 보시면 절반만 보시는 것입니다. 나머지 절반은 "그 결과가 틀렸을 때 누가 언제 알아차리는가"입니다. 저희가 두 장의 지도에서 얻은 결론이 그것입니다.

이미 직원들이 각자 AI를 쓰고 있는 상황이라면, 검증 절차를 어떻게 세울지는 더 급한 문제가 됩니다. 그 이야기는 직원들은 이미 AI를 쓰고 있습니다에서 다루었습니다.