비전 검사 AI, 무엇을 재는지부터 정하셨습니까 — 해상도 한계와 측정 흔들림 (2)
비전 검사 AI는 카메라가 볼 수 있는 것보다 작은 것을 찾지 못하고, 사람 판정이 흔들리면 그 흔들림까지 그대로 배웁니다. 2편에서는 찾아야 할 가장 작은 결함으로 해상도를 역산하는 법, Gage R&R로 측정 시스템을 먼저 검사하는 법, 합격선 근처 제품을 따로 평가하는 법과 도입 전 점검 리스트를 국내외 사례로 정리했습니다.
카메라가 못 보는 것은 어떤 모델도 찾지 못합니다. 그리고 흔들리는 자로 가르친 AI는 그 흔들림까지 배웁니다.
정의를 정했다면, 이제 한계를 잴 차례입니다
1편에서는 무엇을 재는지 문장으로 정하고 기준 장비와 단위를 하나로 묶는 일을 다뤘습니다. 정의가 섰다면 다음 질문은 두 가지입니다. 이 카메라로 얼마나 작은 것까지 보이는가, 그리고 지금의 측정은 얼마나 흔들리는가입니다.
두 질문 모두 AI 모델을 고르기 전에 답할 수 있습니다. 답을 미루면 파일럿이 끝난 뒤에 "AI가 이 결함을 못 잡는다"는 결론을 듣게 되는데, 그때 원인이 렌즈나 판정 기준에 있었다는 사실을 알면 고칠 비용이 훨씬 커집니다.
셋. 카메라가 볼 수 있는 가장 작은 것을 계산하십시오
비전 검사에서 해상도는 성능 옵션이 아니라 측정 범위를 정하는 물리 조건입니다. 픽셀 하나가 덮는 실제 크기보다 작은 것은 어떤 모델로도 볼 수 없습니다.
머신비전 업계의 일반 기준은 단순합니다. 카메라 업체 더 이미징 소스의 용어 해설은 있음·없음 확인에는 1~2픽셀, 치수 측정에는 3~4픽셀, 바코드·문자 판독에는 가장 가는 요소당 3~5픽셀이 필요하다고 정리합니다. 이 숫자는 "보인다"의 최소선입니다. 크기를 몇 % 오차 안에서 재야 한다면 훨씬 더 많은 픽셀이 필요합니다.
| 하려는 일 | 가장 작은 대상이 덮어야 할 픽셀 |
|---|---|
| 있음·없음 확인 | 1~2픽셀 |
| 치수 측정 | 3~4픽셀 |
| 바코드·문자 판독 | 가장 가는 요소당 3~5픽셀 |
| 크기를 몇 % 오차 안에서 측정 | 위 기준보다 훨씬 많이 |
해상도 다음은 설치와 보정입니다. 카메라가 대상과 평행하지 않으면 화면 위치마다 배율이 달라지고, 기준물 하나로는 그 기울기를 알아채기 어렵습니다. 조명이 바뀌면 경계가 밀리고, 습도나 먼지가 측정값을 끌어올리기도 합니다.
환경 측정 분야가 좋은 예입니다. 국내 미세먼지 간이측정기는 빛이 입자에 흩어지는 정도로 농도를 재는데, 습도 등 미세먼지가 아닌 물질의 영향을 받는다는 한계가 알려져 있습니다. 환경부는 간이측정기 성능인증제를 운영하고 있습니다. 2023년 보도에 따르면 성능인증을 받은 430종 가운데 정확도 등에 따라 1등급은 223종, 등급 외는 207종이었습니다. 같은 공기를 재도 장비와 설치 조건에 따라 숫자가 달라지니, 장비에 등급을 붙여 쓰는 사람이 알고 쓰게 한 것입니다.
도입 전에 계산하실 것은 세 가지입니다. 찾아야 할 가장 작은 결함이 몇 픽셀인지, 카메라 시야 전체에서 배율이 얼마나 균일한지, 그리고 그 계산으로 놓치게 되는 범위가 업무상 괜찮은지입니다. 마지막 질문의 답이 "안 된다"라면 모델을 바꿀 일이 아니라 카메라 위치나 렌즈를 바꿀 일입니다.
넷. AI보다 측정 시스템을 먼저 검사하십시오
AI 정확도를 묻기 전에 지금의 측정 자체가 얼마나 흔들리는지를 재야 합니다. 제조 품질 분야에는 이미 이 절차가 있습니다. 측정 시스템 분석(MSA), 그중에서도 반복성·재현성 평가(Gage R&R)입니다.
방법은 이렇습니다. 부품 10개 정도를 골라 검사원 여러 명이 각자 여러 번 잽니다. 그리고 측정값의 흔들림이 부품 사이의 실제 차이에 비해 얼마나 큰지 봅니다. 미니탭의 해설이 정리한 자동차 업계 지침(AIAG)에 따르면 이 비율이 10% 미만이면 측정 시스템을 수용하고, 10~30%는 용도와 비용에 따라 판단하며, 30%를 넘으면 개선해야 합니다. 측정 시스템이 구분해 낼 수 있는 등급 수(ndc)가 5 이상인지도 함께 봅니다.

이것이 AI와 무슨 상관인지는 정답 라벨을 생각하면 분명해집니다. AI는 사람이 매긴 판정으로 배웁니다. 그 판정이 사람마다 다르면 AI는 흔들리는 자로 학습하게 됩니다. 앤드루 응은 IEEE 스펙트럼 인터뷰에서 비전·음성·자연어 전반에 걸쳐 사람 작업자끼리도 맞는 라벨에 합의하지 못하는 문제가 매우 흔하다고 말했습니다. 그가 예로 든 휴대폰 외장 검사에는 긁힘, 찍힘, 점 자국, 변색이 섞여 있습니다. 그는 데이터가 일관되지 않은 곳을 찾아내 집중적으로 바로잡는 편이 성능 좋은 시스템을 얻는 더 효율적인 길이었다고 설명합니다. 신경망 구조는 그대로 두고 데이터를 고치는 쪽이 생산적인 경우가 많다는 것입니다.
실무에서는 검사원 두세 명에게 같은 사진 100장을 따로 판정하게 해 보십시오. 일치율이 낮게 나오면 AI 도입보다 판정 기준서를 고치는 일이 먼저입니다. 이렇게 고친 기준이 곧 AI의 정답지가 됩니다.
합격선 근처가 가장 위험합니다
측정이 흔들린다는 것은 실무에서 구체적인 손실로 이어집니다. 그 손실은 합격선 근처에서 생깁니다.
규격이 10.00 mm 이하인 부품을 생각해 보십시오. 측정값이 ±0.05 mm씩 흔들린다면, 실제로 9.97 mm인 부품이 10.02 mm로 나와 불합격 처리될 수 있고, 10.03 mm인 부품이 9.98 mm로 나와 합격할 수도 있습니다. 합격선에서 멀리 떨어진 부품은 아무 문제가 없습니다. 문제는 늘 경계에 몰립니다.

그래서 비전 검사 AI를 평가할 때는 전체 정확도보다 합격선 근처 부품에서 얼마나 맞는지를 따로 보십시오. 정상과 불량이 뚜렷이 갈리는 시료만 모아 시험하면 정확도는 높게 나오지만, 현장에서 실제로 판단이 필요한 것은 경계에 걸린 제품입니다. 경계 근처에서 측정 흔들림이 크다면 선택지는 두 가지입니다. 측정을 더 정밀하게 만들거나, 합격선 안쪽에 여유 구간을 두고 그 구간의 제품은 사람이 다시 보는 것입니다.
도입 전 점검 리스트
비전 검사 AI 견적을 받기 전에 아래 항목에 답이 있는지 확인해 보십시오. 앞의 세 줄은 1편, 나머지는 이번 편에서 다룬 내용입니다.
- 측정 정의: 무엇을, 어느 면에서, 어느 방향으로 재는지 그림과 문장으로 적었습니까
- 기준 장비: AI 결과를 맞춰 볼 정답 장비나 판정자가 하나로 정해져 있습니까
- 단위 표기: 보고서 숫자에 측정기, 정의, 세는 단위가 함께 적혀 있습니까
- 최소 크기: 찾아야 할 가장 작은 결함이 몇 픽셀인지 계산했습니까
- 설치 조건: 카메라 기울기, 조명, 거리가 바뀌면 숫자가 얼마나 변하는지 시험했습니까
- 측정 흔들림: 사람 판정과 기존 장비의 반복성·재현성을 먼저 쟀습니까
- 못 보는 범위: 이 설정으로 놓치는 것이 무엇인지 문서로 남겼습니까
이 일곱 가지에 답하는 데 드는 시간은 대개 몇 주가 아니라 며칠입니다. 그리고 이 답이 있어야 AI 견적서의 "정확도 99%"라는 문구가 무엇을 뜻하는지 물을 수 있습니다.
정리하면
카메라가 볼 수 있는 한계를 계산하고, 측정 자체의 흔들림을 먼저 재고, 합격선 근처를 따로 평가하십시오. 그다음에 AI 정확도를 물으면 그 숫자를 믿을 수 있습니다.
파일럿 결과가 기대와 다를 때 AI를 탓하기 전에 이 순서를 거꾸로 짚어 보시기 바랍니다. 결과를 어떻게 검증하고 읽을지는 AI 검증 설계 편에서, 도입 후 성과를 어떻게 재는지는 성과 측정 편에서 더 다뤘습니다.
이 주제를 직접 실험해 본 기록은 체, 레이저, 카메라는 왜 다른 답을 하나에 적어 두었습니다.
「비전 검사 AI, 무엇을 재는지부터 정하셨습니까」 연재
- 크기의 정의와 기준 장비
- 해상도 한계와 측정 흔들림 (현재 글)