제조 현장에서 ChatGPT를 못 믿는 이유, 그리고 환각 없는 제조 AI

생성형 AI가 화제가 되면서, 한 번쯤 이런 실험을 해보셨을 겁니다. 공장 데이터를 AI에 넣고 "이 불량의 원인이 뭐냐"고 물어보는 것. 그럴듯한 답이 나옵니다. 문장은 매끄럽고 자신감도 넘칩니다. 그런데 막상 현장 담당자가 보면 고개를 갸웃합니다. "이 설비는 그 공정에 안 쓰이는데?"

말은 되는데 사실은 아닌 답. 이걸 AI 분야에서는 환각(hallucination)이라고 부릅니다. 그리고 이 환각 때문에, 많은 공장이 AI를 데모까지만 보고 현장에는 들이지 못합니다.

저희는 이 문제를 구조로 풀었습니다. 답을 공장 자신의 관계 데이터에 묶어 검증하고, 이 방식으로 정부 자율형공장 실증에서 AI가 실물 PLC를 직접 제어하는 단계까지 확인했습니다. 그 구조 이야기를 하려 합니다.

사무실에서의 오답과 공장에서의 오답은 무게가 다르다

일반적인 AI가 환각을 일으키는 이유는 구조에 있습니다. 이런 모델은 "다음에 올 가장 그럴듯한 말"을 생성하도록 만들어졌습니다. 우리 공장의 실제 자재 코드, 설비 이력, 공정 관계를 아는 게 아니라, 통계적으로 그럴듯한 문장을 지어내는 것입니다. 그래서 데이터에 없는 내용도 자신 있게 말합니다.

사무실에서 보고서 초안을 쓸 때라면 오답은 한 번 고쳐 쓰면 그만입니다. 하지만 공장은 다릅니다. AI가 "이 자재로 대체하라"고 잘못 권하면 라인이 멈추거나 불량이 쏟아집니다. 리콜 범위를 잘못 짚으면 회수 비용이 몇 배로 뜁니다. 공장에서 AI의 오답은 단순한 실수가 아니라 멈춤이고 비용입니다. 그래서 제조 현장의 AI에는 사무실과 다른 기준이 필요합니다. 매끄러운 답이 아니라, 틀리지 않는 답이어야 합니다.

답을 '지어내게' 두지 않고 '근거에 묶는다'

환각을 막는 길은 분명합니다. AI가 답을 지어내게 두지 않고, 실제 데이터와 정의된 관계 위에서만 답하게 묶는 것입니다.

VEXPLOR의 제조 AI는 질문이 들어오면 한 군데가 아니라 네 갈래에서 동시에 근거를 찾습니다. 항목 사이의 관계를 담은 지식그래프, 비슷한 사례를 찾는 검색, 정확한 수치를 가져오는 데이터베이스 조회, 그리고 매뉴얼·문서 검색. 이 네 경로의 결과를 하나로 합쳐서 답을 만듭니다. 핵심은 그 답이 공장의 실제 온톨로지, 즉 자재·공정·설비·품질이 서로 어떻게 연결되는지를 미리 정의해둔 관계망에 묶여 있다는 점입니다. 관계망에 없는 이야기는 지어내지 않습니다.

쉽게 말하면, 답할 때마다 "그래서 그 근거가 우리 공장 어디에 있는데?"라는 질문에 출처를 댈 수 있는 구조입니다. 출처를 댈 수 없으면 답하지 않습니다.

믿을 수 있을 때 비로소 빨라진다

흔히 제조 AI의 가치를 속도로 이야기합니다. 품질 원인 분석이 세 시간에서 30초로, 리콜 범위 파악이 네 시간에서 1분으로 줄어든다는 식입니다. 실제로 그렇습니다.

하지만 더 중요한 건, 그 빠른 답을 믿고 실행할 수 있느냐입니다. 아무리 빨라도 담당자가 매번 손으로 다시 검증해야 한다면, 일은 줄지 않고 오히려 늘어납니다. 답을 근거에 묶어 신뢰할 수 있을 때에야, 비로소 사람이 그 답을 받아 바로 움직일 수 있습니다. 속도는 신뢰 위에서만 의미가 있습니다.

앞 글에서 다룬 공장의 지휘자, 즉 다크팩토리 OS가 제대로 지휘하려면 바로 이 신뢰가 전제입니다. OS가 내리는 판단을 믿을 수 없다면, 누구도 그 판단에 라인을 맡기지 않을 테니까요.

정리하면

제조 현장에서 일반적인 AI를 못 믿는 이유는 환각, 즉 데이터에 없는 내용을 그럴듯하게 지어내기 때문입니다. 공장에서 그 오답은 멈춤이자 비용입니다. 환각 없는 제조 AI는 답을 실제 데이터와 정의된 관계에 묶어, 출처를 댈 수 있는 답만 내놓습니다.

그렇다면 그 '정의된 관계'는 대체 어떻게 만들어질까요? 다음 글에서는 모든 제조 AI의 토대가 되는 표준화와 온톨로지를, 공장장의 언어로 풀어보겠습니다.

직접 확인해 보세요

우리 공장 데이터로, 환각 없는 답이 어떻게 나오는지 직접 확인해 보세요. 실제 질문을 넣고 그 답의 근거가 어디서 나왔는지까지 보여드리는 데모를 제공합니다.