웨이스는 공장장이 AI 판단을 승인하고 그 범위를 정할 수 있도록 VEXPLOR에서 AI의 권한을 단계로 나눕니다

공장장이 AI 도입을 미루는 이유는 기술을 몰라서가 아닙니다. 함께 발행한 글에서 반도체 공장 인터뷰, 물류창고 실험, 병원 관찰 같은 연구·조사 13건을 모아 보니 이유는 여섯 가지로 모였습니다. AI가 틀렸을 때 책임이 공장장에게 남고, AI는 한 번 틀리면 버려지고, 이유를 말하지 않는 결과는 믿을 수 없고, 공장장이 아는 현장 정보가 AI에 빠져 있고, AI가 맞추는 숫자가 공장장이 평가받는 숫자와 다르고, 라인이 멈추는 손실이 두렵다는 것입니다.

제조 AI 운영체제 VEXPLOR를 만드는 웨이스는 이 걱정을 기술 설명으로 풀 수 없다고 봅니다. 이 걱정은 공장장이 AI의 판단을 보고 승인하고 그 범위를 정할 수 있고, 넘기지 않을 수도 있어야 풀립니다. 이 글에는 웨이스가 걱정 다섯 가지에 짝지은 방법과 지금 상태, 그리고 아직 못 한 것을 함께 적었습니다. AI가 맞추는 숫자를 공장장이 평가받는 숫자와 맞추는 일은 도구가 아니라 회사의 평가 제도가 정할 일이라 여기서는 다루지 않습니다.

VEXPLOR는 AI가 할 수 있는 일을 단계로 나누고 그 단계를 사람이 정합니다

공장장에게 책임이 남는 것을 없앨 수는 없습니다. 웨이스는 그 책임에 맞는 통제권을 공장장에게 줍니다. VEXPLOR는 AI에게 주는 권한을 AAF(Agent Authority Framework, 에이전트 권한 체계)로 나눕니다.

L4 긴급 대응은 안전을 위협하는 상황에서 즉시 조치하는 기능으로, 모든 단계에 공통으로 들어갑니다.

어느 단계든 AI가 할 수 있는 일은 사람이 정한 범위 안에 있습니다. L1에서는 AI가 안을 올려도 채택은 공장장이 하고, L2에서는 공장장이 승인해야 실행되며, L3에서도 AI가 움직이는 범위는 공장장이 정하고 고칩니다. 웨이스가 현장에 적용하는 기본 계획은 첫해 L1 제안, 둘째 해 L2 승인 후 실행, 셋째 해 L3 자동 실행으로 올라가는 순서입니다. 처음부터 자동 실행을 약속하지 않고, 한 단계씩 올라가는 과정을 계약할 수 있게 나눴습니다.

연구에서 사람들은 알고리즘의 예측을 좁은 폭으로라도 고칠 수 있을 때 알고리즘을 더 많이 썼습니다. AAF의 L1과 L2에서는 AI의 판단이 실행되기 전에 공장장이 보고 채택하거나 승인하는 단계가 구조로 들어 있습니다.

다음 단계로 가기 전에 AI의 판단을 숙련자의 판단과 나란히 기록합니다

AI가 한 번 틀리면 버려지는 것은 그 틀린 한 번 말고는 그 AI를 아는 것이 거의 없기 때문입니다. 웨이스는 AI를 공정에 넣기 전에 판단을 쌓아 보게 합니다.

• 섀도 모드(Shadow Mode) — AI가 판정을 내리지만 실제 공정에는 개입하지 않습니다. 같은 상황에서 숙련자가 내린 판정과 나란히 놓고 비교합니다.

• 의사결정 지원 — AI가 권고안을 올리고 사람이 승인합니다.

• 자율 제어 — 품질에 직결되는 공정부터 맡깁니다. 이 단계는 앞으로의 단계입니다.

섀도 모드에서는 AI가 틀려도 라인에는 아무 일도 일어나지 않습니다. 틀린 한 번은 쌓인 비교 기록 가운데 하나가 됩니다. 어디서 숙련자와 같았고 어디서 달랐는지가 남아야, 공장장은 다음 단계로 넘길지를 감이 아니라 결과로 정할 수 있습니다. 반도체 공장 엔지니어들이 신뢰의 조건으로 꼽은 「기존 절차와 함께 운영하며 결과를 비교하는 것」과 같은 순서입니다. 웨이스는 AI 에이전트 팩 도입 서비스의 운영 단계에 섀도 모드에서 승인 운영으로 가는 과정과 사람의 검수, 판단 이력 리포트를 넣어 두었습니다.

AI는 판단을 올릴 때 근거를 함께 보여 줍니다

이유를 말하지 않는 AI 결과를 받은 숙련자는 무시하거나 그대로 믿습니다. 공장장에게는 둘 다 위험합니다. 웨이스는 VEXPLOR의 인과추론이 상관관계가 아니라 원인과 조치를 찾도록 설계했습니다. 판단 근거를 설명하는 기법(SHAP)으로는 어떤 요인이 판단에 얼마나 작용했는지를 보여 줍니다.

근거가 읽히려면 공장 정보가 같은 번호로 묶여 있어야 합니다. ERP, MES, 품질 검사 시스템에 같은 부품이 다른 코드로 들어 있으면 AI는 근거를 찾지 못하고, 찾더라도 공장장이 확인할 수 없습니다. VEXPLOR는 온톨로지(사물과 관계를 정의한 의미 체계)로 이기종 시스템의 서로 다른 코드를 하나의 의미 그래프로 매핑하도록 설계돼 있습니다. VEXPLOR 에이전트의 원칙은 한 문장입니다. 시스템은 기록하고, 판단은 에이전트가 사람에게 올립니다.

넘기지 않을 일은 처음부터 정해 둡니다

공장장이 AI를 경계하는 데는 「어디까지 가져갈지 모른다」는 이유도 있습니다. 웨이스는 AI에게 넘기지 않을 영역을 미리 정해 둡니다.

• 회계와 원가 — L3 자동 실행에서 영구 제외합니다. AI는 전표 초안까지만 만들고, 장부에 올리는 것은 사람이 결재합니다.

• 발주 같은 실행 행위 — AI 에이전트가 판단을 올려도, 실제로 실행하는 단계에는 사람의 승인을 그대로 둡니다.

넘기지 않을 영역이 먼저 정해져 있으면, 넘기는 영역에서는 공장장이 범위를 정해 AI가 결과를 낼 기회를 줄 수 있습니다.

AI의 명령을 라인보다 가상 공장에서 먼저 실행하는 일은 시험 설비까지 왔습니다

라인이 멈추는 손실이 두려운 공장장에게 가장 확실한 답은 AI의 명령이 설비에 닿기 전에 결과를 먼저 보여 주는 것입니다. 웨이스는 AI의 명령을 같은 래더와 같은 스캔으로 움직이는 가상 공장에서 먼저 실행한 뒤 PLC로 보내는 공장을 목표로 합니다. 그 가상 공장의 첫 판으로 PLC 시험 설비를 9월 29일 공개했습니다.

지금 보여 줄 수 있는 것은 래더와 설비 모형이 같은 스캔으로 맞물려 움직이는 구조까지입니다. 실제 공장과 똑같다는 뜻은 아닙니다. AI의 명령을 이 가상 공장에서 실행하는 연결도 아직 만들지 않았습니다.

공장장이 AI 권고를 고친 이유를 남기는 일은 아직 다음 순서입니다

연구에 따르면 현장 사람이 알고리즘 권고에서 벗어난 이유 가운데 일부는, 알고리즘이 모르는 정보를 사람이 알고 있었기 때문이었고, 연구진은 회사가 이탈을 막기 전에 그 이유부터 찾아야 한다고 결론 내렸습니다. 공장장이 AI의 생산계획을 고쳤다면, 그 이유가 다음 판단의 재료가 되어야 합니다.

지금 VEXPLOR에서는 상태가 바뀐 것은 남지만, 왜 바꿨는지는 남지 않습니다. 사람이 결정한 사유, AI의 판단 근거, 권한 판정 이력이 아직 세 곳에 따로 있습니다. 웨이스가 다음으로 만들 것은 이 셋을 하나의 결정 기록으로 모으는 구조입니다. 그 구조가 갖춰지면, 공장장이 AI 권고를 따르지 않을 때 남긴 한 줄이 AI와 공장장의 판단이 어디서 달랐는지 보여 주는 기록이 됩니다.

이 구조가 갖춰지기 전까지 웨이스는 「VEXPLOR가 공장장의 판단 이유를 배운다」고 말하지 않습니다.

공장장의 통제권이 남아 있을 때 AI는 공장에 들어갈 수 있습니다

웨이스가 VEXPLOR에서 AI의 권한을 단계로 나누고, 섀도 모드로 비교 기록을 쌓고, 근거를 함께 올리고, 넘기지 않을 영역을 먼저 정하는 이유는 하나입니다. 공장장에게 책임이 남는 한, 통제권도 공장장에게 남아 있어야 하기 때문입니다.

AI가 공장장의 일을 가져가는 것이 아니라 공장장이 AI에게 일을 단계로 맡기는 구조일 때 공장장에게는 AI 도입을 미룰 이유가 줄어듭니다.

WACE(웨이스)는 공장이 스스로 판단하고 멈추지 않게 하는 제조 AI 운영체제 VEXPLOR를 만드는 회사다.

함께 읽어보세요

• 공장장이 AI 도입을 미루는 이유는 기술이 아니라, AI가 틀렸을 때 그 책임이 공장장에게 남기 때문입니다

• 웨이스가 VEXPLOR에서 AI의 판단을 PLC로 보내기 전에 같은 스캔의 가상 공장에서 먼저 실행하려는 이유

• 제조업 승계가 막히는 문제를 웨이스는 VEXPLOR로 어떻게 풀려 하는가 — 판단 근거를 묶고 권한을 단계로 넘기는 방법