생성형 AI가 화제가 되면서, 한 번쯤 이런 실험을 해보셨을 겁니다. 공장 데이터를 AI에 넣고 "이 불량의 원인이 뭐냐"고 물어보는 것. 그럴듯한 답이 나옵니다. 문장은 매끄럽고 자신감도 넘칩니다. 그런데 막상 현장 담당자가 보면 고개를 갸웃합니다. "이 설비는 그 공정에 안 쓰이는데?" 말은 되는데 사실은 아닌 답. 이걸 AI 분야에서는 환각(hallucination)이라고 부릅니다. 그리고 이 환각 때문에, 많은 공장이 AI를 데모까지만 보고 현장에는 들이지 못합니다. 사무실에서의 오답과 공장에서의 오답은 무게가 다르다 일반적인 AI가 환각을 일으키는 이유는 구조에 있습니다. 이런 모델은 "다음에 올 가장 그럴듯한 말"을 생성하도록 만들어졌습니다. 우리 공장의 실제 자재 코드, 설비 이력, 공정 관계를 아는 게 아니라, 통계적으로 그럴듯한 문장을 지어내는 것입니다. 그래서 데이터에 없는 내용도 자신 있게 말합니다. 사무실에서 보고서 초안을 쓸 때라면 오답은 한 번 고쳐 쓰면 그