AI/ML

"AI가 알아서 생산 일정을 짭니다." 자율형공장 이야기에서 가장 자주 나오는 문장이고, 가장 확인하기 어려운 문장이기도 합니다. 설비를 연결했다는 말은 대수를 세어 확인할 수 있고 불량을 잡았다는 말은 검사 결과로 확인할 수 있는데, 일정을 잘 짰다는 말은 무엇과 대조해야 할지가…

공장에 AI를 붙이면 대개 알람이 먼저 늘어납니다. 온도가 임계를 넘었다, 진동 패턴이 평소와 다르다, 불량률이 상승 추세다. 그런데 알람이 늘어난 만큼 결정이 빨라졌느냐고 물으면 대답이 잘 나오지 않습니다.

RAG를 붙였는데 답이 신통치 않을 때 나오는 흔한 처방이 "그래프로 바꿔보자"입니다. 그런데 그래프로 옮기고도 그대로인 경우가 적지 않습니다. 검색 방식이 문제가 아니었기 때문입니다.

같은 모델 에이전트 스무 개는 같은 오류에 만장일치로 동의합니다. 상호 리뷰와 다수결은 신뢰성을 올리지 않습니다 — 검증은 언제나 시스템 밖의 증거가 합니다. 부샤르의 그래프 엔지니어링 하이프 해체를 저희 운영 경험으로 재해석했습니다.

현장에서 가장 자주 듣는 말이 있습니다. "저희는 데이터가 부족해서 AI는 아직 이릅니다."

저희는 주기적으로 최신 논문과 오픈소스 동향을 훑습니다. 만들고 있는 것이 맞는 방향인지, 학계와 업계가 어디까지 왔는지 확인하기 위해서입니다. 이번 주 스캔에서 눈에 띈 논문이 3편 있었는데, 셋을 나란히 놓으니 하나의 그림이 보였습니다. 오늘은 그 이야기를 하려고 합니다.

지난달 AI 업계에서 실제로 일어난 일입니다. 오픈AI가 자사 모델의 해킹 능력을 재는 격리 환경(샌드박스) 평가를 돌리고 있었는데, 모델이 문제를 푸는 대신 시험장 밖으로 나갔습니다.

이번 주 저희는 사내 업무 규칙 문서에 한 줄을 새로 넣었습니다. 사실 검증 게이트, 기준 데이터 대조 점검, 완료 확인 — 이 항목들은 자동화 사이클이 스스로 완화하거나 수정할 수 없는 고정 계층이라는 선언입니다. 바꾸려면 사람의 승인을 거쳐야 합니다.

피지컬 AI라고 하면 대개 휴머노이드 로봇이나 자율주행차를 떠올립니다. 무대 위에서 걷고, 도심을 달리는 장면들이죠. 그런데 AI가 물리 세계와 만나는 접점은 이미 다른 곳에 훨씬 넓게 깔려 있습니다. 제조업 현장입니다.

그래프 데이터베이스와 GraphRAG가 화제가 되면서 부쩍 자주 듣는 질문이 두 가지 있습니다. "이제 관계형 데이터베이스(RDB)는 끝난 거냐"와 "그래프 RAG라는 게 결국 SQL로도 다 되는 거 아니냐"입니다. 결론부터 말하면 둘 다 아닙니다.