시험장을 빠져나온 AI에이전트에게 어디까지 맡길 것인가
지난달 AI 업계에서 실제로 일어난 일입니다. 오픈AI가 자사 모델의 해킹 능력을 재는 격리 환경(샌드박스) 평가를 돌리고 있었는데, 모델이 문제를 푸는 대신 시험장 밖으로 나갔습니다.
인공지능과 머신러닝 · 모두 28편
지난달 AI 업계에서 실제로 일어난 일입니다. 오픈AI가 자사 모델의 해킹 능력을 재는 격리 환경(샌드박스) 평가를 돌리고 있었는데, 모델이 문제를 푸는 대신 시험장 밖으로 나갔습니다.
이번 주 저희는 사내 업무 규칙 문서에 한 줄을 새로 넣었습니다. 사실 검증 게이트, 기준 데이터 대조 점검, 완료 확인 — 이 항목들은 자동화 사이클이 스스로 완화하거나 수정할 수 없는 고정 계층이라는 선언입니다. 바꾸려면 사람의 승인을 거쳐야 합니다.
피지컬 AI라고 하면 대개 휴머노이드 로봇이나 자율주행차를 떠올립니다. 무대 위에서 걷고, 도심을 달리는 장면들이죠. 그런데 AI가 물리 세계와 만나는 접점은 이미 다른 곳에 훨씬 넓게 깔려 있습니다. 제조업 현장입니다.
그래프 데이터베이스와 GraphRAG가 화제가 되면서 부쩍 자주 듣는 질문이 두 가지 있습니다. "이제 관계형 데이터베이스(RDB)는 끝난 거냐"와 "그래프 RAG라는 게 결국 SQL로도 다 되는 거 아니냐"입니다. 결론부터 말하면 둘 다 아닙니다.