웨이스는 VEXPLOR에서 AI가 자신 없는 불량 판정을 어떻게 사람에게 넘기는가자신 있는 오답을 줄이는 3가지 장치
공장 AI가 가장 위험해지는 순간은 틀릴 때가 아니라 틀린 답을 자신 있게 낼 때입니다. 흔한 불량은 학습한 사례가 많아 잘 맞히지만, 몇 달에 한 번 나오는 불량은 사례가 적어 엉뚱한 답이 나오기 쉽습니다.
이 태그가 붙은 글 · 모두 2편
공장 AI가 가장 위험해지는 순간은 틀릴 때가 아니라 틀린 답을 자신 있게 낼 때입니다. 흔한 불량은 학습한 사례가 많아 잘 맞히지만, 몇 달에 한 번 나오는 불량은 사례가 적어 엉뚱한 답이 나오기 쉽습니다.
새벽 3시에 알람이 울립니다. 야간 당직자가 부스스 일어나 설비실로 뛰어갑니다. 가 보니 멀쩡합니다. 진동값이 잠깐 임계치를 살짝 넘었다가 바로 내려간 거예요. 거짓 경보였던 거죠. 이런 일이 한 주에 서너 번 반복되면 어떻게 될까요. 사람은 알람을 점점 안 믿게 됩니다. "또 그거겠지" 하고 끄고 다시 잡니다. 그…