새로운 기술의 단점을 찾는 이들에게

새로운 기술이 등장하면 우리는 먼저 단점을 찾습니다.

정확하지 않다. 기존 방식보다 불편하다. 아직 믿을 수 없다. 검증이 부족하다.

물론 새로운 기술을 무조건 받아들일 필요는 없습니다. 하지만 저는 오랫동안 제조업에서 새로운 기술이 현업에 적용되는 과정을 지켜보면서 한 가지 의문을 갖게 됐습니다.

우리는 새로운 기술에 기존 기술보다 지나치게 높은 수준의 완벽함을 요구하고 있는 것은 아닐까?

최근 AI를 둘러싼 논쟁을 보면서 예전에 시뮬레이션을 현업에 적용할 때 겪었던 일들이 자주 떠오릅니다.

AI는 틀린다. 그런데 사람은?

AI를 비판할 때 빠지지 않고 등장하는 것이 할루시네이션(Hallucination)입니다.

AI가 사실이 아닌 내용을 그럴듯하게 이야기하는 현상입니다. 저도 가끔 정말 말도 안 되는 내용을 너무 자신 있게 이야기하는 AI를 보면서 당황합니다.

그런데 한편으로는 이런 생각도 듭니다.

누군가에게 갑자기 자신이 잘 모르는 분야에 대해 물어보면 사람은 얼마나 정확하게 대답할까요?

그 업무를 계속 담당해 온 전문가가 아니라면 정확하게 기억하지 못하는 경우가 많습니다. 모른다고 말하는 사람도 있지만, 자신이 기억하는 몇 가지 사실과 경험을 조합해서 상당히 그럴듯한 답을 만들어 내는 사람도 있습니다.

말하자면 '의욕적으로 오답을 이야기하는 사람'입니다.

그렇다면 AI가 틀린 답을 한다는 사실만으로 AI라는 도구 자체를 평가하는 것이 적절한가 하는 의문이 생깁니다.

AI가 틀릴 수 있다는 것을 알고 중요한 내용은 검증하면 됩니다. 오히려 중요한 것은 어떤 일을 맡길 수 있고, 어떤 결과는 반드시 확인해야 하는지를 배우는 것 아닐까요?

20년 전에도 비슷한 이야기를 들었다

이런 생각을 하게 된 데에는 제 업무 경험도 영향을 미쳤습니다.

제조업에서 일하면서 거의 20여 년 동안 반복해서 접했던 주제 중 하나가 시뮬레이션을 어떻게 하면 현업에 더 많이 활용할 수 있을까였습니다.

그때마다 자주 들었던 이야기가 있습니다.

"해석은 정확하지 않다."
"시험 결과와 맞지 않는다."
"시간이 너무 오래 걸린다."

물론 틀린 지적은 아닙니다.

그런데 저는 그럴 때마다 반대쪽에도 질문을 해보고 싶었습니다.

"그러면 시험은 정말 정확한가?"

 

우리는 흔히 실제 시험에서 나온 숫자를 정답이라고 생각합니다.

하지만 시험 역시 시제의 편차가 있고, 측정 장비와 방법에 따른 차이가 있습니다. 온도나 습도 같은 환경 조건도 영향을 미치고 시험을 수행하는 조건에 따라서 결과가 달라질 수도 있습니다.

반면 시뮬레이션은 동일한 모델에 동일한 조건을 적용하면 동일한 결과를 냅니다.

물론 그것이 현실과 일치한다는 뜻은 아닙니다. 잘못된 조건을 입력하면 일관되게 잘못된 결과가 나올 수도 있습니다.

여기서 중요한 것은 시험과 시뮬레이션 중 어느 쪽이 더 정확한지를 가리는 것이 아닙니다.

시험에는 시험의 불확실성이 있고 시뮬레이션에는 시뮬레이션의 한계가 있습니다.

중요한 것은 그 특성을 이해하고 어디까지 믿고, 어디에 활용할 것인가입니다.

새로운 기술에만 완벽함을 요구하는 것은 아닐까

AI와 시뮬레이션은 전혀 다른 기술입니다.

그런데 새로운 기술을 받아들이는 과정에서는 묘하게 비슷한 모습을 보입니다.

기존 방식의 오류와 불편함에는 익숙합니다.

시험 결과가 이상하면 다시 시험하고, 측정값이 흔들리면 조건을 확인합니다. 사람의 판단이 틀리면 다른 사람에게 물어보거나 자료를 다시 찾아봅니다.

우리는 이미 기존 방식의 오류를 다루는 방법을 알고 있기 때문입니다.

반면 새로운 기술의 오류는 낯설기 때문에 훨씬 크게 느껴집니다.

AI가 한 번 엉뚱한 답을 하면 "역시 AI는 믿을 수 없다"고 하고, 시뮬레이션 결과가 시험과 다르면 "역시 해석은 안 맞는다"고 합니다.

하지만 질문을 조금 바꾸면 이야기가 달라집니다.

"이 기술은 정확한가?"가 아니라
"이 기술의 한계를 알고도 얻을 수 있는 것이 무엇인가?"

 

저는 이 질문이 새로운 기술을 평가할 때 훨씬 중요하다고 생각합니다.

틀릴 수 있다는 것과 쓸모없다는 것은 다르다

어떤 기술이 틀릴 수 있다는 사실은 중요한 정보입니다.

하지만 그것이 곧 쓸모없다는 뜻은 아닙니다.

AI의 답을 그대로 믿어서는 안 되는 업무가 있는 반면, 아이디어를 정리하고 초안을 만들고 여러 가능성을 빠르게 탐색하는 일에서는 상당한 도움을 받을 수 있습니다.

시뮬레이션 역시 모든 시험을 없애기 위해 사용하는 것이 아니라, 수많은 설계안을 실제로 제작하기 전에 가능성을 좁히고 문제를 미리 발견하는 데 큰 가치가 있습니다.

결국 핵심은 완벽한 도구를 찾는 것이 아니라 불완전한 도구를 제대로 사용하는 능력에 있다고 생각합니다.

먼저 써 본 사람에게는 경험이 쌓인다

새로운 기술이 충분히 성숙할 때까지 기다리는 것도 하나의 선택입니다.

그때가 되면 성능은 좋아지고 사용법도 쉬워지며 실패할 가능성도 줄어들 것입니다.

하지만 기다리는 동안 먼저 사용해 본 사람들에게는 다른 것이 쌓입니다.

경험입니다.

어디에서 잘 작동하는지, 어디에서 틀리는지, 무엇을 검증해야 하는지, 기존 방식과 어떻게 조합해야 하는지를 몸으로 배우게 됩니다.

기술 자체의 격차는 시간이 지나면 줄어들 수 있습니다.

하지만 먼저 사용하면서 축적한 경험의 격차는 생각보다 쉽게 줄어들지 않습니다.

그래서 저는 새로운 기술을 만날 때 "이게 정말 맞아?"라는 질문만 반복하기보다 한 가지 질문을 더 해보려고 합니다.

"지금 수준에서도 내가 먼저 써볼 수 있는 것은 무엇일까?"

 

완벽해진 뒤에 시작하는 것보다, 불완전할 때부터 한계를 이해하며 사용해 보는 것.

AI 시대에 뒤처지지 않는 방법도 결국 거기에서 시작하지 않을까 생각합니다.

 

새로운 기술의 오류를 지적하는 것보다, 그 오류를 이해하고 먼저 활용하는 법을 배우는 것이 더 중요한 경쟁력이 될 수 있습니다.