기업 AI 프로젝트에는 정해진 답이 없는 경우가 많습니다. 고객이 겪는 어려움부터 명확한 요구사항으로 정리되어 있지 않을 수 있고, 같은 데이터도 산업과 업무에 따라 전혀 다른 의미를 가집니다.
AI 에이전트를 만드는 일도 마찬가지입니다. LLM으로 답을 만들어내는 일 자체는 어렵지 않습니다. 하지만 기업의 중요한 의사결정과 업무에 활용하려면 그럴듯한 답이 아니라 옳은 답을 만들어야 합니다.
FDE(Forward Deployed Engineer)는 기업의 현장에 직접 들어가 문제를 정의하고 기술로 해결하는 엔지니어입니다. 인포시즈의 FDE는 고객사의 현업과 함께 문제를 발굴하고 해당 산업을 깊이 이해한 뒤 필요한 AI 기술을 구현합니다.
인포시즈 FDE 신지훈님과 기업 AI의 현장에서 마주하는 문제에 대해 이야기했습니다. FDE는 현장에서 어떻게 문제를 발견하고 산업을 이해하며, AI가 ‘옳은 답’을 만들도록 기술로 해결해 나가는지 들어봤습니다.
FDE(Forward Deployed Engineer)는 어떤 일을 하나요?
FDE는 고객의 문제를 해결하기 위해 현장에 직접 들어가는 엔지니어입니다. 문제를 발굴하고 정의하는 단계부터 직접 시작합니다. 현업 인터뷰를 진행하거나 다른 파트너사와 함께 문제를 정리하기도 합니다.
문제가 어느 정도 정리되면 해야 할 일을 구체화하고 하나씩 해결해 나갑니다. 이후 직접 시연하고 고객사 분들이 사용해본 결과를 반영하면서 만족할 수 있는 수준까지 계속 발전시킵니다. FDE의 일은 정리된 요구사항을 받아 구현하는 데서 끝나지 않습니다. 문제를 찾는 단계부터 실제 고객이 사용하는 단계까지 전 과정에 참여합니다.
개발 역량뿐만 아니라 산업에 대한 이해도 필요할 것 같습니다.
프로젝트를 시작하기 전 현업 분들과 워크숍을 진행하기도 하고 일을 하면서 모르는 부분은 계속 공부합니다. 현업 분들에게 직접 질문하면서 배우기도 하고요. 문제를 제대로 해결하려면 해당 도메인에 대해서 어느 정도 전문가가 되어야 합니다.
처음 접하는 산업이라도 현업이 어떤 방식으로 일하는지, 어떤 데이터를 중요하게 보는지 알아야 문제를 풀 수 있습니다. 각각의 데이터가 실제 업무에서 어떤 의미를 가지는지도 이해해야 하고요. FDE가 현장에 직접 들어가는 이유도 여기에 있습니다.
기억에 많이 남는 사례가 반도체 기업에서 제품 시뮬레이션 에이전트를 만든 프로젝트입니다. 어떤 제품을 많이 만들고 적게 만들지 시뮬레이션하고 원가까지 함께 시뮬레이션하는 에이전트였는데요. 반도체라는 도메인에 직접 들어가 일한다는 점도 흥미로웠지만 더 인상적이었던 건 저희가 만든 결과가 단순한 데모로만 끝나지 않았다는 점입니다. 생산과 원가처럼 기업의 중요한 의사결정과 연결되는 문제를 다뤘다보니 현장에서 만드는 AI가 실제 비즈니스에 영향을 줄 수 있다는 점을 크게 체감했던 게 기억에 남습니다.
기업에서 AI 에이전트를 실제 업무에 적용할 때 가장 어려운 문제는 무엇인가요?
LLM을 이용해 에이전트를 만들다 보면 답을 만드는 건 쉬운데 옳은 답만을 만들어내는 게 굉장히 어렵습니다. 특정 데이터를 가져오거나 값을 계산하는 업무라면 반드시 옳은 값이 나와야 합니다. LLM은 틀린 답도 만들어낼 수 있기 때문에 이런 실수를 최대한 줄이고 환각을 없애는 방법을 고민했습니다.
LLM이 SQL을 바로 만들도록 할 수도 있습니다. 하지만 현업에서 사용하는 SQL은 굉장히 복잡해서 사람이 봐도 이해하기 어렵고 디버깅하기도 쉽지 않습니다. 결과가 잘못됐을 때 왜 틀렸는지 파악하기도 어렵고요.
이 문제를 해결하기 위해 OQL(Object Query Language)이라는 온톨로지 기반의 중간 계층을 만들었습니다. 사람도 이해하기 쉽고 LLM도 이해하기 쉬운 형태로 만들어 LLM이 복잡한 SQL을 직접 생성하면서 발생하는 문제를 줄였습니다. 실제 현업에 적용했을 때는 환각률을 거의 제로에 가깝게 만들 수 있었죠. 이처럼 기업에서 AI를 활용하려면 단순히 답을 만들어내는 데서 끝나서는 안 됩니다. 정확한 답을 만들고 문제가 생겼을 때 어디에서 잘못됐는지 확인할 수 있어야 합니다.
기술의 정확성만큼 현장에 적용하는 속도도 중요할 것 같습니다.
인포시즈 솔루션을 기반으로 작업하면 속도가 굉장히 빠릅니다. 데이터베이스를 매핑하면 바로 솔루션을 적용해볼 수 있습니다. 환경이 이미 준비된 경우에는 몇 시간 만에 세팅을 끝내고 고객사에 바로 시연한 경험도 있고요.
현장에서는 실제 결과를 빠르게 보여주는 것도 중요합니다. 데이터를 연결해 작동하는 모습을 보여드리면 고객과 함께 결과를 확인하고 문제를 검증하면서 바로 다음 단계로 넘어갈 수 있어요. 이런 속도가 작업 효율뿐 아니라 고객의 신뢰를 만드는 데도 영향을 줍니다.
어려운 현장의 문제를 푸는 FDE에게 가장 필요한 역량은 무엇인가요?
결국 어떤 문제를 어떻게 풀 것인가를 잘 정리하는 능력이 중요합니다. AI가 발전하면서 새로운 도메인 지식을 얻는 과정은 예전보다 훨씬 쉬워졌습니다. 구현 과정에서도 AI의 도움을 더 많이 받을 수 있고요. 그럼에도 사람이 해야 하는 중요한 일은 남습니다. 어떤 문제를 어떻게 풀 것인지 정의하는 일인데요. 고객이 겪는 문제가 무엇인지 이해하고 그중 어떤 문제를 풀어야 하는지 정한 뒤 해결 방법을 구조화하는 역량은 앞으로 FDE에게 더 중요해질 겁니다.
고객사의 문제를 해결하다 보면 제로투원(0 to 1)으로 없던 걸 새롭게 만들어야 할 때도 있고 굉장히 어려운 문제를 만날 때도 있습니다. 이럴 때 중요한 건 문제를 회피하지 않는 태도입니다. 이미 있는 답을 적용하는 것만으로 해결되지 않는다면 새로운 방법을 찾아서라도 문제를 풀어야 합니다.
FDE가 현장에서 얻은 경험은 솔루션에 어떻게 반영되나요?
인포시즈가 솔루션을 만드는 이유 자체가 현장의 문제를 해결하기 위해서입니다. 솔루션 개발자들과 현장에서 겪은 문제를 계속 공유합니다. “현장에서는 이런 문제가 있었고, 이 부분이 솔루션에 반영돼야 한다”는 이야기를 긴밀하게 나눕니다. 기술적으로 어렵거나 도메인 이해가 필요한 문제는 CTO를 비롯한 다른 동료들과 함께 풀기도 합니다.
FDE로서 쌓은 경험을 솔루션 팀에 잘 전달해 더 좋은 솔루션을 만드는 루프가 중요하다고 봅니다. 현장에서 얻은 경험이 기술에 계속 축적되면 더 다양한 고객사의 문제를 해결할 수 있습니다.
AI 시대에 FDE의 역할이 더 중요해지는 이유는 무엇인가요?
저희가 다루는 데이터 중에는 산업적으로, 국가적으로 중요한 데이터가 많습니다. 특히 대기업 프로젝트에서는 데이터를 외부로 가져갈 수 없는 경우가 많고요. 외부로 유출할 수 없는 데이터는 기업 내부에서 정제하고 처리해야 합니다. 동시에 기업 내부 인력만으로 모든 AI 문제를 해결하기도 어렵습니다.
이런 환경에서 FDE의 수요는 앞으로 더 커질 거라고 봅니다. 고객의 환경 안으로 직접 들어가 중요한 데이터를 다루면서 기업 내부에서 해결하기 어려운 AI 문제를 함께 풀어야 합니다. 기업의 현장 안으로 들어가 문제를 발견하고, 필요한 도메인을 배우고, 정확하게 작동하는 기술을 만드는 역할. 기업 AI가 실제 업무로 들어갈수록 FDE가 필요한 이유입니다.
FDE는 기업 AI를 ‘실제 업무’로 만드는 사람입니다.
기업 AI가 실제 현장에서 작동하기까지 생각보다 많은 과정이 필요합니다. 결국 FDE가 하는 일은 기술과 현장 사이의 간극을 좁히는 일입니다. 좋은 AI 모델만으로 기업 AI가 완성되지는 않습니다. 기업의 데이터와 업무를 이해하고 현장에서 풀어야 할 문제를 정확히 정의한 뒤 기술이 실제 비즈니스에서 작동하는 순간까지 연결해야 합니다.
기업 AI의 가능성을 실제 현장의 결과로 바꾸는 일. 인포시즈의 FDE는 그 가장 가까운 곳에서 문제를 풀고 있습니다.
인포시즈와 함께 ‘옳은 답’을 만들어갈 FDE를 찾습니다.
채용 공고 확인하기