AI 기술은 점점 좋아지는데, 왜 조직 성과는 그대로일까?

AIDP를 운영하며 자주 듣는 고민이 있습니다. 회사는 이미 여러 AI 솔루션을 쓰고 있습니다. 문서도 AI로 정리하고, 회의록도 AI가 받아 적고, 개발팀은 코딩 도구를 붙여 놓았습니다. 개인 단위로 봐도 생산성이 많이 늘었습니다. 저만 해도 AI를 쓰기 시작한 뒤 일하는 속도가 체감상 15~20% 정도 올랐고, 개발자들은 최소 서너 배가 빨라졌다고들 말합니다

그런데 그 변화를 다 더해도 회사의 숫자는 잘 움직이지 않습니다. 도구 목록은 해마다 길어지는데 손익계산서에서는 흔적을 찾기 어렵습니다. AI 기술은 점점 좋아지는데, 왜 조직 성과는 그대로일까요?

AI은 원유일 뿐, 정제가 가치를 만든다

우리가 실제로 쓰는 것은 모델 자체가 아닙니다. LLM과 GPT의 관계를 생각해보면 이해가 쉬우실 겁니다. LLM을 모델로 사용하지만, 결국 우리가 쓰는 부분은 최신 모델 위에 수많은 판단과 흐름이 얹힌 '소프트웨어'입니다. 사람들이 값을 치르는 대상은 모델이 아니라 소프트웨어인 셈입니다.

땅에서 막 나온 상태의 원유로는 아무것도 하지 못합니다. 정제해서 휘발유가 되고 나프타가 되어야 값이 붙습니다. AI도 같습니다. 잠재력은 크지만 그 자체로 성과가 되지는 않습니다. 고객 경험이나 업무 흐름에 실제로 닿는 형태로 정제되어야 비로소 값이 됩니다.

여기서 앞의 역설이 풀립니다. 개발 생산성이 서너 배로 올랐다는 것은 원유가 더 많이 나온다는 뜻입니다. 하지만 정제되어 나오는 양은 그만큼 늘지 않았습니다. 비슷하거나 조금 더 많은 정도입니다.

코드를 빨리 만드는 일과, 그 코드가 고객 가치로 바뀌는 일은 다른 종류의 일입니다. 무엇을 만들지 정하는 일, 구조를 잡는 일, 쓰는 사람의 동선을 설계하는 일, 사업 논리를 코드로 옮기는 일의 난이도는 예전 그대로입니다. 원유가 늘어난 만큼 정제 능력이 따라 늘지 않으면, 남는 것은 쌓인 원유뿐입니다.

엔비디아의 젠슨 황은 "AI는 당신을 대체하지 않는다, AI를 활용하는 다른 사람이 당신을 대체한다"고 말했습니다. 여기에 한 단계를 더 붙일 수 있습니다. 당신을 대체하는 것은 AI로 만들어진 소프트웨어와, 그것을 제대로 쓰는 사람입니다.

‍

정제 공장은 사다 쓸 수 없다

그럼 정제를 잘하는 회사에서 사 오면 되지 않을까요. 이미 그렇게 하고 계실 겁니다. 문제는 사 온 것으로 메워지지 않는 자리가 있다는 데 있습니다.

1) 솔루션은 우리 회사를 100% 이해하지 못한다

연 매출 50억 원, 인원 20명 정도까지는 잘 만들어진 솔루션을 잘 고르는 것만으로 충분합니다. AI 덕분에 선택지가 빠르게 늘고 수준도 올라가고 있어서, 그 규모에서는 시장의 변화를 그대로 누릴 수 있습니다.

그런데 그 선을 넘어선 회사는 사정이 다릅니다. 일정 규모까지 살아남은 회사는 예외 없이 자기만의 방식을 갖고 있습니다. 견적을 내는 순서, 재고를 잡는 기준, 클레임이 들어왔을 때 도는 경로들. 이런 것들이 경쟁우위의 실체입니다. 치열한 시장에서 그 방식으로 버텨왔기 때문에 지금 남아 있는 것입니다.

시장에 나와 있는 '솔루션'은 표준화된 기능과 제한된 범위의 설정만 제공합니다. 인사나 회계처럼 어느 회사에서나 비슷하게 도는 영역이라면 그것으로 충분히 좋아집니다. 하지만 우리 회사의 경쟁력은 표준 기능으로 대체되지 않습니다. 경쟁우위는 남들과 같은 기능이 아니라 우리만의 일하는 방식에서 나오기 때문입니다.

결론은 하나로 모입니다. 일정 규모를 넘은 회사가 AI로 조직 성과를 움직이려면, 우리만의 소프트웨어를 직접 갖는 것이 최선입니다.

2) 소프트웨어 구축 50%가 실패하는 현실

여기서 멈추면 좋은 이야기로 끝나겠지만, 실제 문제는 그다음에 발생합니다. 이 일은 돈을 쓴다고 성과가 따라오는 종류가 아닙니다. 제가 지금까지 지켜본 프로젝트들을 놓고 보면, 투자 대비 성과라는 잣대로 판정했을 때 절반 이상은 실패합니다.

기술이 어려워서만은 아닙니다. 바꾸자는 말에 대한 조직의 거부감, 끝까지 정리되지 않는 요구사항, 여기저기 흩어져 합쳐지지 않는 데이터까지. 실패의 이유는 대개 기술 바깥에 있습니다. 그래서 지금 필요한 질문은 어떻게 성공하느냐가 아닙니다. 어떻게 하면 실패하지 않느냐입니다.

3) 빨라진 것은 만드는 속도지 고르는 눈이 아니다

절반이 멈추는 지점을 조금 더 들여다보겠습니다. 코딩 도구가 좋아지면서 만드는 속도는 확실히 빨라졌습니다. 그런데 빨라진 것은 만드는 속도이지 고르는 눈이 아닙니다. 넣은 것이 엉망이면 나오는 것도 엉망이라는 오래된 원칙은, 속도가 붙은 지금 오히려 더 무겁게 작동합니다.

기대하는 결과를 명확히 하지 않고 방향과 단계를 잡아주지 않은 채 속도만 올리면, 그럴듯해 보이지만 아무도 쓰지 않는 물건이 나옵니다. 쓰이지 않는 기능은 잔뜩 붙어 있고, 화면은 최악은 아닌데 무엇을 하라는 것인지 이해가 되지 않고, 정작 핵심 기능의 품질은 기대에 못 미치는 결과물입니다.

요즘 프로젝트를 하다 보면 이런 장면도 봅니다. 고객이 방향이 틀렸다고 말하면, 만든 것을 처음부터 끝까지 두세 번씩 뒤엎습니다. 예전보다 비용 부담이 줄었으니 가능해진 일이지만, 결국 걸리는 시간은 비슷하고 고객 쪽 답답함만 커집니다. 사람을 뽑아서 하든 밖에 맡기든 마찬가지입니다. 빨라진 만큼 잘못된 것도 빨리, 많이 만들어집니다.

‍

AX의 시작, 실패하지 않는 소프트웨어 실행 방법

아무리 빨리 만들어도 현업에서 실제로 쓰이지 않으면 전시품일 뿐입니다. 그 갈림길에서 결과를 가르는 것은 결국 누구와 함께 하느냐입니다. 파트너 선정 과정에서 확인해야 할 것 세 가지를 말씀드리겠습니다.

1) 계약 전에 결과물을 본다

먼저 속도를 어디에 쓸 것인가입니다. 2022년 말 이후 개발 생산성이 서너 배 올랐다는 데는 이 일을 하는 사람 대부분이 동의할 것입니다. 그때 석 달이 걸리던 프로젝트가 이제 한 달이면 됩니다. 더 중요한 변화는 높은 개발 비용이라는 진입장벽이 거의 무너졌다는 점입니다. AIDP의 예시 화면을 잠시 보여드리겠습니다.

실제로 위와 같은 아키텍처와 기능 기획만 나오면 아래와 같은 소프트웨어를 3~7일 내에 만들 수 있습니다.

이것은 곧 계약서에 서명하기 전에 결과물을 먼저 확인할 수 있다는 뜻입니다. 확인해야 하는 시대라고 말하는 편이 정확하겠습니다. 두꺼운 제안서로 가능성을 설득받고, 업무 혁신 과제를 몇 달간 선행한 뒤에 개발을 시작하던 방식은 이제 유효하지 않습니다.

순서를 바꾸는 편이 낫습니다. 작게 만들어보고, 써보고, 고치는 쪽으로 옮기는 것입니다. 실현될지 알 수 없는 계획서를 기다리는 것보다, 실제로 도는 물건을 먼저 보고 판단하는 편이 빠르고 정확합니다.

2) 요구사항을 받아 적는 곳인가, 만들어주는 곳인가

다음은 상대의 성격입니다. 제가 만나본 개발사와 개발자의 대부분은 정해진 대로 만듭니다. 기획서가 오면 기획서대로, 설계가 오면 설계대로 구현합니다. 컨설팅 회사가 아니라 개발 회사이니 어찌 보면 당연한 일입니다. 특별히 잘못한다기보다, 늘 하던 방식대로 하는 것입니다.

그래서 요구사항을 구체화하고, 더 나은 방법을 제안하고, 전체 일정과 범위를 짜고, 중간 지점을 어디에 둘지 정하는 일에는 익숙하지 않습니다. 문제는 앞에서 말씀드린 대로, 그 일을 해주는 쪽이 없으면 좋은 소프트웨어가 나오지 않는다는 데 있습니다. AI 도입이 자주 어긋나는 이유가 여기 있습니다. 함께 문제를 정의할 상대가 필요한 자리에 단순 용역을 맡기고 있는 것입니다.

그렇다면 앞단에서 제대로 된 설계를 맡아줄 파트너를 어떻게 판별할까요. 저는 업무를 총괄할 팀장을 뽑는다고 생각하고 보시라고 권합니다. 면접에서 어떤 질문을 던져야 할까요? 저는 3가지를 권합니다.

• 우리 사업이 어떻게 돌아가고 어디서 돈을 버는지 이해하고 있는가
• 시킨 일을 하는가, 문제 자체를 해결하려 하는가
• 한 번 하고 끝날 관계인가, 함께 성장할 수 있는 관계인가

3) 쉬운 문제를 풀어본 곳인가, 어려운 문제를 풀어본 곳인가

마지막은 어떤 문제를 풀어봤는가입니다. AI 전환은 회계나 인사 같은 공통 기능이 아니라 회사의 핵심 흐름에서 일어나야 의미가 있습니다. 제품을 개발하고 알리는 일, 팔고 실어 나르고 대금을 걷는 일, 사들이고 재고를 쥐고 값을 치르는 일, 만들고 원가를 계산하는 일, 그리고 그 전부를 숫자로 읽는 일 말입니다.

앞서 말씀드렸듯 매출 50억 원이나 인원 30명을 넘어선 회사는 이 줄기에서 저마다 다른 방식을 갖고 있습니다. 그 다름이 곧 생존과 이익의 근거입니다. 일반적인 솔루션이나 소비자용 서비스만 만들어본 곳은 이 줄기를 소프트웨어로 옮기기 어렵습니다. 옮기는 일 자체가 하나의 커다란 문제이고, 그 문제를 풀어본 경험이 있어야 확률이 올라갑니다.

그러니 누구나 떠올릴 수 있는 결과물만 만들어본 곳이 아니라, 그 회사만의 까다로운 문제를 실제로 풀어본 곳을 찾으셔야 합니다.

‍

‍마치며

정리하겠습니다.

개인은 확실히 빨라졌는데 회사는 그대로인 이유는, 바뀌는 주체가 AI가 아니라 소프트웨어이기 때문입니다. AI는 원료이고, 정제해야 값이 됩니다. 사 온 솔루션은 표준화된 일까지만 해주니, 일정 규모를 넘은 회사라면 자기 소프트웨어를 갖는 것이 곧 경쟁력입니다.

다만 그 길은 실패하기 쉬운 길입니다. 그래서 만드는 속도보다 고르는 눈이 먼저입니다. 함께 진행할 파트너를 제대로 선택해야 합니다. 계약 전에 결과물을 확인하고, 요구사항을 함께 만들어줄 상대인지 보고, 어려운 문제를 풀어본 상대인지 확인하는 것. 여기에 쓰는 시간이 프로젝트 전체를 구합니다.

AI 시대의 승자는 AI를 가진자가 아니라, AI로 만든 훌륭한 자체 소프트웨어를 가진 자입니다. 그것이 AI 시대 우리 회사가 변화하지 못하는 이유이자, 나아가야 할 방향입니다. AI의 발전과 파급력 그리고 변하지 않는 조직 성과 사이에 고민하고 계신 분들께 이 글이 작게나마 도움이 되기를 바랍니다.

‍