지난주, 한 글로벌 컨설팅펌의 AI센터장님이 경영자 대상 강연에서 이런 말을 했습니다. "C-레벨 분들이 저를 만나면 가장 먼저 묻는 질문이 있습니다. '어떤 LLM이 좋아요?', '온프레미스가 좋아요, 클라우드가 좋아요?' 그런데 정작 AX로 성과를 낸 회사들은 이런 질문부터 하지 않았습니다." 그가 던진 진짜 질문은 따로 있었습니다. "당신 회사 비즈니스의 본질은 무엇입니까? 그리고 AI는 그것을 어떻게 전환시킬 수 있습니까?" 우리 조직은 지금, 어느 쪽의 질문을 더 자주 하고 있을까요?

수백억을 들였는데, ROI는 측정조차 안 됩니다. 
국내 한 그룹사가 몇백억 원을 들여 생성형 AI 플랫폼을 구축했습니다. 마케팅 콘텐츠 생성, 면접 질문지 작성, 카드 상담, 경영 데이터 리뷰까지. 업계 최초의 사례로 보도되며 화제가 됐죠.
그런데 두 달 뒤, 그 회사는 다시 '데이터 플랫폼 사업'에 착수합니다. 현업이 AI 에이전트를 잘 쓰지 않았기 때문입니다.

이유는 두 가지였습니다. 첫째, AI와 사람의 업무 분담 설계가 어긋났습니다. 현업의 반응은 "이걸 왜 이렇게 만들었지? AI가 이걸 해주고 사람이 이걸 해주면 정말 좋았을 텐데"였습니다. 둘째, 만들어진 AI들이 회사에 돈을 벌어다 주지 않았습니다. 직원들의 업무는 편해졌지만, 정작 경영진이 기대했던 "0.1%라도 수익을 높여주는 AI"는 없었습니다.

KPMG 보고에 따르면 글로벌 CEO의 97%가 AI 도입이 필요하다고 답했고, 87%가 향후 1년 내 AI 투자를 확대하겠다고 답했습니다. 하지만 같은 조사에서 AI에서 기대했던 ROI를 달성한 비율은 25%에 불과했습니다. 4곳 중 1기만이 AX에 성공한 것입니다. 

무엇이 그 차이를 만들까요?

성공한 글로벌 기업들의 공통 출발점 

글로벌 선도 기업들은 이미 다음 단계로 넘어갔습니다.
맥킨지는 올해 1월, "우리는 6만 명의 컨설턴트가 아니라 3만 5천 명의 컨설턴트와 2만 5천 개의 AI 에이전트로 일한다"고 발표했습니다.
JP모건체이스는 AI 분야에 20억 달러를 투자해 600개 이상의 Use Case를 운영 중이며, 고객 대응 속도 95% 개선, 15억 달러 사기 손실 예방이라는 구체적 성과를 공개했습니다.
DBS 은행은 전사 AI/ML 활용 사례 370건, 모델 1,500개 이상을 운영하며 10억 달러 규모의 경제적 가치를 창출했다고 보고했습니다. 비결은 '비즈니스 가치 실현 가능성'과 '사용성' 기반의 우선순위 선정이었습니다.

이 회사들이 가진 공통점은 무엇일까요. 강연자는 다음과 같이 정리합니다.

성공한 회사들은 'How'가 아니라 'Why'에서 출발했습니다. 

강연자는 컨설팅 현장에서 만난 회사들을 세 부류로 나눕니다.

첫 번째는 'How'에 매몰된 회사입니다. "어떤 LLM이 좋아요?", "온프레미스가 좋아요, 클라우드가 좋아요?" 기술 선택에 매달리지만 정작 어디에 쓸지는 모호합니다.

두 번째는 'What'에 집중하는 회사입니다. "AI를 어디에 붙여서 돈을 더 벌고 비용을 절감할 수 있죠?" 적용 영역은 고민하지만, 그 영역이 회사의 본질적 가치와 어떻게 연결되는지는 묻지 않습니다.

세 번째가 강연자가 가장 인상 깊었다고 말한 회사입니다. 매출 2,000억 원대 중견기업이었는데, AI 컨설팅을 의뢰하면서 LLM 이야기는 한마디도 꺼내지 않았습니다. 대신 이렇게 물었습니다.

  "우리 회사 비즈니스의 본질은 무엇이라고 생각합니까?
   그리고 AI가 그것을 어떻게 전환시킬 수 있습니까?"

이 회사는 영업, 구매, 생산, 물류 각 영역마다 자사의 경쟁 우위가 무엇인지, AI로 그것을 어떻게 강화할 수 있는지를 먼저 질문했습니다. Why(기업가치) → What(업무) → How(AI/Data) 순서로 답을 구해 나간 것이죠.

그렇다면 'Why'는 어떻게 찾을 수 있을까요 

기업 가치를 높이는 AI를 만들려면, 그 출발점은 결국 고객입니다. 우리 회사가 어떤 고객에게, 어떤 가치를 제공하는 조직인지를 명확히 알아야 'AI로 그 가치를 어떻게 더 키울 것인가'라는 질문도 가능해집니다.

하지만 많은 조직에서 이 단계가 가장 약합니다. AI 과제를 발굴할 때 흔히 벌어지는 일이 있습니다. 똑똑한 현업들을 모아 TF를 꾸리고, 비싼 컨설턴트를 붙여 워크숍을 합니다. 그렇게 뽑힌 AI 과제 중 하나가 '주변 맛집 찾기' 같은 것이었다는 사례가 있을 정도입니다. 기술도 있고, 인력도 있고, 예산도 있는데 정작 "고객의 어떤 문제를 풀 것인가"라는 질문이 빠져 있었던 겁니다.

이 지점에서 디자인 씽킹이 가진 힘이 드러납니다.
디자인 씽킹은 고객을 깊이 관찰하고(Empathize), 진짜 문제를 정의하고(Define), 다양한 해결책을 발산한 뒤(Ideate), 빠르게 프로토타이핑(Prototype)하고 테스트(Test)하는 5단계의 문제해결 방법론입니다. 핵심은 '기술이 할 수 있는 것'에서 출발하지 않고, '고객이 진짜로 겪고 있는 문제'에서 출발한다는 점입니다.

단순히 기술을 내부에 이식하는 'Inside-out'이 아니라, 고객의 진짜 문제에서 출발하는 'Outside-in' 관점. 이것이 결국 ROI를 가르는 결정적 차이입니다.

AX 맥락에서 이 접근이 왜 중요할까요?
질문이 바뀌기 때문입니다. "AI를 어디에 적용할까?"가 아니라 "우리 고객의 어떤 페인 포인트를 AI로 풀 수 있을까?"로 출발점이 옮겨갑니다. 그러면 막연한 '효율화' 대신 고객 경험과 직접 연결된 Use Case가 손에 잡힙니다. 무엇보다 현업, 경영진, 개발자가 비로소 같은 언어로 대화하기 시작합니다.

피플앤인사이트가 이전 뉴스레터에서 다뤘던 '데이터는 쌓이는데 왜 인사이트는 안 보일까'라는 질문도 결국 같은 맥락에 있습니다. 데이터가 아무리 많아도, 고객을 깊이 이해하려는 관점이 없으면 인사이트는 나오지 않습니다. AI도 마찬가지입니다. 도구가 아무리 좋아도, 고객의 문제에서 출발하지 않으면 가치는 만들어지지 않습니다.

우리 조직은 지금, 어떤 질문에서 출발하고 있나요 

강연자는 마지막에 이렇게 정리했습니다.

  "AX는 한마디로 요약하면, 기업 가치를 높이기 위한 답을 구하는 과정입니다."

AI 기능은 계속 발전합니다. 사람보다 못하는 영역은 빠르게 줄고 있습니다. 그러나 그 기술을 무엇을 위해, 누구를 위해 쓸 것인가는 여전히 사람이 답해야 할 질문입니다.

지금 우리 조직의 AI 회의에서 가장 자주 나오는 질문은 무엇인가요?

"어떤 모델을 도입할까요?"인가요, 아니면 "우리 고객은 지금 무엇 때문에 불편해하고 있나요?"인가요?

질문이 바뀌면, 답도 바뀝니다.

 인사이트를 찾는 여정, 디자인 씽킹으로 시작하십시오
많은 기업이 피라미드 하단에서 정체되어 있을 때, 디자인 씽킹을 장착한 조직은 피라미드 꼭대기의 인사이트를 선점하여 압도적인 비즈니스 가치를 만들어냅니다. 
(📎함께 읽어보세요: 왜 시장은 이들에게 더 높은 몸값을 매기는가 - 혁신의 언어)

AI 시대에 더 필요한 사람에 대한 인사이트,
우리 조직의 체질을 '인사이트 창출'로 바꾸고 싶다면, 지금 디자인 씽킹의 문을 두드리세요.