딥시크(DeepSeek)가 지난 1월 R-1 AI 모델을 출시한 뒤 AI 시장 변화가 본격화하고 있다. 오픈AI(OpenAI), 알파벳(Alphabet), 메타(Meta) 같은 주요 모델 개발사들이 주춤하면서 미국 기술주 가치는 한때 1조 달러 이상 하락했다. 딥시크는 자사 추론 모델이 오픈AI의 기존 제품과 비슷한 성능을 보이면서도 2배 빠른 속도로 작동하며, 비용은 10%에 불과하다고 소개했다.
모델 개발, 취약점 등 논란은 있지만, 딥시크는 AI 모델 상용화 시기를 크게 앞당겼다. 이는 특히 기업용 소프트웨어 개발자가 혁신을 촉진할 기회일 수 있다. CIO에게는 벤더가 제공하는 더 많은 AI 제품을 고려하고 평가할 수 있는 기회가 생겼으며, 사내 AI 역량을 구축하는 데 필요한 진입 장벽도 낮아지고 있다.
더 저렴하고, 더 나은, 더 빠른 속도
지난 50년간 디지털 혁신의 역사는 더 강력한 시스템과 저렴한 비용으로 요약할 수 있다. 반도체 칩 기술의 빠른 발전 속도를 다룬 ‘무어의 법칙’은 그간 마이크로프로세서뿐만 아니라 컴퓨팅 혁명의 다른 핵심 요소에도 적용됐다. AI도 지난 10년간 이런 추세를 따랐고, 2022년 챗GPT 출시 이후 그 속도가 급속도로 빨라졌다. 기술 기업가이자 AI 전문가인 아짐 아자르는 “2023년 3월에 출시된 오픈AI의 GPT-4는 백만 토큰당 36달러의 운영 비용이 들었지만, 딥시크는 비슷한 성능을 0.14달러로 제공한다”라고 말했다.
현재 허깅페이스(Hugging Face) 포털에 등록된 오픈소스 AI 모델만 해도 100만 개가 넘는다. 특히 애플리케이션 부문의 혁신이 이뤄지고 있는데, 딥시크가 그 추세를 한 단계 더 끌어올리고 있다. 올해는 업계의 관심이 기존 모델 개발사에서 이런 저비용 혁신 환경을 활용해 비즈니스 애플리케이션을 구축하는 기업으로 옮겨갈 것으로 예상된다.
PC 운영체제(마이크로소프트), 검색(구글), 소셜 미디어(메타)와는 달리, 아직 단일 모델 개발사가 AI의 발전 방향을 좌우할 조짐은 나타나지 않았다. 아이디파트너 시스템즈(IDPartner Systems)의 설립자이자 CEO인 로드 부스비는 “오픈AI가 지금까지 핵심적인 모델 개발사였지만, 그조차도 단위 혁신만을 제공했다. 마이크로소프트, 메타, 구글 역시 네트워크 효과를 활용해 모든 시스템 사용자에게 이익이 되는 시스템 혁신을 이뤘다”라고 설명했다. 이제 소프트웨어 개발자와 사용자는 안정적이고 널리 사용되는 PC 운영체제의 혜택을 누리고, 웹사이트 운영자는 주요 검색 엔진에 맞춰 사이트를 최적화할 수 있으며, 구글, 인스타그램, 페이스북 사용자는 수백만 명의 다른 구독자와 연결하고 팔로우할 수 있다. 부스비는 “오픈AI가 사람들이 상호작용하고 이익을 얻을 수 있는 포럼을 만들지 않는 한, 쉽게 대체될 수 있는 여러 모델 공급사 중 하나로 남을 가능성이 높다”라고 진단했다.
조직에 AI 구축하기
모델 비용이 감소하고 AI의 가치가 애플리케이션 계층으로 이동함에 따라, 기업은 서드파티 또는 자체 개발한 비즈니스 솔루션에서 더 많은 선택권을 갖게 될 전망이다. 적절한 자원을 보유한 CIO라면 내부 애플리케이션 개발이 더 현실적인 제안일 수 있다. 이는 기업에 고유한 복잡한 비즈니스 프로세스의 맥락에서 더 매력적이다. 모델 운영 비용이 거의 0에 가까워짐에 따라 ROI 산출 방식이 극적으로 변화하기 때문이다. 포레스터 리서치(Forrester Research)는 딥시크와 같은 고효율 모델을 PC에서 로컬로 실행할 수 있게 됨에 따라 기업이 이를 조직 전체에 배포할 수 있는 새로운 엣지 인텔리전스 시대가 열리고 있다고 분석했다.
디지털 트랜스포메이션 전문기업 키스톤(Keystone)의 코어AI 대표 데베시 미쉬라는 “AI의 진정한 가치는 더 큰 모델을 구축하는 것이 아니라, 그 위에서 혁신하고 효율적으로 구현하는 것이다. 파운데이션 모델의 발전과 심도 있는 비즈니스 및 운영 전문성을 결합하는 기업이 AI ROI의 다음 단계를 이끌 것”이라고 진단했다.
또한 점점 더 많은 벤더가 사내 개발팀과 경쟁하게 되면서, 산업 분야와 특정 문제 및 요구 사항에 대한 이해도가 성공을 좌우할 가능성이 높다. AI의 잠재력이 많은 비즈니스 프로세스의 변화를 가져온다면, 여러 기성 솔루션이 무의미해질 수 있다.
아자르는 이런 변화가 AI 에이전트에 있어 특히 두드러질 것이라고 봤다. 딥시크와 같은 시스템이 초당 250개의 토큰을 처리할 수 있게 되면서 실시간 AI가 현실화하고 있으며, 이런 환경에서 AI 에이전트는 사람보다 50~100배 더 빠르게 서로 통신할 수 있다. CIO는 모든 비즈니스 부문은 물론 벤더, 고객과의 관계에서도 이 기술의 도입을 신중하게 검토해야 한다는 압박을 받을 가능성이 높다. 이런 상황에서 가트너가 제시한 AI 로드맵은 기술, 인적 자원, 데이터, 전략적 요소를 통합적으로 고려해 경영진의 의사결정을 돕는 유용한 지침이 될 수 있다.
벤처캐피털 기업 안드레센 호로위츠(Andreessen Horowitz)의 임원이자 넷스케이프(Netscape)의 설립자인 마크 안드레센은 10여 년 전 디지털 트랜스포메이션을 논하며 “소프트웨어가 세상을 잠식하고 있다”라고 말한 바 있다. 현재 많은 비즈니스 프로세스와 거래가 소프트웨어에 의해 자동으로 처리되는 현실은 그의 통찰이 타당했음을 보여준다. 다만 변화는 안드레센을 비롯한 많은 전문가의 예상보다 더디게 진행됐다. 지난 몇 년간 다양한 형태의 AI가 부상하고, 특히 딥시크의 R-1 모델이 혁신적으로 등장하면서 디지털 트랜스포메이션 속도에도 변화의 조짐이 나타나고 있다.
dl-ciokorea@foundryco.com