온디바이스 AI의 미래: 앰비언트 컴퓨팅, 비즈니스 전략 강화, 스몰데이터

AI 혁명 : 온디바이스AI

인공지능(AI)은 이제 IT 기업만의 전유물이 아니며, 거의 모든 산업에서 AI가 핵심 경영 테마로 자리 잡고 있습니다. R&D, 마케팅, HR, 법률, 재무 등 다양한 비즈니스 분야에 AI를 적용하려는 시도가 확산되고 있습니다. 구글, IBM 등 여러 기업은 AI 기업으로의 변신을 선언하여 이에 동참하고 있습니다. 이러한 AI를 구현하기 위한 기술 중에서도 딥러닝(Deep Learning)이 가장 큰 관심을 받고 있습니다. 딥러닝은 인간의 뇌 신경 구조를 착안한 신경망 네트워크 알고리즘을 기반으로 하며, 다량의 데이터 입력을 통해 성능을 점진적으로 향상시키고 상황에 적합한 판단을 내릴 수 있습니다. 현재 학계와 기업에서 선보이는 대부분의 AI 연구는 딥러닝을 기반으로 진행되고 있어 이는 AI의 대표 기술로 자리 잡았습니다.

그러나 딥러닝을 구현하기 위해서는 알고리즘 학습을 위한 대량의 데이터와 이를 빠르게 처리할 수 있는 고성능 컴퓨팅 능력이 필수적입니다. 초기에는 이러한 요건을 충족하기 어려웠지만, 클라우드 컴퓨팅의 등장으로 이 문제가 해결되었습니다. 클라우드 컴퓨팅을 통해 대규모 데이터를 저장하고, 다수의 컴퓨터를 활용하여 고수준의 컴퓨팅 능력을 갖출 수 있게 되었습니다. 클라우드 컴퓨팅을 통해 딥러닝은 뛰어난 AI 성능을 보여줄 수 있게 되었고, 이를 통해 소프트웨어, 플랫폼 등의 IT 서비스 제공이 편리해져서 클라우드 AI가 오늘날의 시장 표준으로 자리 잡았습니다.

클라우드 컴퓨팅은 아마존, 마이크로소프트, 구글 등의 기업들이 대기업과 스타트업 등 다양한 고객들의 AI 활용을 지원하고 있으며, 인텔과 엔비디아와 같은 반도체 기업도 클라우드 컴퓨팅의 AI 구현을 위한 반도체 개발에 투자하고 있습니다. 현재 클라우드 AI는 스마트폰이나 스마트 스피커 등의 사용자 단말을 통해 실행되고 있습니다. 그러나 최근에는 AI의 클라우드 컴퓨팅 의존도를 낮추기 위한 연구가 주목받고 있습니다. 이는 사용자의 단말이 주변 데이터를 기반으로 딥러닝 등의 AI를 직접 수행하는 온디바이스 AI(On-Device AI) 기술입니다.

온디바이스 AI는 클라우드 AI와 달리 충분한 데이터 수집과 컴퓨팅 능력이 부족한 환경에서 사용자가 필요한 AI를 원활히 지원하는 것이 목표입니다. 현재는 아직 초기 연구 및 상용화 단계에 있지만, 글로벌 학계 및 업계에서는 온디바이스 AI 기술 개발에 꾸준한 투자를 하고 있습니다. MIT는 2020년에 온디바이스 AI를 유망한 기술 중 하나로 꼽았으며, 여러 연구소와 기업들이 온디바이스 AI 기술에 주력하고 있습니다. 또한, 클라우드 AI를 선점한 기업들뿐만 아니라 애플, 인텔, 엔비디아, 알리바바 등이 온디바이스 AI를 미래 AI의 중요한 부분으로 인식하고 투자하고 있습니다. 우리나라의 대기업, 스타트업, 연구소 등도 다양한 기관에서 온디바이스 AI 연구에 적극 참여하고 있습니다.

온디바이스 AI의 장점

1) 빠른 AI 서비스 제공

클라우드 데이터센터는 사용자 단말과 지속적으로 데이터를 주고받아야 합니다. 이로 인해 네트워크 상태가 AI 서비스 제공 속도 및 데이터 무결성에 영향을 미칩니다. 불안정한 네트워크 상태에서는 클라우드 AI에 대한 요청에 즉각적으로 응답하기 어려울 수 있습니다. 특히 음영지역이나 네트워크 불안정 지역에서는 실시간 서비스 운영이 어려울 수 있습니다. 반면, 온디바이스 AI는 단말 자체에서 실행되므로 네트워크 연결이 끊어져도 안정적으로 AI 서비스를 처리할 수 있습니다. 실시간 정보 처리가 필요한 제품 및 서비스에서 온디바이스 AI는 속도와 안정성을 높일 수 있는 장점을 가지고 있습니다.

2) 정보 보안 강화

클라우드 데이터센터는 대규모 데이터를 집중 보관하기 때문에 보안 이슈가 큰 문제가 될 수 있습니다. 최근에는 클라우드 컴퓨팅을 통한 개인정보 유출 우려가 커지고 있습니다. 유명 IT 기업들이 개인정보 수집과 보호에 대한 비판을 받고 있는 가운데, 온디바이스 AI는 단말을 중심으로 실행되기 때문에 개인정보 데이터의 클라우드 전송을 최소화할 수 있습니다. 데이터를 선별적으로 전송하거나 민감한 부분을 사전에 제거하는 방식으로 데이터 보안성을 강화할 수 있습니다.

3) 에너지 소모 절감

클라우드 컴퓨팅은 많은 전력을 소비하며, 특히 AI 알고리즘의 고성능 처리는 많은 에너지를 필요로 합니다. 데이터 처리 능력을 강화하기 위해 데이터센터의 건설이 계속되면서 에너지 소모는 커지는 추세입니다. 온디바이스 AI를 통해 일부 기능은 클라우드 대신 단말에서 직접 처리할 수 있기 때문에 클라우드 컴퓨팅의 에너지 소모를 줄일 수 있습니다. 이는 향후 다양한 산업에서 AI의 저변이 확대될수록 클라우드 컴퓨팅의 에너지 문제 해결에 기여할 것으로 기대됩니다.

온디바이스 AI가 이끄는 신(新)트렌드

1) AI를 통한 하드웨어 경쟁력 강화

높은 사양(Spec)을 가진 하드웨어 기기의 출시가 늘어나고 있지만, 사용자들은 이러한 사양을 충분히 체감하지 못한다는 지적이 있습니다. AI, 특히 온디바이스 AI는 하드웨어 역량을 활용하고 사용자 체감 성능을 향상시킬 수 있는 핵심 기술로 각광받고 있습니다. 이러한 동향은 특히 스마트폰과 같이 고사양 하드웨어 경쟁이 치열한 분야에서 부각되고 있습니다. 애플은 아이폰에 안면 인식과 같은 신기능을 구현하기 위해 온디바이스 AI를 활용하였으며, 구글 또한 픽셀 폰 내에서 온디바이스 AI를 적극적으로 활용하여 실행 속도를 향상시켰습니다.

2) 클라우드 AI와의 연계를 통한 AI 저변 확대

온디바이스 AI의 장점에도 불구하고, 고수준의 AI를 구현하기 위해서는 클라우드 AI의 활용이 필요합니다. 현재 단말의 컴퓨팅 능력은 급속한 발전을 이루고 있지만, 클라우드 데이터센터의 빅데이터 수집과 분석 능력은 아직까지 뒤쳐질 수밖에 없습니다. 따라서 온디바이스 AI와 클라우드 AI를 유기적으로 결합함으로써 단말과 서비스 범위를 확장할 수 있습니다. 이는 클라우드 AI의 학습과 추론 역할을 분담하여 더 나은 AI 서비스를 제공할 수 있게 됩니다.

3) 핵심 경쟁력으로 부상하는 AI 반도체

온디바이스 AI의 부상과 함께 AI 반도체에 대한 관심도 커지고 있습니다. 기존의 중앙연산처리장치(CPU)는 AI 지원에 적합하지 않다는 문제점이 지적되고 있어, 여러 기업들은 AI 전용 반도체를 개발하고 탑재하고 있습니다. 이러한 AI 반도체는 스마트폰뿐만 아니라 스마트 스피커, TV, 자동차 등 다양한 기기로 확산되고 있습니다. 구글은 텐서플로 프로세서(TPU)와 같은 AI 반도체를 개발하여 활용하고 있으며, 이는 온디바이스 AI의 구현에 기여하고 있습니다.

현재 AI 반도체는 시스템의 근본적인 변화를 일으키고 있으며, 다양한 기업들이 이 기술을 선점하려는 움직임이 활발하게 일어나고 있습니다. 이는 AI의 완성도를 높이기 위해 반도체의 변화가 필수적이라는 인식이 강조되고 있습니다.

온디바이스 AI의 미래

1) 앰비언트 컴퓨팅 시대의 도래

미래에는 스마트폰을 넘어 많은 기기로 AI 적용이 확대되고 활용 분야 역시 다양해질 것으로 보입니다. AI 자체가 특정 목적을 위한 기술이 아니라 거의 모든 제품 및 서비스의 혁신과 영감을 강화하는 범용 기술로 자리 잡고 있습니다.

구글 등 다수의 IT 기업 및 전문가는 AI가 생활 곳곳에 자리 잡는 개념을 '앰비언트 컴퓨팅(Ambient Computing)'이라 정의합니다. 앰비언트 컴퓨팅 시대에는 고성능 IT가 사용자의 일상생활에 자연스럽게 내포돼 있기 때문에 사용자는 기술을 사용하고 있다는 사실 자체를 인지하지 못합니다. 이용자는 음성이나 동작 등 일상적 행동만으로 기존에 IT 기기를 의식적으로 조작해야 했던 일을 쉽게 처리할 수 있습니다. 예를 들어, 아마존의 무인 매장인 아마존고(Amazon Go)와 같이 사람들은 아마존고에 필요한 물건을 집어 들고 매장 밖을 나오면 됩니다. 물건을 계산대에 놓고 직원에게 가격을 지불해야 했던 번거로운 일은 사용자가 의식하지 못하는 앰비언트 컴퓨팅 기술, 즉 AI, 클라우드, IoT 등의 유기적 연계를 통해 처리됩니다.

이와 같은 앰비언트 컴퓨팅 시대에는 온디바이스 AI의 역할도 커질 전망입니다. 앰비언트 컴퓨팅 시나리오를 구현하려면 사용자의 선택과 판단을 대신하는 AI를 서로 다른 제품 및 서비스에 어떻게 적용할지가 관건이 될 수 있습니다. 간단한 기능을 처리하는 AI부터 복잡한 분석과 알고리즘이 필요한 AI까지 사용 목적에 맞는 적합한 AI를 선택해야 합니다. 네트워크 상태, 데이터 활용 등 각종 변수를 고려하면 클라우드 AI가 많은 앰비언트 컴퓨팅 시나리오를 적시 대응하기 어렵기 때문에 온디바이스 AI는 앰비언트 컴퓨팅 실현의 핵심 기술로 활용될 것으로 보입니다.

지금까지의 AI 적용은 개별 제품의 특정 기능에 초점을 맞춰왔습니다. 그러나 미래 앰비언트 컴퓨팅 시대에는 사용자의 행동 흐름, 라이프스타일 등 맥락을 고려해 여러 기기 간 AI가 어떻게 자연스럽게 연계될 수 있는지도 이슈가 될 수 있습니다. 이런 관점에서 각 기기의 온디바이스 AI가 조화롭게 운용될 수 있는 방안 역시 미래 AI 연구의 주요 과제로 부상할 수 있습니다.

2) AI 중심의 비즈니스 전략 강화

여전히 AI 기술 자체는 특정 기업의 전유물이라는 인식이 강합니다. 그러나 온디바이스 AI의 확산은 AI 시장의 진입 장벽을 낮추는 계기가 될 수 있습니다. 풍부한 데이터 확보나 고성능 컴퓨팅 활용이 어려운 제약들이 온디바이스 AI 활용을 통해 극복될 여지가 커지고 있습니다.

아무리 뛰어난 AI 역량을 보유한 기업이라도 각각 다른 활용 목적을 지원할 수 있는 범용 AI를 개발하는 것은 어렵습니다. 특히 미래에는 AI를 필요로 하는 제품이나 서비스가 더욱 세분화될 가능성도 높습니다. 그러므로 향후에는 기업들이 자사의 제품에 적합한 AI를 탑재하기 위해 온디바이스 AI를 적극적으로 활용하게 될 것으로 보입니다.8

온디바이스 AI의 저변 확대는 AI가 비즈니스 전략과 밀접하게 연계되는 트렌드를 가속화할 전망입니다. AI 기술 자체보다는 당면한 문제를 해결하기 위한 목표를 정의하고, 이를 위한 적정 AI 방법을 선정하는 것이 핵심 전략으로 고려될 것입니다. 여기에서 온디바이스 AI는 AI의 효과적인 활용을 돕는 옵션이 될 수 있습니다. 안정성, 보안, 운용 효율성 등 AI 적용 시 고려해야 할 요구 조건을 충족하기 위해 온디바이스 AI를 사용하는 사례가 늘어날 것으로 예상됩니다.

하지만 신기술 등장 이면에는 부정적인 측면도 존재합니다. 뜨겁게 각광받는 기술은 충분한 활용 사례가 적은 데다 주로 긍정적 효과가 강조되면서 잠재적 문제를 간과할 수 있습니다. 온디바이스 AI 역시 예기치 못한 문제를 겪게 될 가능성이 큽니다.

예컨대, 온디바이스 AI 탑재가 기기 성능에 큰 영향을 줄 수 있습니다. 제한된 하드웨어 사양 및 컴퓨팅 능력 등의 한계로 발열이나 오작동 등이 발생할 수 있기 때문입니다. 게다가 AI가 개별 단말에서 구동되므로 알고리즘의 치명적 오류나 딥 페이크 등 AI의 악용 위험을 사전에 제어하기 어려워질 것이라는 우려도 있습니다.9 한편으로 딥러닝이 왜곡된 데이터만 집중적으로 학습하게 될 경우 왜곡된 판단을 내릴 우려도 크기 때문에10 풍부한 데이터 확보가 어려운 온디바이스 AI가 이런 우려를 어떻게 극복할 수 있을지도 관건입니다.

따라서 온디바이스 AI 개발 및 제품 적용 시에는 다양한 리스크 시나리오에 대응하기 위한 전략 마련도 필요합니다. 예를 들어, 온디바이스 AI 적용 제품 및 서비스 유형, 요구되는 데이터 및 알고리즘 수준, 사용 시나리오 등 여러 요인 분석을 통해 잠재 리스크를 파악하거나 실제 제품 적용에 앞서 단계적 개선 과정을 통해 리스크를 해결하려는 노력이 강조될 것입니다.

3) 스몰데이터 전략의 부상

온디바이스 AI는 최근 주목받는 스몰데이터(Small Data) 전략과 함께합니다. 스몰데이터 전략이란 데이터 분석을 위해 대규모 데이터가 필요하다는 고정관념에서 벗어나 상대적으로 작은 규모의 데이터에서 인사이트를 얻기 위한 데이터 분석 방법론을 의미합니다.

빅데이터 분석의 중요성은 꾸준히 강조되고 있지만 풍부한 규모의 데이터 확보 및 처리는 몇몇 기업만이 가능할 뿐 대부분의 기업에 쉽지 않은 것이 사실입니다. 이런 까닭에 가치 높은 데이터를 활용해 빅데이터 분석에 버금가는, 혹은 부족하지만 실제 사용에는 큰 문제 없는 적정 수준의 성능을 확보하는 스몰데이터 전략이 대안으로 부상하고 있습니다.

온디바이스 AI 기반의 스몰데이터 전략이 강조될수록 기업의 데이터 경쟁력 역시 새롭게 정의될 가능성이 높습니다. 데이터 합성 등의 방법으로 규모를 늘리는 데이터 증강(Data Augmentation) 기술이 관심을 받고 있는 가운데 확보하기 힘든 데이터는 외부에서 쉽게 구할 수 있는 시대가 도래한다는 주장도 있습니다. 이런 관점에서 미래의 데이터 경쟁력이란 데이터 확보는 물론 비즈니스 전략 수립 및 실행을 위해 의미 있는 정보를 발굴하는 능력 수준이 좌우할 것으로 보입니다.

이런 관점에서 데이터를 통해 가치를 발굴할 수 있는 알고리즘의 중요성이 더욱 커질 것입니다. 사용자 맞춤형 추천, 리스크 예지 대응 등 AI 알고리즘 기술 및 적용 수준도 빠르게 고도화되고 있습니다. 구글, 넷플릭스, 아마존 등 다수 기업은 알고리즘을 핵심 자산으로 선언하고, 정교한 알고리즘을 기반으로 전사 전략, 제품 개발, 위기 대응 등 다방면에 활용하고 있습니다. 디지털 트랜스포메이션이 미래를 대비하기 위한 필수 전략으로 강조되면서 알고리즘이 비즈니스에 미치는 영향력은 갈수록 커질 것으로 보입니다. 따라서 데이터 알고리즘의 자산화 및 활용 역량이 소수 IT 기업을 넘어 많은 기업의 비즈니스 성공과 직결되는 역량으로 강조될 전망입니다.

https://dbr.donga.com/article/view/1203/article_no/9635

[DBR] 온디바이스 AI 시대, ‘스몰데이터’ 활용 역량 키워야