1. 온디바이스 AI란?
온디바이스 AI란 클라우드 서버를 거치지 않고 자체적으로 AI기능을 구현하는 기술을 말합니다.
기존 AI기술은 대부분 클라우드를 거쳐 수행되었습니다. 스마트 기기에서 수집한 정보를 중앙 클라우드 서버로 전송한 후 분석하여 다시 기기에 보냈다면 온디바이스 AI는 이러한 절차 없이 스마트기기 자체에서 정보를 수집하고 연산합니다.
2. 온디바이스 AI의 장점
온디바이스 AI의 장점 중 하나는 데이터를 클라우드 서버에 전송하지 않고 기기내에서 자체적으로 처리하기 떄문에 개인정보 유출위험이 적다는 것입니다. 두번째는 클라우드 서버와의 연결이 필요치 않기 때문에 속도가 빠르며 인터넷 연결이 어려운 상황에서도 작업이 가능하다는 것입니다. 가장 큰 예로 이번에 삼성이 오픈한 '갤럭시S24' 동시통역 기능이 있습니다. '갤럭시S24' 시리즈는 삼성전자가 자체 개발한 인공지능 플랫폼인 '갤럭시AI'가 탑재된 첫 AI 스마트폰으로 기기안에서 정보를 스스로 수집하고 처리하는 '온디바이스 AI' 기술을 적용하였습니다. 때문에 인터넷 연결 없이도 번역 AI기능이 된다고 합니다. 그리고 마지막으로는 역시 클라우드로 데이터를 전송할 일이 없기 때문에 데이터를 전송하는데 필요한 에너지소모를 줄일 수 있다는 점입니다.
3. 온디바이스 AI 시장의 성장
글로벌 빅테크 기업인 구글과 애플, 마이크로소프트 등 역시 온디바이스 AI 기술 도입에 적극 투자를 하고 있습니다. 국내에서도 삼성전자가 온디바이스 AI 기술을 사용한 '갤럭시S24' 시리즈를 오픈하였고, LG전자 역시 ThinQ AI 플랫폼에 온디바이스 AI를 적용하여 가전제품의 AI 기능을 강화하고 있습니다.
온디바이스 AI의 시장의 성장성은 더욱 더 뚜렷해 졌습니다. 때문에 관련 종목들이 주식 시장에서 큰 관심을 받고 있는 중입니다. 앞으로는 온디바이스 AI 기술의 발전으로 좀더 일상생활에서 가까이에서 온디바이스 AI 기술을 경험할 수 있게 될 것입니다. 우리가 항상 사용하고 있는 스마트폰 뿐만 아니라 웨어러블 기기, 자율주행 자동차에까지, 다양한 곳에서 온디바이스 AI 기술이 사용되어 질 것이며, 온디바이스 AI 시장 성장속도는 예상보다 빠를 것으로 전망되어지고 있습니다. 특히나 이미 대중화 되어있는 모바일 기기를 더욱 효율적으로 만들어 줄 것입니다.
4. AI의 확산으로 인한 메모리 시장 전망
온디바이스 AI 생태계의 확장으로 스마트폰과 PC의 D램 탑재량이 늘어나고 있습니다. 자체적으로 AI연산을 처리해야 하기 때문에 각 기기에 높은 성능이 요구되어 메모리탑재량 역시 늘어나는 것입니다. 삼성전자가 공개한 AI폰인 '갤럭시S24+'의 경우 D램을 8GB에서 12GB로 늘렸다고 합니다. 이에 노트북과 데스크탑 역시 D램의 최소 요구치 역시 증가할 것으로 전망되어지고 있습니다. 최근 대반 시장분석기관인 트렌스포트는 현재 표준인 8GB로는 AI를 자체 구동하기 힘들기 때문에 더 높은 용량의 메모리가 기본 사양으로 탑재되는 것이 대세가 될 것이며, AI운영체제가 될 윈도우 12부터는 16GB D램이 표준화 된다는 전망을 내놓기도 하였습니다.
이제는 시장의 중심 축이 AI로 이동하고 있습니다. 때문에 메모리 업체들은 AI용 메모리 시장으로 뛰어들고 있습니다. 그러나 앚딕까지는 고금리, 지정학적 리스크 등의 영향으로 반도체 업계의 본격적인 실수요 회복 전망이 불투명합니다. 앞으로 생성형 AI를 비롯하여 온디바이스 AI등 AI 관련된 서비스가 본격 확대되다면 서버 업체들 역시 수요에 대응한 투자에 적극 나서게 될 가능성이 높아집니다. 앞으로 AI관련된 서비스, 어플이 얼마나 많이 개발이 되는지, 대중들의 관심도가 어느정도까지 높은지에 따라 특수 메모리의 성장세가 지속 될 것으로 전망되어지고 있습니다.
5. HBM이후의 차세대 제품 CXL
HBM은 생산 난이도가 높고 칩 크기가 기존 규격보다 크기 때문에 공급이 수요에 미치지 못하는 상황입니다. 떄문에 HBM의 가격은 상당히 높아졌고, 앞으로 AI기술의 발전과 더불어 저전력 요구와 성능 대비 효율화에 대한 요구가 늘어날 것이기 떄문에 메모리 업계에서는 새로운 차세대 솔루션 개발에 적극 나서고 있다고 합니다.
가장 대표적인것이 CXL인데, CXL 인터페이스는 프로세서와 메모리 사이의 고속 및 고용량 연결을 위한 개방형 표준입니다. HBM은 한 번에 운반할 수 있는 데이터 처리량을 대역폭 키운 고성능 메모리, CXL은 프로세서와 메모리등 장치를 효율적으로 연결하여 더 큰 용량으로 제공하는 기술을 말합니다. 현재 삼성전자가 개발중인 CXL-PNM 기술은 AI모델의 로딩 속도를 2배, 용량은 최대 4배까지 향상시킬 수 있습니다. 이 CXL은 내년부터 본격적으로 상용화가 추진될 전망이라고 합니다. 인텔은 올해 말에 CXL 2.0을 지원하는 초고효율 CPU인 <시에라 포레스트>를 출시할 예정이며, SK하이닉스는 올해 하반기에 CXL기술을 적용한 96GB와 238GB 제품을 상용화 할 계획이라고 합니다.