챗GPT가 열었던 ‘거대언어모델(LLM)’의 시대가 진화해 이제 시장은 특정 목적에 최적화된 ‘소형언어모델(SLM)’ 및 추천 시스템 등 '맞춤형 AI' 시대로 빠르게 이동하고 있다. 인공지능(AI) 모델이 다양해지면서 데이터를 처리하는 방식(I/O 패턴) 역시 복잡해졌기 때문이다.
22일 글로벌 IT 리서치 기관인 가트너(Gartner)에 따르면 기업들이 비용과 지연 문제를 이유로 빠르게 SLM 채택을 고려 중인 것으로 분석했다.
그랜드 뷰 리서치(Grand View Research) 등 여러 시장조사기관 역시 SLM 시장이 연평균 15~25% 수준으로 빠르게 성장할 것이라 분석하고 있다.
AI 워크로드의 특성을 이해하고 스스로를 최적화하는 '지능형 시스템 반도체'의 중요성이 부각되는 이유다.
이러한 변화의 흐름 속에서 시스템 반도체 기업들은 각자의 해법으로 기회를 포착하고 있다.
AI 반도체 시장의 리더격인 엔비디아(NVIDIA)는 단순히 GPU를 공급하는 것을 넘어 전체 생태계의 효율을 높이는 데 주력하고 있다.
이들은 ‘GPUDirect Storage’ 기술을 통해 GPU가 스토리지에 직접 접근하는 경로를 열어 데이터 병목을 줄인다. 또한 파트너 기업들의 기술을 검증하고 자사의 AI 생태계 안으로 끌어들이며 시장 지배력을 강화하고 있다.
데이터센터용 반도체 전문 팹리스인 파두(FADU)는 기업용 솔리드 스테이트 드라이브(이하 SSD) 컨트롤러 기술을 바탕으로 스토리지 분야에서 해법을 찾고 있다. 회사는 웨스턴디지털과 공동 개발한 FDP(Flexible Data Placement) 기술을 5세대(Gen5) SSD 컨트롤러에 적용했다.
FDP는 순차 읽기 중심의 LLM 워크로드와 랜덤 읽기 중심의 추천 시스템 등 다양한 데이터 I/O 패턴을 스토리지 컨트롤러가 자동으로 인식해 저장 위치를 유동적으로 조정해 성능을 최적화하는 기술이다.
실리콘모션(Silicon Motion)은 AI 및 고성능 컴퓨팅 환경을 겨냥한 PCIe 5.0 기반 컨트롤러를 출시해 주목받고 있다.
특히 고속 인터페이스와 다채널 낸드플래시 지원 그리고 오류정정코드(Error Correction Code, ECC) 기술을 결합해 데이터 센터 및 AI 워크로드에서의 안정성과 처리 성능을 개선하는 데 집중하고 있다.
AI 연산을 직접 처리하는 NPU(신경망처리장치) 분야에서는 국내 스타트업 딥엑스(DeepX)가 주목받고 있다. 딥엑스는 1세대 NPU 제품인 ‘DX-M1’을 통해 물리 보안 시스템, 로봇, 산업용 솔루션 등 다양한 엣지 AI 응용 분야에서 두각을 나타내고 있다.
앞으로의 AI 인프라 경쟁은 ‘하드웨어의 똑똑함’에 있다. 점점 더 다양해지는 AI 모델의 특성을 이해하고 최적화하는 ‘지능형 반도체의 설계 역량’이 경쟁의 핵심이 되고 있다.
22일 글로벌 IT 리서치 기관인 가트너(Gartner)에 따르면 기업들이 비용과 지연 문제를 이유로 빠르게 SLM 채택을 고려 중인 것으로 분석했다.
그랜드 뷰 리서치(Grand View Research) 등 여러 시장조사기관 역시 SLM 시장이 연평균 15~25% 수준으로 빠르게 성장할 것이라 분석하고 있다.
AI 워크로드의 특성을 이해하고 스스로를 최적화하는 '지능형 시스템 반도체'의 중요성이 부각되는 이유다.
이러한 변화의 흐름 속에서 시스템 반도체 기업들은 각자의 해법으로 기회를 포착하고 있다.
AI 반도체 시장의 리더격인 엔비디아(NVIDIA)는 단순히 GPU를 공급하는 것을 넘어 전체 생태계의 효율을 높이는 데 주력하고 있다.
이들은 ‘GPUDirect Storage’ 기술을 통해 GPU가 스토리지에 직접 접근하는 경로를 열어 데이터 병목을 줄인다. 또한 파트너 기업들의 기술을 검증하고 자사의 AI 생태계 안으로 끌어들이며 시장 지배력을 강화하고 있다.
데이터센터용 반도체 전문 팹리스인 파두(FADU)는 기업용 솔리드 스테이트 드라이브(이하 SSD) 컨트롤러 기술을 바탕으로 스토리지 분야에서 해법을 찾고 있다. 회사는 웨스턴디지털과 공동 개발한 FDP(Flexible Data Placement) 기술을 5세대(Gen5) SSD 컨트롤러에 적용했다.
FDP는 순차 읽기 중심의 LLM 워크로드와 랜덤 읽기 중심의 추천 시스템 등 다양한 데이터 I/O 패턴을 스토리지 컨트롤러가 자동으로 인식해 저장 위치를 유동적으로 조정해 성능을 최적화하는 기술이다.
실리콘모션(Silicon Motion)은 AI 및 고성능 컴퓨팅 환경을 겨냥한 PCIe 5.0 기반 컨트롤러를 출시해 주목받고 있다.
특히 고속 인터페이스와 다채널 낸드플래시 지원 그리고 오류정정코드(Error Correction Code, ECC) 기술을 결합해 데이터 센터 및 AI 워크로드에서의 안정성과 처리 성능을 개선하는 데 집중하고 있다.
AI 연산을 직접 처리하는 NPU(신경망처리장치) 분야에서는 국내 스타트업 딥엑스(DeepX)가 주목받고 있다. 딥엑스는 1세대 NPU 제품인 ‘DX-M1’을 통해 물리 보안 시스템, 로봇, 산업용 솔루션 등 다양한 엣지 AI 응용 분야에서 두각을 나타내고 있다.
앞으로의 AI 인프라 경쟁은 ‘하드웨어의 똑똑함’에 있다. 점점 더 다양해지는 AI 모델의 특성을 이해하고 최적화하는 ‘지능형 반도체의 설계 역량’이 경쟁의 핵심이 되고 있다.