<No 네트워크! 스마트폰 안에 들어온 AI①>에 이어
AI가 디바이스 안으로 아예 들어왔다. 네트워크 연결도 필요없다. ‘온디바이스AI’다. 이미 온디바이스AI 스마트폰이 시장에 출시되었다. 디바이스 안으로 아예 들어온 AI는 당신의 하루하루 평범한 일상을 비범하게 도와준다. 어떻게 도와줄까? 그래서 어떤 시사점이 있을까? 시사점 2 : 자동차자동차에도 온디바이스AI가 다양한 방식으로 탑재될 가능성이 높다. 이미 전장화되고 있고 자율주행을 비롯한 최첨단 기술의 집약 체인 자동차는 AI뿐 아니라 각종 센서가 많이 들어가 있다. 전방 카메라, 차 안 카메라, 라이다, 레이더, 마이크 등이 이미 차 안에 있다. 순도 높은 데이터가 이미 온디바이스로 있다. 기본적으로 이 빅데이터가 보장되니 네트워크로 외부로 연결되지 않더라도 자체적으로 여기서 뽑아내는 정보들의 신뢰성, 활용성도 당연히 높을 것이다.
특히 ‘운전자 모니터링’처럼 사람을 주시해야 하는 경우에 온디바이스AI가 실력 발휘를 할 수 있다. 운전자 졸음 운전 방지처럼 운전자의 특정 표정, 몸짓, 소리, 기존 운전 스타일, 기존 습관으로 ‘졸음’이나 ‘부주의’를 판단하는 것은 앞뒤 맥락과 스토리를 종합하는 멀티모달AI, 온디바이스AI 가 제일 잘할 수 있는 분야다.
스마트폰이나 자율주행 자동차는 사용자와 언제나 가장 가까이 위치한다는 점을 주목해야 한다. 스마트폰과 자율주행 자동차는 개인이 한 제품을 소유하고 개인 취향에 맞게 세팅하고 사용한다. 사용하는 시간도 거의 매일이다.
어쩌다 한번 사용하는 제품이 아니다. 따라서 무조건 양만 많은 데이터가 아니라 양질의 유의미한 데이터가 수집된다. 그래서 개인 특화 서비스, 구독 서비스로 시장 확대도 가능하다. 여기서 충분히 시장성을 확보한 온디바이스AI는 로봇이나 다른 생활가전으로 순차 전파된다. 스마트폰과 자동차가 업계 첫 사례, 레퍼런스가 된다는 점도 중요하다. 시사점 3 : 라이트 유저, 라이트 모델학생이나 직장인이 내 스마트폰 안의 사진, 파일, 메모를 보면서 공부할 때가 많다. 여러 참고 자료와 내 필기를 오가며 검색도 하고 번역, 통역도 수시로 할 것이다. 이때 클라우드를 오가는 고용량 고품질 스펙까지는 없어도 된다. 스마트폰 내부 AI면 충분하다.
직장인이라면 내가 시장 조사하거나 내부 부서 간 수집한 자료를 가지고 결과 리포트를 써야 할 때가 있다. 어차피 회사 내부 자료를 기반으로 내 디바이스 안의 결과를 분석하여 리포트를 써야 한다면 역시 온디바이스AI면 딱 맞다. 신속 정확하게 결과 값이 필요한 라이트 유저에게 온디바이스AI는 매력적이다.
2024년 2월 오픈AI는 텍스트 투 비디오 AI도 공개했다. 글을 영상으로 변환하고 사진을 글 내용에 맞게 편집할 수 있다. 이는 소비자 편의, 생산성도 제고시키지만 비용 면에서도 유의미하다. 간단한 영상을 제작하는 허들이 낮아진다. 카메라, 인프라 장비, 환경, 선수 지식에 드는 큰 비용이 없어도 누구나 간단히 영상을 만들 수 있다.
AI가 참조하는 모델이 클수록 이를 학습하고 추론하는 데 드는 비용도 커진다. 무조건 큰 모델을 쓸 게 아니라 상황과 조건에 맞게 고려해야 한다. 이 인프라 부담이 커지면서 이를 줄여보고자 경량화된 모델 연구, 온디바이스AI, AI칩에 최근 관심이 커진 것이 사실이다.
기존 AI들은 학습시키는 데 너무 큰 개발 자원과 전력량을 썼다. 챗GPT를 학습시키는 데 몇 조원이 들었다 전해진다. 스마트폰 말고도 자동차, 노트북 같은 개별 디바이스에 자체 AI를 올릴 필요, 시장의 니즈가 있는 지금 이래서는 수지 타산이 맞지 않는다.
그래서 오픈AI, 마이크로소프트, 구글, 애플은 크기는 작지만 성능은 기존 큰 거대언어모델과 맞먹는 AI를 개발하는 데 힘을 쓰고 있으며 실제로 시장에 내놓고 있다. 마이크로소프트는 AI PC라 불리는 ‘코파일럿+PC’에 라이트한 언어 모델인 파이 실리카(Phi-Silica)를 탑재했다. 메타는 레이밴 메타 스마트 글라스에 메타 AI를 탑재했다. 메타 CEO 마크 저커버그는 “300달러 정도 가격대의 AI안경은 결국 수천만 명 사람들이 소유하게 될 대중 제품이 될 것”이라고 시그라프 2024 콘퍼런스에서 언급했었다. 시사점 4 : 스마트폰 대화창의 AI스마트폰 온디바이스AI라면 AI를 호출하는 대화 창을 누가 장악하느냐도 중요하다. 일단 스마트폰 제조사가 유리하다. 소비자가 스마트폰에서 처음 AI를 호출할 때는 제조사 AI를 호출하기 마련이다. 소비자가 원하는 것을 이야기 하면 제조사 AI가 판단하여 필요한 개별 앱들의 AI가 순서대로 사용된다.
오픈AI의 GPT스토어, 플러그인을 통한 AI 챗봇과 외부 앱의 연동도 예가 되겠다. 애플은 외부 AI까지 포괄하는 새로운 AI 플랫폼인 애플 인텔리전스도 발표했다.
스마트폰 온디바이스AI는 개별 앱들로부터 수집한, 보고받은 결과를 분석하고 조합하고 결정해서 소비자에게 알려준다. 여러 개별 AI가 각자 롤플레잉을 하고 정보를 건네주고 상호작용한다. 온디바이스AI 는 이 과정을 종합해서 스스로 할 수 있다. 앞에서 말한 멀티모달AI이니까 가능하다. 소비자는 이 대표 창구인 온디바이스AI와 간편하게 대화한 뒤 그다음은 ‘온디바이스AI가 알아서 최상의 결과를 찾아내서’ 처리하길 기대한다.
이렇게 소비자와 직접 닿는 AI 창구가 하나로 통일될 터라 바로 여기를 지배해야 시장을 선도한다.
스마트폰 제조사, 오픈AI, 구글, 마이크로소프트, 애플 같은 몇 개의 큼직한 AI 회사가 앞다투어 이 스마트폰 대화창 AI를 선점하려 나서는 이유가 바로 이 때문이다.
실리콘밸리 AI 스타트업 퍼플렉시티 CEO는 “앞으로 누구나 생각 파트너(Thought Partner)를 가지게 될 것”이라며 “1~2년 내에 연구 에이전트나 맥킨지 분석 에이전트를 갖게 될 것”이라고 예측했다.
정순인 ‘당신이 잊지 못할 강의’ 저자·IT 칼럼니스트
