MediaTek는 일부 Android 폰에 강력한 AI 앱을 제공할 예정입니다 | ENBLE
MediaTek plans to provide powerful AI apps on some Android phones | ENBLE
이미 폰에서 여러 가지 생성 AI 앱을 시도해 보았을 수도 있습니다. OpenAI의 ChatGPT나 HeyPi는 채팅형 AI 앱의 예시입니다. Runway ML과 같은 앱은 폰에서 AI로 생성된 비디오를 만들 수 있게 해줍니다.
그러나 지금까지 거의 모든 생성 AI 앱은 클라우드 기반 컴퓨팅에 의존해왔습니다. 즉, 마법 같은 AI 처리는 클라우드에서 이루어지며, 폰이나 태블릿에서 콘솔 게임을 스트리밍할 때 마이크로소프트 서버 센터에서 Xbox 키트가 중요한 부분을 담당하는 것과 비슷한 원리입니다.
MediaTek는 이를 바꾸고자 하며, 스마트폰에서 직접적으로 생성 AI 컴퓨팅을 가능하게 할 것입니다. 이 야심찬 프로젝트는 올해 말에 안드로이드 폰에 탑재될 MediaTek의 다음 플래그십 칩셋으로 구현될 예정입니다. 이 기업은 생성 AI 앱을 위한 기반이 되는 Llama 2 모델을 제공하는 Facebook의 부모 회사인 Meta의 도움을 받고 있습니다.
이 칩 제조업체는 장치 내 생성 AI 처리 방식으로 인한 여러 가지 이점을 강조하고 있습니다. 이에는 “원활한 성능, 개인 정보 보호 강화, 더 나은 보안 및 신뢰성, 더 낮은 지연 시간, 연결이 거의 없거나 전혀 없는 지역에서 작동할 수 있는 능력 및 운영 비용 절감”이 포함됩니다.
폰에서 생성 AI 속도 향상
다가오는 MediaTek의 최상위 칩은 스마트폰에서 생성 AI 경험을 향상시키기 위해 세 가지 주요 전략을 사용할 것입니다. 첫째, Meta에서 개발한 오픈 소스 대규모 언어 모델인 Llama 2를 최적화한 전용 소프트웨어 스택을 탑재할 것입니다. Llama 2는 7월에 출시되었으며, Llama 2 언어 모델을 활용하는 앱은 아직 많이 나오지 않았습니다. 현재 대화형 AI 앱은 GPT 기반 앱이 주로 사용되고 있습니다. 그러나 Meta는 MediaTek의 경쟁사인 Qualcomm을 포함한 스마트폰 산업의 참가자들과 능동적으로 협력하고 있습니다.
- 애플 매직 마우스, 매직 트랙패드가 조금 더 싸졌습니다 | ENBLE
- 2023년 최고의 보호용 아이폰 케이스 최고 30개 제품 | ENBLE
- 당신의 아이폰에서 곧 AI 작업을 실행할 수 있을까요? MediaTek는 그렇...
MediaTek와 마찬가지로 Qualcomm도 Meta와 계약을 체결하여 2024년부터 최상위 칩을 탑재한 스마트폰에서 Llama 기반 애플리케이션의 장치 내 처리를 보여줄 것입니다. 두 회사는 차량, XR 하드웨어, 스마트 홈 장치 등 다른 응용 분야도 대상으로 삼고 있으며, 최고 수준의 실리콘에 의해 지원되는 장치 내 생성 AI 노력을 추진하고 있습니다.
MediaTek의 다가오는 AI 친화적인 최상위 칩에서는 “변환기 기반 가속화”를 기반으로 하는 강화된 APU (AI 처리 유닛)도 사용될 예정입니다. 변환기는 GPT (Generative Pre-Trained Transformers)와 같은 큰 언어 모델을 생성하는 데 사용되는 특정 유형의 신경망 아키텍처입니다. ChatGPT나 Microsoft의 Bing 챗과 같은 제품이 이를 기반으로 만들어졌습니다.
마지막으로, MediaTek의 새로운 칩은 Llama 기반 생성 AI 앱의 사용자 경험을 향상시키기 위해 DRAM 모듈을 사용할 것입니다. DRAM은 앱의 작동 데이터를 저장하는 고속, 저지연성 메모리 모듈인 동적 랜덤 메모리의 약자입니다. 폰에 사용되는 DRAM이 많을수록 배경에서 문제 없이 실행할 수 있는 앱의 수도 늘어납니다. OnePlus와 같은 스마트폰 제조사들이 폰에 최대 24GB의 DRAM을 장착한 이유가 있습니다.
이러한 AI 업그레이드가 의미하는 것
앞서 언급한 수정 사항을 통해 MediaTek는 다가오는 AI 칩을 통해 LLM 및 AIGC (인공지능 생성 콘텐츠) 경험을 로컬 하드웨어로 대부분의 처리 요구 사항을 이전하여 향상시킬 것이라고 합니다.
속도가 향상될 수 있는 작업의 종류는 Meta의 Llama 2 모델의 능력과 그 위에 구축된 앱의 종류에 따라 다를 것입니다. Llama 2는 텍스트 기반 자연어 모델이므로 ChatGPT나 Bard와 같은 기능을 기대할 수 있습니다. 쿼리를 처리하고 훈련 데이터셋을 기반으로 답변을 제공하며, 텍스트를 요약하거나 확장하는 등의 작업을 수행할 수 있습니다.
MediaTek에 대해서는 이것이 처음이 아닌 AI 파트너십입니다. 올해 7월에는 회사가 Unity의 중국 지사와 계약을 맺어 게임 개발 엔진인 Unity에서 제작한 응용 프로그램에서 생성적 AI 응용 프로그램을 탐색하기로 했습니다.
MediaTek은 Llama 2 앱을 탑재한 새 칩이 연말까지 스마트폰에 도착할 것으로 기대하고 있으므로 실제 제품에서 이 모든 것이 어떻게 보일지 기다려야 할 시간은 그리 길지 않습니다.
