MediaTek współpracuje z Alibaba Cloud w zakresie dużych modeli układów mobilnych

Źródło:www.ichunt.com

Według Sci-Tech Innovation Board Daily, MediaTek, producent chipów do smartfonów, z powodzeniem wdrożył duże modele z 1,8 miliardem i 4 miliardami parametrów w swoich flagowych chipach, takich jak Dimensity 9300, osiągając głęboką adaptację dużego modelu na chipach mobilnych i umożliwiając Tongyi Qianwen prowadzenie wielu rund dialogu AI nawet w sytuacjach offline. W przyszłości obie strony dostosują także więcej dużych modeli o różnych rozmiarach, w tym jeden z 7 miliardami parametrów, opartymi na chipie Dimensity.

Alibaba Cloud oświadczyła, że ​​będzie ściśle współpracować z MediaTek, aby zapewnić kompleksowe rozwiązania dla dużych modeli globalnym producentom telefonów komórkowych.

Obecnie MediaTek jest firmą produkującą półprzewodniki z największą na świecie dostawą chipów do smartfonów. Według najnowszych danych Canalys w czwartym kwartale 2023 r. sprzedał ponad 117 milionów sztuk, zajmując pierwsze miejsce, za nim plasuje się Apple z 78 milionami przesyłek i Qualcomm z 69 milionami przesyłek. Tongyi Qianwen to podstawowy duży model opracowany przez Alibaba Cloud. Do tej pory wypuścił wersje zawierające aż 100 miliardów parametrów oraz wersje open source z 72 miliardami, 14 miliardami, 7 miliardami, 4 miliardami, 1,8 miliarda i 500 milionami parametrów, a także multimodalne duże modele, takie jak model zrozumienia wizualnego Qwen-VL i duży model dźwięku Qwen-Audio.

Podczas MWC2024 MediaTek zaprezentował różne aplikacje sztucznej inteligencji, w tym chipy Dimensity 9300 i 8300. Przyjmuje się, że chip Dimensity 9300 obsługiwał już zastosowanie za granicą dużego modelu Meta Llama 2 o 7 miliardach parametrów i został wdrożony w telefonach z serii vivo X100 w Chinach z dużym modelem językowym o 7 miliardach parametrów na stronie końcowej, a także pomyślnie uruchomił model zawierający 13 miliardów parametrów w środowisku eksperymentalnym strony końcowej.

Współpraca pomiędzy MediaTek i Alibaba Cloud to pierwszy raz, kiedy duży model Tongyi osiągnął adaptację sprzętu i oprogramowania na poziomie chipa. Xu Dong, dyrektor biznesowy Tongyi Lab w Alibaba, wyjaśnił: „Sztuczna sztuczna inteligencja od strony końcowej jest jednym z ważnych scenariuszy stosowania dużych modeli, ale stoi przed wieloma wyzwaniami, takimi jak trudności z adaptacją sprzętu i oprogramowania oraz niekompletne środowiska programistyczne. Cloud i MediaTek przezwyciężyły szereg wyzwań technicznych i inżynieryjnych związanych z podstawową adaptacją i rozwojem na wyższym poziomie, prawdziwie integrując duży model z mobilnym chipem i badając nowy model wdrażania Model-on-Chip dla sztucznej inteligencji po stronie końcowej.

Oprócz MediaTeka Qualcomm aktywnie promuje także wdrażanie dużych modeli na urządzeniach mobilnych. 18 marca Qualcomm ogłosił wprowadzenie na rynek platformy mobilnej Snapdragon 8s trzeciej generacji, która obsługuje duże modele językowe z aż 10 miliardami parametrów, a także może obsługiwać multimodalne generatywne modele AI, w tym Baichuan-7B, Gemini Nano, Llama 2 i Zhipu ChatGLM takich firm jak Baidu Xiriver, Google i META. Według doniesień Xiaomi Civi 4 Pro jako pierwszy będzie wyposażony w platformę mobilną Snapdragon 8s.

Analityk branży elektroniki użytkowej stwierdził, że współpraca Alibaba Cloud i MediaTek oznacza, że ​​krajowi producenci telefonów komórkowych mają teraz alternatywę dla Baidu.

Według ustaleń reportera Honor i Samsung już wcześniej zapowiadały współpracę z Baidu Wenxin Yiyan. Na przykład najnowszy flagowy telefon Samsunga, seria Galaxy S24, integruje wiele funkcji dużego modelu Wenxin, w tym wykonywanie połączeń telefonicznych, tłumaczenie i inteligentne podsumowywanie. Dodatkowo źródło ujawniło, że Apple jest obecnie w kontakcie z Baidu, mając nadzieję na wykorzystanie technologii sztucznej inteligencji Baidu, a wstępne rozmowy odbyły się już między obiema stronami.

Lin Dahua, czołowy naukowiec z Szanghajskiego Laboratorium Sztucznej Inteligencji, stwierdził, że wraz z wykładniczym wzrostem dużych modeli opartych na chmurze, strona końcowa wkrótce wkroczy w złoty okres wzrostu. Współpraca w chmurze stanie się ważnym trendem w przyszłości, gdzie przetwarzanie po stronie chmury wyznaczy pułap, a przetwarzanie po stronie końcowej będzie wspierać przyjęcie rozwiązań przez użytkowników na dużą skalę.

Według przewidywań firmy konsultingowej IDC w 2024 roku wolumen dostaw smartfonów na rynek chiński wyniesie 277 mln sztuk, przy stopie wzrostu rok do roku na poziomie 2,3%. Wśród nich wolumen dostaw telefonów AI sięgnie 36,6 miliona, a dynamika wzrostu rok do roku przekroczy trzycyfrową liczbę. Stosowanie dużych modeli AI w telefonach komórkowych stanie się coraz bardziej powszechne.