Развитие мобильного ИИ: обучение моделей LLM прямо на смартфонах

Dimensity 9400 от MediaTek представляет собой прорыв в области мобильного искусственного интеллекта (ИИ), открывая новые возможности для пользователей, включая обучение больших языковых моделей (LLM) непосредственно на устройствах. Это сочетание высокой производительности с энергоэффективностью идеально подходит для требовательных задач, таких как игры, обработка изображений и приложения Edge AI.

Переход искусственного интеллекта с облачных платформ на локальные устройства, такие как смартфоны и ПК, является важным этапом в развитии Edge AI. Приложения, использующие генеративный ИИ (например, ChatGPT), привлекли огромное внимание, но проблемы, связанные с недостаточной вычислительной мощностью и высоким потреблением энергии, до сих пор препятствуют интеграции LLM в мобильные устройства.

Возможность персонализированного обучения LLM непосредственно на смартфонах, адаптированных под нужды каждого пользователя, может стать таким же важным прорывом, как и сам смартфон более десяти лет назад. Эта инновация открывает путь к мощным локальным ИИ-решениям, которые будут работать быстро и эффективно, без зависимости от облачных сервисов.

MediaTek Dimensity 9400: новая эра мобильного ИИ

Чипсет Dimensity 9400 от MediaTek представляет собой важный этап в развитии мобильного ИИ, предлагая революционные возможности благодаря продвинутой архитектуре второго поколения. Построенный на базе больших ядер, он объединяет CPU, GPU и NPU Arm v9.2, обеспечивая мощный Edge AI, реалистичный игровой опыт и высокое качество обработки изображений. Этот чипсет ориентирован на флагманские устройства, поддерживающие 5G, и отличается выдающимся соотношением производительности и энергоэффективности.

Использование 3-нм процесса второго поколения от TSMC позволяет снизить энергопотребление чипсета на 40% по сравнению с предыдущими версиями, делая его более экономичным и долговечным. Архитектура процессора включает одно высокопроизводительное ядро Cortex-X925 с частотой до 3,62 ГГц, три мощных ядра Cortex-X4 и четыре энергоэффективных ядра Cortex-A720, что даёт прирост производительности на 35% для одного ядра и на 28% при выполнении многозадачных операций.

Особенностью является восьмое поколение AI-процессора MediaTek (NPU 890), который позволяет выполнять такие задачи, как обучение LoRA, генерация изображений и обработка данных непосредственно на устройстве. Это расширяет возможности генеративного ИИ, а встроенный движок Dimensity Agentic AI делает работу с искусственным интеллектом более быстрой, эффективной и адаптивной под задачи пользователя.

Обучение LLM и персонализированный опыт работы с ИИ

Dimensity 9400 позволяет обучать LLM непосредственно на смартфонах, создавая модели, которые учитывают привычки пользователей. Это открывает возможности для Agentic AI-приложений, которые могут предугадывать потребности пользователей, рекомендовать действия и улучшать общий пользовательский опыт. Чипсет внедряет элементы рассуждений и автономности в выполнение задач, что делает модели ИИ более интерактивными и индивидуальными.

MediaTek активно сотрудничает с разработчиками, упрощая интеграцию ИИ между Edge-устройствами и облачными сервисами через единый интерфейс для ИИ-агентов, сторонних приложений и моделей. Это ускоряет разработку продуктов и укрепляет экосистему генеративного ИИ.

Расширенные возможности для игр, фотографий и связи

Dimensity 9400 не ограничивается ИИ, трансформируя мобильные игры, фотографию и связь. Его 12-ядерный GPU Arm Immortalis-G925 и игровой движок Dimensity OMM с трассировкой лучей класса ПК создают реалистичное освещение в играх. Флагманский Imagiq 1090 ISP улучшает фотографию благодаря HDR в полном диапазоне, обеспечивая плавное увеличение масштаба и чёткое отслеживание движущихся объектов.

На уровне связи модем 5G, основанный на спецификациях 3GPP Release 17, поддерживает использование двух SIM-карт и данных. Улучшенный Wi-Fi/Bluetooth-чип обеспечивает скорости Wi-Fi 7 до 7,3 Гбит/с с увеличенным радиусом действия, предлагая пользователям плавный беспроводной опыт.

Эффективность и производительность

Чипсет Dimensity 9400 обеспечивает баланс между производительностью, управляемой ИИ, и энергопотреблением. Обработка запросов LLM ускоряется на 80%, при этом энергопотребление сокращается на 35%. Производительность GPU увеличивается на 41%, а потребление энергии снижается на 44%. Даже обработка видео и изображений оптимизирована для сокращения энергопотребления на 14%, что позволяет увеличить время работы аккумулятора при сохранении высокой производительности.

Поддержка складных смартфонов добавляет гибкость для производителей, открывая возможности для создания универсальных дизайнов с мощным Edge AI, захватывающим игровым процессом и высоким качеством изображения. Этот баланс инноваций и эффективности может переопределить рынок смартфонов, знаменуя новую эру персонализированных технологий на базе ИИ.