Быстрое развертывание пограничных приложений

Традиционная парадигма приложений искусственного интеллекта часто предполагает отправку данных с локальных устройств на централизованный облачный сервер для анализа и обработки. Хотя такой подход эффективен во многих сценариях, он имеет свои ограничения, включая задержку, повышенную пропускную способность, а также проблемы, связанные с конфиденциальностью и безопасностью. Решение этих проблем кроется в концепции "доведения ИИ до края", когда обработка ИИ происходит ближе к источнику данных, смягчая эти проблемы за счет выполнения вычислений непосредственно на устройстве или в непосредственной близости от него.

Фабрицио Дель Маффео, соучредитель и генеральный директор Axelera AI, рассказал о последних достижениях компании в интервью EE Times. Он также отметил, что в совет директоров Axelera вошел бывший руководитель Arm, что свидетельствует о значительных достижениях в отрасли.

Цель Axelera

В основе миссии компании Axelera лежит стремление к демократизации доступа к передовым продуктам искусственного интеллекта.

Эта миссия строится на трех основополагающих принципах:

• Передовые и специально разработанные технологии. Axelera стремится превратиться из просто интригующей технологии в широко распространенное решение, которое значительно улучшает функциональность и раскрывает новые рыночные потенциалы.
• Упрощенный пользовательский опыт. В Axelera считают, что использование искусственного интеллекта не должно требовать специальных знаний. Создание удобной технологии позволяет широкому кругу разработчиков легко работать с продуктами Axelera.
• Гарантия доступности. Дель Маффео подчеркивает, что создание замечательных технологий — это один аспект, а обеспечение доступности — другой. "Представляя экономически эффективные решения в области искусственного интеллекта, мы гарантируем, что предприятия любого размера смогут принять участие в этой технологической трансформации", — пояснил он. "Снимая финансовые барьеры, мы делаем передовой ИИ доступным, позволяя более широкому кругу компаний оставаться конкурентоспособными".

С момента своего создания всего два года назад компания Axelera пережила стремительный рост. В рамках инициативы раннего доступа было привлечено 850 заявок и установлены активные связи с более чем 150 компаниями, двенадцать из которых уже находятся в процессе интеграции этого инновационного решения.

"В финансовом плане мы получили значительное финансирование в размере 50 миллионов долларов, что позволило собрать крепкую команду, состоящую из 140 специалистов, 45 из которых являются докторами наук ведущих европейских университетов", — подчеркнул дель Маффео. "Кроме того, мы расширили свое присутствие и теперь работаем в 15 странах".

Программно-аппаратный подход к ИИ

По словам Акселера, нынешние технологии для выполнения выводов ИИ на пограничных устройствах не подходят для этой цели. Вычислительные архитектуры изначально разрабатывались для центров обработки данных, которые не имеют тех же ограничений по стоимости, мощности и масштабируемости, что устройства на границе.

"Эти устройства должны работать безопасно и эффективно, часто с нулевой задержкой и без подключения к сети", — говорит дель Маффео. "Более того, с ростом сложности моделей нейронных сетей растет и энергопотребление, что усугубляет проблему для устройств, работающих от батарей".

Чтобы удовлетворить потребности краевых приложений ИИ, компания Axelera разработала комплексную программно-аппаратную платформу. Первое поколение процессоров искусственного интеллекта (AIPU), Metis, способно обеспечить от 2х до 5х более высокую пропускную способность по сравнению с конкурентами и до 5х более высокую эффективность по сравнению с предложениями лидеров рынка.

Недавно компания Axelera передала свою программно-аппаратную платформу Metis AI заказчикам. Чтобы упростить ИИ на границе и сделать его более доступным для всех, компания создала платформу AI-native, которая включает в себя как Metis AIPU, так и комплект разработки программного обеспечения (SDK) Voyager.

"Аппаратное и программное обеспечение было создано "рука об руку", поэтому оно безупречно интегрируется, обеспечивая высокую производительность и удобство использования при меньшей стоимости и меньшем энергопотреблении, чем у существующих сегодня решений", — говорит Дель Маффео.

В основе AIPU лежит запатентованная и масштабируемая технология цифровых вычислений в памяти (D-IMC) и технология управляемого потока данных RISC-V. Кроме того, встроенный механизм безопасности защищает данные и информацию с помощью сложного шифрования, обеспечивая безопасность конфиденциальных биометрических данных. В отличие от аналоговых вычислений в памяти, D-IMC Axelera не подвержена влиянию шумов и неидеальностей памяти, которые влияют на точность аналоговых матрично-векторных операций, а также на детерминированный характер и повторяемость результатов матрично-векторного умножения.

Технология интегрирована в карты AI acceleration, платы AI acceleration и системы AI acceleration vision-ready, которые доступны для широкой публики. Это позволяет малым и средним предприятиям ускорить внедрение и упростить установку на местах. Продукты Axelera будут доступны по всему миру, делая ИИ доступным для любого разработчика в мире.

"Наш программный стек Voyager SDK, созданный совместно с нашим Metis AIPU, предназначен для обеспечения бесперебойной работы. Он предоставляет разработчикам программного обеспечения простые и доступные нейронные сети, предназначенные для приложений компьютерного зрения. В будущем мы планируем расширить эту функциональность, включив в нее обработку естественного языка, чтобы удовлетворить потребности разработчиков, стремящихся к беспрепятственной интеграции искусственного интеллекта в свои устройства", — отметил дель Маффео.

Недавно компания Axelera объявила о включении в состав совета директоров Индера Сингха, бывшего финансового директора Arm и Unisys. Сингх будет возглавлять комитет по аудиту и предлагать рекомендации по финансовой стратегии, что будет иметь ключевое значение для управления следующими этапами развития Axelera.

"Обширный трехдесятилетний опыт Сингха в области корпоративной стратегии и финансов идеально соответствует целям Axelera AI, поскольку мы стремимся расширить нашу глобальную базу инвесторов и увеличить наше присутствие в Соединенных Штатах", — отметил дель Маффео.

Индер Сингх присоединяется к совету директоров Axelera

Назначение Сингха подчеркивает быструю траекторию роста компании и ее неизменную приверженность революционному развитию технологий искусственного интеллекта, особенно в области пограничных вычислений.

"Глубокий опыт Сингха в области корпоративных финансов и стратегии поможет не только реализовать наши ближайшие инициативы по развитию, но и заложить основу для наших долгосрочных успехов, в том числе для проведения IPO", - пояснил дель Маффео. "Его глубокое понимание финансового управления и отчетности прекрасно дополняет опыт, необходимый для того, чтобы разобраться в тонкостях публичного размещения акций".

Продвижение вперед

Axelera наметила три важнейшие вехи, от которых зависит успех компании и ее лидерство на рынке. Во-первых, расширение производства чипа искусственного интеллекта Metis уже вызвало значительный интерес в отрасли. Во-вторых, команда разработчиков Axelera полностью посвятила себя созданию чипа следующего поколения, чтобы компания сохранила свои передовые позиции на фоне технологических достижений. Наконец, Axelera активизирует усилия по коммерциализации своей платформы Metis AI, удовлетворяя растущий спрос, наблюдаемый в различных секторах.

Кроме того, Axelera заключила партнерство с компанией Advantech для интеграции возможностей вывода данных из центра обработки данных в пограничные устройства. Этот стратегический альянс призван обеспечить клиентов передовыми решениями, объединив опыт Advantech в области встраиваемых и промышленных ПК с передовой технологией искусственного интеллекта Axelera.

Дель Маффео подчеркнул: "Наше сотрудничество направлено на создание надежных, масштабируемых и эффективных решений в области краевого ИИ, которые кардинально изменят методы использования ИИ в компьютерном зрении, обеспечивая бесшовный и интегрированный опыт".

Кроме того, компания Axelera назначила SECO эксклюзивным европейским разработчиком решений для краевого ИИ на базе платформы Metis AI Platform. SECO получит ранний доступ к технологии Axelera и завершит разработку платы разработки и специализированного модуля, соответствующего стандартным форм-факторам.

"Включение этого модуля в линейку продуктов SECO обеспечит высокопроизводительные возможности искусственного интеллекта с минимальной задержкой, что позволит SECO расширить свои предложения в сегменте рынка компьютерного зрения высокого класса", — пояснил дель Маффео.

Следующая статья была первоначально опубликована на сайте EE Times.

Маурицио Ди Паоло Эмилио занимает должность главного редактора журналов Power Electronics News и EEWeb, а также является корреспондентом EE Times. Имея докторскую степень по физике и опыт работы инженером по телекоммуникациям, он участвовал в различных проектах, включая исследование гравитационных волн, разработку системы термокомпенсации (TCS) и проектирование систем сбора данных и управления.

Сотрудничая с Колумбийским университетом, он участвовал в проектах, связанных с рентгеновскими микролучами. Система TCS, над которой он работал, была реализована в экспериментах Virgo и LIGO, оба из которых успешно обнаружили гравитационные волны, за что были удостоены Нобелевской премии в 2017 году. Ранее Маурицио редактировал журналы Firmware и Elettronica Open Source, прежде чем присоединиться к AspenCore в 2019 году. Для получения дополнительной информации следите за Маурицио на LinkedIn.