Корпорация Microsoft, по сообщениям, создала инструментарий, который позволяет исполнять программный код, изначально написанный для платформы Nvidia CUDA, на графических ускорителях от AMD. Эта разработка направлена на ослабление зависимости от доминирующей на рынке ИИ-вычислений экосистемы Nvidia.
Инициатива Microsoft заключается в трансляции кода CUDA в формат, совместимый с программной платформой AMD ROCm. Это позволит компании более эффективно использовать закупленные ею в большом количестве ускорители AMD для задач, связанных с искусственным интеллектом, в частности для инференса, то есть выполнения уже обученных моделей. Такой подход потенциально может снизить затраты, так как решения AMD зачастую являются более доступной альтернативой.
Как сообщается, информация о новом ПО поступила от высокопоставленного сотрудника Microsoft, который упомянул, что компания построила несколько наборов инструментов для помощи в конвертации моделей CUDA в ROCm, что дает возможность запускать их на ускорителях AMD, например, на Instinct MI300X.
Технически, решение Microsoft, вероятно, использует подход, схожий с уже существующими на рынке. Одним из таких примеров является проект ZLUDA — слой совместимости, который «на лету» перехватывает и транслирует вызовы API CUDA в ROCm, не требуя от разработчиков полного переписывания исходного кода.
Несмотря на потенциал этой технологии, отмечается, что платформа ROCm от AMD все еще считается менее зрелой по сравнению с CUDA. Некоторые элементы и вызовы API в экосистеме Nvidia могут не иметь прямых аналогов в ROCm, что в отдельных случаях может приводить к снижению производительности. На данный момент, судя по всему, разработанный Microsoft инструментарий находится в ограниченном внутреннем использовании.
Как говорится за глупости(в данном случае неверные управленческие решения) приходится платить. Вот яркий пример этого. Тут ещё вопрос насколько эта т.н. эмуляция скажется на быстродействии и точности. К тому же платформа ROCm время от времени садится в лужу. То одно не работает нормально то другое.Например, не давно была новость, что ускорители тупо не работали в связке у заказчика, хотя должны были. Чинят, конечно, но осадочек остаётся тем более это всё-таки не ширпотреб.
С другой стороны кто мешает сделать конкурентам реальную альтернативу CUDA. Видимо тоже самое, что и плохому танцору. Поэтому и приходится делать то что, например, делают мелкие остальным, у которых оборудование не от Nvidia. При этом не забывать ругать зеленых но при этом продолжать экономить на качественном железе покупая красных. Ведь железо это не только кремний, но и технологии, которые в нем реализованы, а так же насколько качественна поддержка реализации этих технологий скажем так в сопроводительном ПО. В итоге качественные решения стоят дорого, а более низкого качества дешевле. Мы это и видим. Желание же что-то получить бесплатно или почти бесплатно вполне понятно. Но чудес не бывает. Нравится вам это или нет.
p.s. впрочем, мелкие всё-таки иногда глупости не делают, например Griffin заказан у Интела. Это третье поколение ИИ-ускорителей Microsoft Maia.
они делают свои видеокарты и возможно будет аппаратный блок по типу асика для трансляции на лету. ну и вообще зачем реализовывать всё на видеокартах а не создать специализированное устройство для нейросетей?
Унификация если, одним словом. Если не одним. Это полезно как для клиентов, так и для производителя. Первый получает универсальное решение второй, получает снижение издержек и увеличение продаж. Разумеется, есть и тонкости чудес не бывает. Главная тонкость специализированное устройство всегда будет лучше универсального того же поколения в плане некоторых компонентов качества. В данном случае быстродействия и энергоэффективности прежде всего. Для многих клиентов эти части качества имеют приоритет. Поэтому они скорей всего выберут специализированное устройство. Ну и для производителя это(специализированность) тоже минус иногда. Прежде всего сужение и ограничение рынков сбыта. Следовательно, себестоимость выше. Плюс срок жизни таких устройств ограничен в виду их специализированности, как и рынки, сбыта о которых я упомянул ранее. И это лишь по одному примеру как полезности, так и недостатков как универсальных систем, так и специализированных. Как для клиента так и для производителя. Так что полной унификации никогда не будет, так же как и полной специализации. Всегда будет баланс.
вот как раз ширпотреб и работает как нужно, чаще всего, а такие решения не работают из коробки без проблем. Многие вещи решаются с производителем.
Неужели теперь и владельцы карт AMD смогут нормально генерацию делать?
на амд можно и в нативе поиграть. и вообще нафиг генерацию глобальной делать? всякие там тени, отражения где даже очень корявый результат приемлим пусть генерит. хотя если корявый результат отражиний на мокром асфальте хорош и реалистичнее чем идеальное отражение, то накой там генерация?
Я про ИИ генерацию в ComfyUI. А не про генерацию кадров в играх. Сейчас поддерживаются лишь карты от NVIDIA как раз из-за CUDA.
Жду когда создадут человеко подобных солдат как фильме монстр человек. И он выйдет из под контроля, и начнёт кромсать всех.
ну не всех. а тех кто покупает консоли и видюхи AMD
Лучше всех так веселее.
С этим и обычные люди вполне справляются.
типа можна будет адаптировать физикс под амд карты?
Назревает битва двух Матриц...
китай развивает свои видяхи, интел тоже. монополия станет одним из игроков - будет конкуренция идей и стандартов а не навязывание всем одного стандарта
Монополия это не про конкуренцию, потому как монополисту конкурировать не с кем, да и незачем.
монополист тратит кучу денег чтобы не дать появиться конкурентам, помешать им развиваться.
Майки читеры.
Они всю жизнь с АМД видяхами работают.Чё бы им не слепить?