Появилась информация, согласно которой Microsoft использовала огромное количество видеокарт Nvidia, помогая компании OpenAI проводить обучение своего чат-бота ChatGPT. Об этом стало известно после того, как Microsoft сообщила о значительном обновлении своего алгоритма искусственного интеллекта.
Bloomberg пишет, что OpenAI использовала суперкомпьютер Microsoft на основе десятков тысяч профессиональных видеокарт Nvidia A100. Теперь Microsoft анонсировала новую систему с более современными видеокартами Nvidia H100.
В 2019 году Microsoft вложила в OpenAI миллиард долларов, согласившись создать для этого стартапа суперкомпьютер с применением ИИ. У самой Microsoft необходимого оборудования не было.
Купив видеокарты Nvidia, Microsoft пришлось думать над тем, как их разместить, чтобы не было перебоев с подачей электроэнергии и перегрева. Решение этих вопросов обошлось в несколько сотен миллионов долларов.
Наличие такого большого числа видеокарт A100 требует значительного количества блоков питания. Для них также нужно охлаждение, а ещё требовалось создать программное обеспечение с высокой степенью эффективности, использовать сетевое оборудование с возможностью передавать большие объёмы данных, создать новые кабельные лотки с возможностью их самостоятельного производства, применять несколько методов охлаждения. В зависимости от климата среди вариантов охлаждения были испарение, наружный воздух, болотные охладители.
После первого успеха ChatGPT Microsoft и некоторые конкуренты занялись работой над другими моделями ИИ для использования в поисковых системах и прочих приложениях. Для ускорения работы генеративного ИИ Microsoft представила виртуальную машину ND H100 v5, способную задействовать от 8 до 10 тысяч видеокарт Nvidia H100.
Эти видеокарты подключаются посредством NVSwitch и NVLink 4.0 с пропускной способностью 3,6 ТБ/с пополам между каждой из 8 локальных видеокарт в каждой виртуальной машине. Каждая видеокарта имеет пропускную способность 400 Гбит/с через соединения Nvidia Quantum-2 CX7 InfiniBand и 64 Гбит/с PCIe5. Каждый виртуальная машина обрабатывает 3,2 Тбит/с через неблокирующую сеть вида «Толстое дерево». Ещё система Microsoft использует процессоры Intel Xeon 4-го поколения и 16-канальную оперативную память DDR5 с частотой 4800 МГц.
Microsoft собирается применить эту виртуальную машину для поисковой системы Bing с ИИ, браузера Edge и Microsoft Dynamics 365. Сейчас она уже доступна в виде предварительного просмотра и войдёт в состав предложения Azure.