Nvidia представила революционный графический процессор H200 для обучения искусственного интеллекта
Дата: 2023-11-14 Автор: Dima Zakharov Категории: ТЕХНОЛОГИИ
Nvidia анонсировала графический процессор H200, значительное обновление предыдущего чипа H100, используемого OpenAI для обучения передовой языковой модели GPT-4. Чипы H100 стоят от 25 000 до 40 000 долларов США. Основное улучшение в H200 заключается в наличии памяти следующего поколения типа HBM3 с впечатляющим объемом в 141 ГБ.
По словам представителей Nvidia, H200 сможет генерировать выходные данные почти вдвое быстрее, чем H100, что было продемонстрировано в тестировании с использованием языковой модели Llama 2 LLM от Meta. H200 планируется выпустить на рынок во втором квартале 2024 года, позиционируя его как серьезного конкурента графическому процессору AMD MI300X.
Строго говоря, аналогичный чип от AMD, сопоставимый с H200, обладает дополнительной памятью по сравнению с предыдущими моделями. Nvidia подчеркивает, что H200 обратно совместим с H100, что означает, что компаниям не потребуется изменять свои серверные системы или программное обеспечение для использования новой версии чипа.
По словам представителей Nvidia, H200 сможет генерировать выходные данные почти вдвое быстрее, чем H100, что было продемонстрировано в тестировании с использованием языковой модели Llama 2 LLM от Meta. H200 планируется выпустить на рынок во втором квартале 2024 года, позиционируя его как серьезного конкурента графическому процессору AMD MI300X.
Строго говоря, аналогичный чип от AMD, сопоставимый с H200, обладает дополнительной памятью по сравнению с предыдущими моделями. Nvidia подчеркивает, что H200 обратно совместим с H100, что означает, что компаниям не потребуется изменять свои серверные системы или программное обеспечение для использования новой версии чипа.
