1 сентября в МГУ открыт новый суперкомпьютер, который поможет в проведении научных исследований в области ИИ, решении задач по разработке отечественного ПО и подготовке высококвалифицированных специалистов. Новый суперкомпьютер представили в Московском государственном университете имени М.В. Ломоносова в начале учебного года.
В МГТУ им. Баумана разработали суперкомпьютер, находящий неочевидные связи
Важные даты Рабочие дни конференции и выставки 23 - 24 сентября 2024 г. Для авторов докладов 26 февраля 2024 г. Конференция пройдет в смешанном формате, предполагающем как очное участие, так и онлайн-трансляции и возможности заочного участия. Множество возможностей и событий на одной площадке Ежегодно на одной площадке конференции проходит множество суперкомпьютерных событий.
Суперкомпьютер «Фишер» состоит из 24 вычислительных узлов с 16-ядерными процессорами. В вычислительном кластере используется погружная система охлаждения, обеспечивающая равномерную и энергоэффективную терморегуляцию при любой вычислительной нагрузке. Сеть «Ангара» — это первое российское решение для создания суперкомпьютеров рекордной производительности, вычислительных кластеров для обработки больших данных и расчетов на основе параллельных алгоритмов. Возможности «Ангары» позволяют концентрировать в единой сети мощности тысяч компьютеров, в том числе разных производителей и с разной архитектурой центральных процессоров.
А ниже можно полюбоваться, как аналогичный график с прогнозом до 2100 года выглядит с точки зрения экспертов Денверского университета. Согласитесь, есть разница. На графике выше Китай обогнал США еще в середине 1990-х годов, а ниже это событие отодвинуто на 2030 годы. Впрочем, для России разница невелика. Интерес к подобного рода оценкам понятен. Мериться силами — любимая забава человечества. И подобные рейтинги — далеко не самый худший способ, поэтому сегодня это весьма популярное развлечение предлагает множество всевозможных аналитических агентств и экспертов. Ученые научно-технического университета Китая насчитали 5837 работ в сфере анализа национальной безопасности, опубликованных в 817 журналах за последние 17 лет. Однако не надо путать национальную силу с национальной безопасностью. Национальная сила рассчитывается по валовым показателям, а национальная безопасность — по удельным. Национальная сила чаще всего трактуется как способность государства успешно вести войну с внешним врагом, а национальную безопасность определяется его возможностью справиться с внутренними проблемами. Можно даже сказать, что при анализе национальной безопасности определяют не силу государства, а его слабость. Но знать последнее едва ли не важнее. В практическом плане подсчеты рейтингов национальной силы и национальной безопасности сводятся, как правило, к сравнению ряда экономико-статистических показателей, умноженных на весовые коэффициенты, определяющие важность того или иного параметра.
Поэтому стали собирать новое решение, «расшивая» все узкие места интерконнекта. Попутно столкнулись и с другими сложностями. Яндекс, в свою очередь, уже много лет живёт в дата-центрах IPv6-only. Фиксы, кстати, выкладываем в опенсорс. Первые кластеры Первый мини-кластер GPU, созданный специально под задачи применения трансформеров c учётом описанных выше узких мест, появился у нас во владимирском дата-центре летом 2020 года. В кластере было 62 узла по 8 GPU в каждом — всего 496 видеокарт. Казалось бы, сотни видеокарт! Но этого по-прежнему было мало для наших задач, хотя кластер и помог нам начать внедрять трансформеры для улучшения Поиска. Затем в другом нашем ДЦ, в городе Сасово в Рязанской области, появился первый большой кластер. Мы назвали его в честь Алексея Ляпунова — знаменитого математика, чьи работы лежат в основе кибернетики и теории машинного обучения. Пришлось искать причины и оптимизировать. Коллеги из локального офиса NVIDIA посоветовали потратить ещё несколько дней на замеры производительности, чтобы зарегистрировать кластер в списке Top500. Но в тот момент мы от этого отказались: торопились отдать кластер нашим ML-инженерам, чтобы загрузить его работой уже на новогодние праздники. Тем более, что тогда мы ещё не осознавали никакой практической пользы от замеров. Логично было распространить этот опыт и на GPU. Для размещения кластеров выбрали недавно переданные в эксплуатацию модули в дата-центрах Сасово и Владимира. Сами кластеры назвали соответственно «Червоненкис» в честь Алексея Червоненкиса, одного из крупнейших теоретиков машинного обучения и «Галушкин» Александр Галушкин — один из главных исследователей теории нейронных сетей. Размер обусловлен встроенной системой охлаждения. Они связывают GPU для вычислений. Это продиктовано энергопотреблением — до 20 кВт. Cloud, но об этом поговорим в другой раз. Обратите внимание на отсутствие любых декоративных пластиковых элементов. Зато есть много свободного места, чтобы воздух мог обдувать огромные радиаторы GPU в центре, именно за счёт этого получается экономить электричество на охлаждении. В кластере 199 серверов с GPU — такое количество обусловлено экономической целесообразностью сборки ядра Infiniband по стандартной схеме на 800 портов с использованием 40-портовых 1U HDR-коммутаторов. Двухсотый сервер не имеет GPU в своем составе и используется для управления сетью Infiniband. Это позволило создавать кластеры в два раза большего размера по сравнению с коробочным решением SuperPod. Например, вот так выглядят типичные итерации обучения. О г—Замеры После успешного решения этих и других проблем мы наконец-то получили заветное линейное масштабирование на 152 хостах, доступных на тот момент. Получилось 15,2 петафлопса. Но была одна проблема: пока мы настраивали кластер, закрылось окно подачи в июньский рейтинг. Мы опоздали буквально на одну неделю. Поэтому решили взять паузу с замерами linpack до осени. За это время мы внедрили все найденные оптимизации на новых кластерах и отдали их пользователям — разработчикам и инженерам внутри компании. Кластер «Ляпунов» решили пока не выводить на обслуживание, потому что он в два раза меньше и у нас не было уверенности, что в нём проявится баг с адаптивным роутингом. Обслуживание означало задержку в расчётах критически важных ML-обучений. Поэтому тоже решили отложить до осени. Первый замер 8 октября мы провели первый замер всех трёх кластеров. ML-инженеры согласились отдать кластеры всего на несколько часов: за это время нужно было сделать несколько прогонов, чтобы подобрать оптимальные параметры. Стало очевидно, что проблема с адаптивным роутингом влияет на него больше, чем мы полагали. Мы решили выводить кластер на обслуживание как можно раньше. Второй замер 19 октября «Ляпунов» был успешно обновлён. Теперь самое интересное. Это очень круто. В процессе второго замера обратили внимание, что график сети продолжает быть нестабильным. Как выяснилось, проблема в эффекте резонанса мониторинговых сервисов. Третий замер Буквально на прошлой неделе мы закончили монтаж новых стоек — число узлов в кластере «Галушкин» должно увеличиться со 104 до 195.
Созданный в МГУ суперкомпьютер вернет России лидерство в этой сфере
Современные суперкомпьютеры строятся по кластерному принципу и представляют собой большое число мощных вычислительных узлов, соединенных высокоскоростной локальной сетью», — сообщили в министерстве. Как сообщили в пресс-службе министерства, суперкомпьютер «Афалина» применяется для решения научных задач по нескольким направлениям: для расчета процессов в глобальной климатической системе, создания фрагмента национального геномного банка данных растений, молекулярного моделирования, а также цифровизации Севастополя. Например, проанализировав данные генома растений, ученые могут составить генетический «портрет» изучаемого объекта — бактерии, виноградной лозы, моллюска и других. При этом они не только видят, какие гены есть у объекта исследования в общем, но и более конкретную информацию: какие элементы генома использовались чаще, какие — реже. В результате исследователи могут установить и то, какие факторы и как именно влияли на развитие выбранного существа или растения.
Источник фото: Pixabay Трудности перевода Разработка кажется перспективной, однако на практике ее пока затруднительно использовать, рассказал Попов. По его словам, для работы процессора исходная информация должна быть записана как графы, а в большинстве случаев базы данных систематизированы в табличном формате. Есть несколько вариантов решений этой проблемы. Во-первых, составление новых баз данных графовым способом, во-вторых, преобразование табличных архивов в графовые. Но на оба варианта требуется много времени. Андреев из ИВК считает, что разработка является актуальной пока только для исследовательской деятельности. Для IT-индустрии ее пока не применить, потому что она движется в сторону уплотнения транзисторов в процессорах, не считаясь с альтернативными системами вычисления. Однако ситуация может резко измениться, добавил он.
По словам Попова, проектом заинтересовались в Департаменте информационных технологий Москвы и Центре системной биологии при Роспотребнадзоре. Пока «Тераграф» будет на пилотном использовании в университете им. Однако суперкомпьютер могут использовать для расчета угроз безопасности государства на основе подготовленных разработчиками графов. Попов рассказал, что проект начнется до конца года.
Широко внедряться в войска она начала с 2005 года на среднем оперативно-тактическом уровне. В 2014 году у неё появился и стратегический уровень, известный нам как Национальный центр управления обороной. Успешно функционирует система и на тактическом звене. Всё это вместе позволяет снабжать наш суперкомпьютер всесторонней и качественной информацией, а уж людям принимать на её основе решения.
Практика доказала, что схема работает. Самый наглядный пример — это, конечно же, Сирия. Система рассчитала, что для нормализации обстановки туда не нужно гнать сотни тысяч военных, достаточно небольшой группировки ВКС, ВМФ, спецназа и военной полиции. Другой пример — это Венесуэла. Все вы помните, что до вмешательства в ситуацию России казалось, что крах Мадуро неминуем, а его противника Гуайдо западные страны поспешили провозгласить новым президентом. Но вмешательство России, которое обошлось даже без военной силы, позволило стабилизировать обстановку. В итоге на сегодняшний день протесты против Мадуро сошли на нет, кровопролития удалось избежать, а экономика постепенно начала восстанавливаться. Доподлинно известно, что в этом процессе были задействованы мощности нашего Национального центра обороны.
В общем, система работает, но возникают вопросы о её защищённости и возможностях развития. Военплан Конечно, говоря о суперкомпьютере Минобороны, мы подразумеваем не какой-то один ящик с электроникой, который стоит у всех на виду в центре Москвы. Это геораспределённая сеть, спроектированная таким образом, что даже физическая потеря её части не скажется на работоспособности всей системы, на то она и военная. Также мы можем говорить о существовании автономного военного "интернета", который нигде не пересекается с глобальной сетью. При этом существующая система позволяет Минобороны координироваться с десятками гражданских министерств и ведомств, тысячами коммерческих структур, которые могут быть задействованы для тех или иных задач. То есть, по сути, уже создана автономная электронная система планового управления страной, правда пока её функционал ограничивается военными задачами. Но вспомним слова Шойгу о возможностях расширения системы и включения в её состав новых модулей.
Такой эффект достигается благодаря параллелизму при обработке сложных моделей данных, что позволяет Леонарду Эйлеру обрабатывать до 120 млн вершин графов в секунду. Используя многоядерные микропроцессоры Leonhard, в МГТУ и построили суперкомпьютер «Тераграф», способный обрабатывать графы сверхбольшой размерности до 1 трлн вершин 1012.
В заключение в ведомстве обратили внимание на важность аппаратной поддержки дискретной математики, поскольку большинство вычислительных задач по своей сути являются дискретными, то есть требующими обработки множеств чисел. Речь идет о многочисленных задачах оптимизации, задачах на графах и задачах машинного обучения. И хотя арифметическая обработка к примеру, сравнение чисел тоже важна, она составляет лишь небольшую часть действий в алгоритмах оптимизации. Основное же время у современных вычислительных систем уходит на поиск информации, перебор элементов множеств и т.
Шаг в будущее: возможности нового российского суперкомпьютера
В рейтинге Тор500 самых мощных мировых суперкомпьютеров проект «Яндекс» под названием «Червоненкис» занял 19 место в общемировом зачёте, и, таким образом, стал самым мощным решением в России и Восточной Европе. В Росгидромете запустят повышающий качество прогнозов суперкомпьютер К концу 2018 года в России будет запущен новый суперкомпьютер, который займется прогнозированием опасных погодных явлений, рассказали в Росгидрометцентре. В списке суперкомпьютеров 2017 года, по данным Википедии, российские занимали три позиции 63, 227 и 412 места.
Фотонный суперкомпьютер запатентовали в России
По словам директора ЛИТ Владимира Коренькова, с помощью этой части системы будут решаться задачи, связанные с искусственным интеллектом и машинным обучением. По мнению Дмитрия Подгайного, уникальность нового суперкомпьютера в том, что это гетерогенная система, в то время как в мире преимущественно используются гомогенные, то есть состоящие только из центральных процессоров без ускорителей или из процессоров с ускорителями, но одного вида. В то же время в суперкомпьютере ОИЯИ используются графические ускорители и процессоры двух видов. В этом аспекте новый суперкомпьютер выступает прямым наследником гетерогенного кластера для параллельных вычислений HybriLIT, который является частью Многофункционального информационно-вычислительного комплекса ОИЯИ с февраля 2015 года. Суперкомпьютер будет использоваться в первую очередь физиками-теоретиками, которые работают в ОИЯИ. Сейчас они вынуждены при необходимости пользоваться вычислительными мощностями суперкомпьютеров удаленно. Суперкомпьютер будет задействован сотрудниками ОИЯИ для решения задач квантовой хромодинамики на решетке. На нем будут моделироваться эксперименты и процессы, происходящие на коллайдере протонов и тяжелых ионов NICA для воссоздания в лабораторных условиях особого состояния вещества, в котором, как считают ученые, пребывала наша Вселенная в первые мгновения после Большого взрыва. Создание коллайдера началось в лаборатории физики высоких энергий ОИЯИ в 2013 году. Собственно, NICA и стал одной из причин того, что руководство института приняло решение приобрести суперкомпьютер.
Строительство коллайдера планируется закончить в 2020 году.
Но проблема была в том, что обучение таких моделей требует огромных вычислительных мощностей. Например, если обучать модель с нуля на обычном сервере, на это потребуется 40 лет, а если на одном GPU-ускорителе V100 — 10 лет. Но хорошая новость в том, что задача обучения легко параллелится, и если задействовать хотя бы 256 тех же самых V100, соединить их быстрым интерконнектом, то задачу можно решить всего за две недели. Сейчас мы такую задачу можем решить за несколько часов, но об этом позже. Мы попробовали собрать «нулевой» кластер буквально из того, что было под рукой. Результаты замеров показали низкий КПД масштабирования. В попытках понять причину придумали методику оценки, которая не требовала глубокого понимания алгоритма работы конкретного обучения. Достаточно построить график потребления энергии и обмена трафиком в одном масштабе. Обучение идет повторяющимися итерациями: 1.
Каждый GPU получает свой batch и обсчитывает его синяя ступенька 2. Затем GPU обменивается по сети с соседями посчитанными результатами зелёная ступенька 3. GOTO 1 На графике сразу же виден корень проблемы. Не самый эффективный способ использовать железо, согласитесь. Эксперименты на таком кластере проводить можно, но считать что-то серьёзное — нереально. Поэтому стали собирать новое решение, «расшивая» все узкие места интерконнекта. Попутно столкнулись и с другими сложностями. Яндекс, в свою очередь, уже много лет живёт в дата-центрах IPv6-only. Фиксы, кстати, выкладываем в опенсорс. Первые кластеры Первый мини-кластер GPU, созданный специально под задачи применения трансформеров c учётом описанных выше узких мест, появился у нас во владимирском дата-центре летом 2020 года.
В кластере было 62 узла по 8 GPU в каждом — всего 496 видеокарт. Казалось бы, сотни видеокарт! Но этого по-прежнему было мало для наших задач, хотя кластер и помог нам начать внедрять трансформеры для улучшения Поиска. Затем в другом нашем ДЦ, в городе Сасово в Рязанской области, появился первый большой кластер. Мы назвали его в честь Алексея Ляпунова — знаменитого математика, чьи работы лежат в основе кибернетики и теории машинного обучения. Пришлось искать причины и оптимизировать. Коллеги из локального офиса NVIDIA посоветовали потратить ещё несколько дней на замеры производительности, чтобы зарегистрировать кластер в списке Top500. Но в тот момент мы от этого отказались: торопились отдать кластер нашим ML-инженерам, чтобы загрузить его работой уже на новогодние праздники. Тем более, что тогда мы ещё не осознавали никакой практической пользы от замеров. Логично было распространить этот опыт и на GPU.
Для размещения кластеров выбрали недавно переданные в эксплуатацию модули в дата-центрах Сасово и Владимира. Сами кластеры назвали соответственно «Червоненкис» в честь Алексея Червоненкиса, одного из крупнейших теоретиков машинного обучения и «Галушкин» Александр Галушкин — один из главных исследователей теории нейронных сетей. Размер обусловлен встроенной системой охлаждения. Они связывают GPU для вычислений. Это продиктовано энергопотреблением — до 20 кВт. Cloud, но об этом поговорим в другой раз. Обратите внимание на отсутствие любых декоративных пластиковых элементов. Зато есть много свободного места, чтобы воздух мог обдувать огромные радиаторы GPU в центре, именно за счёт этого получается экономить электричество на охлаждении. В кластере 199 серверов с GPU — такое количество обусловлено экономической целесообразностью сборки ядра Infiniband по стандартной схеме на 800 портов с использованием 40-портовых 1U HDR-коммутаторов. Двухсотый сервер не имеет GPU в своем составе и используется для управления сетью Infiniband.
Это позволило создавать кластеры в два раза большего размера по сравнению с коробочным решением SuperPod. Например, вот так выглядят типичные итерации обучения. О г—Замеры После успешного решения этих и других проблем мы наконец-то получили заветное линейное масштабирование на 152 хостах, доступных на тот момент. Получилось 15,2 петафлопса. Но была одна проблема: пока мы настраивали кластер, закрылось окно подачи в июньский рейтинг. Мы опоздали буквально на одну неделю. Поэтому решили взять паузу с замерами linpack до осени.
Компания «Яндекс» использует свои суперкомпьютеры для обучения нейросетевых моделей.
Возможности суперкомпьютеров помогают переводчику «Яндекс» точнее и быстрее переводить с иностранных языков, а «Алисе» поддерживать живой диалог с пользователем.
Он включает 199 вычислительных узлов, связанных высокоскоростной сетью Infiniband HDR с пропускной способностью 800 гигабит в секунду. Яндекс ввел «Червоненкиса» в эксплуатацию в июне. В ноябрьский список TOP500 кроме «Червоненкиса» вошли еще два суперкомпьютера Яндекса, которые тоже не были анонсированы ранее: «Галушкин» с мощностью 16,02 петафлопса стал вторым в России и 36-м в мире, а «Ляпунов» показал производительность в 12,81 петафлопса, и его признали третьим в России и 40-м в мире. На первой строчке мирового рейтинга осталась японская машина Fugaku с производительностью 442 петафлопса, на втором месте построенный IBM компьютер Summit, установленный в Окриджской национальной лаборатории 148 петафлопс , и на третьем — система Sierra, аналогичная Summit, установленная в Ливерморской лаборатории 94,6 петафлопса. Первые суперкомпьютеры занимались в основном оборонными вычислениями, связанными с атомным и термоядерным оружием.
Сбербанк сообщил о создании мощнейшего суперкомпьютера в России
В Новосибирске учёные разработали и запустили суперкомпьютер, который обладает впечатляющей вычислительной мощностью. Сейчас семь российских суперкомпьютеров входят в мировой рейтинг Топ500. Будем прорываться: российские суперкомпьютеры По открытым данным, самый мощный в России суперкомпьютер – «Червоненкис» «Яндекса». Один из пяти самых мощных суперкомпьютеров, которые установлены в российских вузах, находится в Севастопольском государственном университете. В России появится очень быстрый суперкомпьютер – фотонный. Над ним работают ученые Научно-исследовательского центра супер ЭВМ и нейрокомпьютеров в Таганроге. Важные новости. Модульное решение «РСК Экзастрим ИИ» для развития инфраструктуры искусственного интеллекта в России.
Ростех создал модульный суперкомпьютер «Фишер» для Российской академии наук
В Новосибирске учёные разработали и запустили суперкомпьютер, который обладает впечатляющей вычислительной мощностью. На днях на выставке «Цифровая индустрия промышленной России» в Нижнем Новгороде, доцент кафедры компьютерных систем и сетей МГТУ имени Баумана Алексей Попов представил 24-ядерный микропроцессор «Леонард Эйлер» и суперкомпьютер «Тераграф». новости. россия. суперкомпьютер.?1700835440. МОСКВА, 24 ноя — ПРАЙМ. В России необходимо не менее, чем на порядок увеличить мощности суперкомпьютеров, заявил президент России Владимир Путин.