Incredibuild agent что это за программа
IncrediBuild для проверки большого проекта с помощью PVS-Studio
Об инструментах PVS-Studio и IncrediBuild
PVS-Studio выполняет анализ C/C++ кода и подсказывает программисту, где находятся возможные ошибки, или указывает на участки кода, которые могут повлечь проблемы в будущем.
Анализатор состоит из нескольких частей, и проверку каждого файла с исходным кодом выполняет процесс PVS-Studio.exe (ядро анализатора). Далее я буду использовать термин «поток», подразумевая, что в одном потоке запущен один процесс PVS-Studio.exe для проверки одного исходно файла проекта. А файлов будет очень много…
IncrediBuild — программное обеспечение для распределённых вычислений, которое позволяет с лёгкостью задействовать несколько компьютеров и ускорить работу своих приложений. При этом не нужно беспокоится за зависимости, которые присутствуют у распараллеленных процессах.
Мы будем использовать IncrediBuild, чтобы выполнить анализ проекта во много потоков, используя дополнительные компьютеры.
О проверяемом проекте
Проверяемый проект пожелал быть неназванным, но он имеет около 7 млн. строк исходного кода. Размер кодовой базы — 300 MB, и около 9000 файлов. Проверка такого проекта анализатором PVS-Studio на компьютере с процессором Intel Core i7-4770 3.40 GHz и 16 GB ОЗУ в 8 потоков занимает около 6 часов. Далее я расскажу, как с помощью инструмента IncrediBuild и нескольких компьютеров удалось сильно ускорить время анализа проекта.
Результаты
Во всех тестах использовались компьютеры примерно одной конфигурации, позволяя выполнять анализ в 8 потоков на каждом из них.
При настройке IncrediBuild на компьютерах, один из них настраивается как координатор, остальные настраиваются как агенты, которые подключаются к координатору. Т.к. проверка проекта запускалась на агенте, то на этом компьютере в настройках было задано загружать только 1 поток, чтобы излишняя нагрузка не мешала сбору результатов. Для координатора тоже было задано выполнять вычисления только в 1 поток.
Тест первый
На рисунке 1 представлена проверка проекта анализатором в 26 потоков.
Рисунок 1 — Проверка проекта анализатором в 26 потоков
Для читателей, не знакомых с IncrediBuild, поясню, что зелёной полоской обозначается 1 процесс, который успешно отработал на компьютере с именем, которое написано слева. На полоске пишется имя процесса. А по временной шкале снизу можно определить, в какой момент времени процесс стартовал и завершился, таким образом сразу видна длительность работы любого распределённого процесса.
На рисунке выше запечатлена проверка довольно крупных исходных файлов. Распараллеливание выполняется очень равномерно и эффективно при длительной загрузке потоков.
На рисунке 2 представлен анализ разных по объёму файлов исходного кода.
Рисунок 2 — Проверка мелких и крупных файлов проекта в 26 потоков
Как мы видим, быстрое завершение потоков приводит к накладным расходам на создание новых потоков и происходит небольшое простаивание некоторых компьютеров. Но в целом распараллеливание выполняется очень хорошо. Анализ проекта выполнился за 2 часа 10 минут вместо 6 часов, очень даже неплохо.
Тест второй
На рисунке 3 представлена проверка проекта анализатором в 43 потока.
Рисунок 3 — Проверка проекта анализатором в 43 потока.
Список из 43 потоков не удаётся увидеть целиком, но хорошо видно, как возросло простаивание компьютеров при проверке маленьких файлов. Но всё равно выглядит очень здорово, учитывая, что общее время анализа составило уже 1 час 24 минуты вместо 6 часов и из приложенных усилий было только быстрая установка IncrediBuild на нужные компьютеры. Для настройки PVS-Studio потребовалось изменить всего 1 пункт в настройках — задать количество потоков.
Заключение
Воспользовавшись инструментом IncrediBuild, который обычно присутствует для сборки очень крупных проектов, мы смогли ускорить время анализа проекта с помощью PVS-Studio в 4.2 раза, задействовав несколько компьютеров разработчиков, которые сидели рядом. Все настройки IncrediBuild использовались по умолчанию, а их там довольно много. Наверняка можно достичь ещё большей производительности, но нам был интересен «быстрый старт».
Если хотите поделиться этой статьей с англоязычной аудиторией, то прошу использовать ссылку на перевод: Svyatoslav Razmyslov. Using IncrediBuild to Assist Analysis of a Large Project by PVS-Studio.
Разработка
Incredibuild ускоряет компиляцию, тесты и множество других ресурсоемких рабочих нагрузок, плавно и одновременно распределяя процессы между простаивающими процессорами в вашей локальной сети или в облаке. Данная технология превращает каждый вычислительный хост в суперкомпьютер с сотнями ядер и гигабайтами памяти, что существенно сокращает время вычислений для огромного количества приложений. Но как это работает?
В основе Incredibuild лежит уникальная технология виртуализации Virtualized Distributed Processing™. Принцип прост: когда рабочая нагрузка, состоящая из нескольких параллельных процессов, выполняется с помощью Incredibuild, ее процессы автоматически и динамически распределяются между простаивающими процессорами на удаленных машинах в вашей сети или облаке.
Особенности технологии Incredibuild
В компаниях с сотнями машин общее число простаивающих процессоров в любой момент времени может исчисляться тысячами. Incredibuild использует эти неиспользуемые ядра для турбоускорения рабочих нагрузок, требующих большой вычислительной мощности. Решение может использовать простаивающие процессоры в частном или публичном облаке компании и даже на машинах пользователей. Данная технология работает в фоновом режиме, не вмешиваясь в их работу.
Усилия, необходимые для поддержания Incredibuild, близки к нулю. Нет необходимости иметь доступ к хранилищу изображений виртуальной машины или копировать файлы, скрипты или наборы инструментов на удаленные машины. Вы даже можете работать с различными версиями операционной системы. Технология Incredibuild без проблем делает эту работу за вас.
Не требует установки на удаленные машины компонентов помимо легковесного агента Incredibuild. Это означает, что при ускорении компиляции Visual Studio не нужно устанавливать Visual Studio, ее набор инструментов или исходный код на удаленные компьютеры. При этом снижаются затраты на лицензирование и минимизируется воздействие на удаленные машины. Incredibuild также устраняет необходимость в техническом обслуживании, позволяя легко масштабировать систему под дополнительные локальные и облачные ресурсы. Таким образом достигается непрерывное обслуживание при обновлении или смене пользователями набора инструментов или рабочих нагрузок.
Incredibuild обеспечивает ускорение любых процессов. Это означает, что вы можете использовать одну и ту же среду Incredibuild для ускорения множества различных типов вычислительных интенсивных рабочих нагрузок. Это повышает ценность развертывания Incredibuild и делает возможным дальнейший рост.
Преимущества использования
Для разработчиков:
Не нужно больше ждать окончания сборки!
Для менеджеров релизов:
Не выбирайте между скоростью и качеством!
Для бизнеса:
Выпускайте продукт быстрее или это сделает кто-то другой!
IncrediBuild: Как ускорить сборку и анализ вашего проекта
Мне нужно больше ядер!
Как вы могли заметить, речь сегодня пойдёт как раз о том, как можно ускорить компиляцию. И нет, в этот раз будут рассмотрены не какие-то специфичные механизмы, а самое обычное распараллеливание. Ну, тут всё, казалось бы, просто – выставляем доступное физически количество ядер, нажимаем на build и идём пить условный чай.
Но с ростом кодовой базы время компиляции постепенно растёт и однажды оно станет настолько большим, что полностью проект будет собираться разве что ночью. Поэтому нужно подумать о том, как бы всё это ускорить. Вокруг же сидят довольные коллеги, которые занимаются своими программистскими делами, а их машины тихо и не напрягаясь выводят немного текста на экраны.
Отдай!
Так как реквизировать машины коллег нам вряд ли кто-либо даст, будем пользоваться обходными путями. Даже если у вас и получилось убедить своих коллег поделиться железом, всё равно пользы от лишних процессоров у вас не будет, разве что можете выбрать себе тот, который пошустрее. А нам нужно то решение, которое каким-то образом позволит запускать дополнительные потоки сборки на удалённых машинах.
На ком будем проверять?
Для того, чтобы убедиться, что всё функционирует действительно хорошо, нужно было найти качественного подопытного. Так как у нас уже не раз были в статьях и Chromium и Linux, а выделиться как-то хотелось, нужно было найти что-нибудь новое. Поэтому я пошёл в сторону открытых игр (а где же ещё искать большие проекты?). И как вы увидите ниже, очень пожалел об этом решении.
Впрочем, поиск чего-то объёмного труда не составил, да и мне «повезло» повстречать открытый проект на Unreal Engine. Вдуматься только! Я действительно до момента написания этой статьи и подумать не мог, что на UE бывает Open Source.
Да будет сборка на 100+ ядер!
Итак, первым делом нужно поставить агентов на машины других разработчиков. Есть два способа:
попросить коллег в местном Slack;
воззвать к силам сисадмина.
Разумеется, как и любой другой наивный человек, я написал сперва в Slack. Спустя пару дней еле-еле дошло до 12 машин из 20. После этого я воззвал к силам сисадмина и, о чудо, заветная двадцатка была у меня в руке. Так что теперь у меня было около 145 ядер (+/- 10) 🙂
За исключением необходимости поставить агентов (делается это парой кликов в установщике), нужно было поставить себе координатора. Это делается немного сложнее, поэтому оставлю ссылку на доки.
Итак, у нас теперь есть сетка на стероидах, поэтому пришло время добраться до Visual Studio. Выбираем в плагине сборку. А вот и нет 🙂
Если вдруг вы и сами захотите попробовать, то учтите, что сперва нужно собрать проекты ShaderCompileWorker и UnrealLightmass. Так как они не большие, я собрал их локально. Вот теперь уже можно нажать на заветную кнопку:
Итак, какая же получилась разница?
Как видите, нам удалось ускорить сборку с 30 минут до почти 6! Очень даже нехило. Кстати, запуск проводился посреди рабочего дня, так что примерно таких цифр можно ожидать и не на синтетическом тесте. Впрочем, от проекта к проекту разница может быть разной.
Что ещё можно ускорить?
Помимо сборки можно натравить IncrediBuild на любую тулзу, которая плодит много подпроцессов. Как вы, может, обратили внимание, я работаю в PVS-Studio. Поэтому конечно же я не могу обойти стороной возможность скормить ему и наш анализатор.
Профит в быстром анализе примерно такой же, как и в быстрой сборке: возможность локальных прогонов перед коммитом. Конечно, всегда есть желание залить всё сразу в мастер; но обычно тимлид бывает не в восторге от подобных действий, особенно когда валятся ночные прогоны на сервере. Поверьте мне – я валил 🙁
Настраивать особенно анализатор не нужно, разве что нам не повредит указать старые-добрые 145 потоков в настройках:
Ну и стоит указать местной сборочной системе кто тут анализатор:
Итак, пришло время нажать на сборку ещё раз и насладиться ускорением:
Вышло около семи минут, что подозрительно похоже на время сборки. Тут я и подумал, что видимо забыл добавить флаг. Зашёл в настройки и увидел, что всё на месте. Такого я не ожидал, поэтому отправился курить мануалы.
Попытка запуска PVS-Studio #2
Спустя какое-то время я вспомнил про версию Unreal Engine, которая используется в этом проекте:
После пары кружек бодрящего напитка у меня возникла мысль всё-таки дочитать туториал по интеграции до конца. Помимо указанного выше способа есть ещё и мониторинг компиляции. Это как раз тот вариант, когда ничего уже не помогает.
Первым делом включим сервер мониторинга:
Эта штука будет крутиться на фоне и следить за тобой вызовами компилятора. Но она не может отслеживать происходящее в IncrediBuild, поэтому придётся один раз собрать без него.
На фоне предыдущего запуска локальная пересборка выглядит очень бедно:
Теперь сохраним то, что насобирали в отдельный файл:
Дальше можно будет пользоваться этим дампом, пока вы не добавите новый файл в проект. Да, это не так удобно, как с флагом, но ничего не поделаешь – версия движка слишком старая.
Сам же анализ запускается вот этой командой:
Только не стоит его так запускать, ведь мы же хотим его запустить под IncrediBuild. Так что закинем эту команду в analyze.bat. И создадим рядом файл profile.xml:
И теперь мы можем запустить всё с нашими 145-ю ядрами:
И как это выглядит в Build Monitor:
Что-то много ошибок на этом графике, не так ли?
К нам закралась ещё одна проблема. И в этот раз дело не в то, что кто-то что-то не поддерживает. Сборка Unreal Tournament оказалась несколько специфичной.
Попытка запуска PVS-Studio #3
Если посмотреть внимательно, то это не ошибки анализа, а неудачи при препроцессировании исходников. Причём, причина данного фейла была одна и та же:
Так в чём проблема? Всё довольно просто – препроцессор требует, чтобы только один из следующих макросов имел значение 1:
Да, вроде как всё собиралось раньше, а теперь что-то страшное вылетело. Пришлось закопаться в логи, а точнее в дамп компиляции. Там-то проблема и нашлась. Дело было в том, что эти макросы объявляются в местном precompile header, а мы хотим только препроцессировать. Так что пришлось добавить все эти макросы вручную:
Самое начало файла build.h
И уже с этим небольшим костылём элегантным решением можно запустить анализ. Причём сборка не сломается, так как мы воспользовались макросом PVS_STUDIO.
Итак, долгожданные результаты анализа:
Согласитесь, почти 15 минут вместо двух с половиной часов – это очень хорошее ускорение. Сложно представить, чтобы вы могли пить кофе 2 часа к ряду и ни у кого не возникло бы сомнений на ваш счёт. А вот 15 минутный перекур вопросов не вызывает. Наверно.
И что у нас в итоге?
Разумеется, что в идеальном мире увеличение количества потоков в N раз увеличило бы скорость сборки в N раз. Но живём мы в совершенно ином мире, поэтому стоит учитывать локальную нагрузку на агентов (удалённые машины), нагрузку на сеть, время на организацию всего этого дела и ещё много деталей, которые скрыты под капотом.
Впрочем, ускорение действительно есть и местами оно позволяет не просто запускать полную сборку или же анализ раз в день, а делать это куда чаще. Например, после каждого фикса или же перед коммитами. А теперь предлагаю посмотреть на то, как это всё выглядит в одной таблице:
Я запустил по пять раз и посчитал среднее по запускам (эти цифры вы и видели в графиках) 🙂
Incredibuild agent что это за программа
Каталог > Вендоры > IncrediBuild Software Ltd.
IncrediBuild Software Ltd.
Компания IncrediBuild Software Ltd, разработчик ПО IncrediBuild, является ведущим поставщиком решений в области технологии ускорения программного обеспечения. IncrediBuild ускоряет ПО Windows за счет задействования неиспользуемых вычислительных мощностей в частных и общедоступных облачных средах при одновременной легкости развертывания и миграции. Благодаря уникальной технологии виртуализации процессов, IncrediBuild де-факто стал стандартным решением для ускорения построения кода приложений. Более 120000 пользователей более чем из 2000 компаний и организаций полагаются на приложения IncrediBuild и ускорение сборки кода, в том числе 20 компаний из списка Fortune 100.
Благодаря уникальному решению для параллельной обработки IncrediBuild вы легко сможете добиться значительного ускорения процесса сборки приложений. IncrediBuild превращает вашу сеть в виртуальный суперкомпьютер, задействуя холостые циклы ЦП удаленных компьютеров, даже если эти компьютеры используются. Для этого не требуется никаких изменений в исходном коде, и никакого дополнительного оборудования. Неудивительно, что более 100000 пользователей более чем из 2000 организаций доверяют IncrediBuild ускорение сборки своих приложений.
IncrediBuild ускоряет сборку благодаря эффективному распараллеливанию задач. Благодаря использованию свободных ресурсов ЦП, имеющихся в сети, IncrediBuild превращает сеть из ПК и серверов в частное вычислительное облако, которое лучше всего можно охарактеризовать как «виртуальный суперкомпьютер». Процессы распределяются для параллельной обработки на ресурсах удаленных ЦП, что значительно сокращает время сборки, до 90% и более. Кроме того, IncrediBuild может интегрироваться с облачными платформами, такими как Microsoft Azure.
Надежное полнофункциональное параллельное вычислительное решение с множеством дополнительных функций. Кэширование и сжатие файлов в реальном времени уменьшает сетевой трафик, адаптивное назначение ресурсов для динамического переназначения процессов в соответствии с изменением доступности ЦП и раздвоение задач для конкурирующих вычислений доступных агентов, чтобы избежать возникновения узких мест.
IncrediBuild позволяет расширять возможности вашего облака, чтобы они не ограничивались только вычислительной мощностью вашей собственной сети. С IncrediBuild, службе ИТ и разработчикам не нужно беспокоиться об ограниченных ресурсах в моменты пиковых нагрузок. Они могут масштабировать свою инфраструктуру прямо в облако, сочетая дополнительную процессорную мощность с возможностями ускорения IncrediBuild для получения максимальной производительности. IncrediBuild в облаке означает, что вам не потребуется устанавливать какие-либо виртуальные машины, перемещать данные в облако или настраивать какие либо системы. Он уже настроен и готов к работе.
IncrediBuild по мере необходимости добавляет себе облачные ресурсы Azure и увеличивает вычислительную мощность, требуемую для сборки, обеспечивая быстрое и прозрачное развертывание агентов в среде Azure. Как только пользователь выбирает облако, технология распределенных вычислений IncrediBuild начинает выполнять их параллельно, используя оптимальное количество процессоров среды Azure.
За счет утилизации неиспользуемой мощности сети устраняется необходимость в дорогостоящем специализированном оборудовании. Используются холостые циклы ЦП компьютеров локальной сети, даже если эти компьютеры используются на других задачах. IncrediBuild может работать на любом компьютере под управлением Windows, включая одноядерные машины, многопроцессорные машины и многоядерные серверы, и даже масштабируется до общего облака.
Откройте для себя разницу в ускорении! Попробуйте решения IncrediBuild для ускорения разработки:
IncrediBuild для Visual Studio:
Полная интеграция с Visual Studio уменьшает время сборки на всех версиях Visual Studio, включая Visual Studio 2013 и предварительные версии Visual Studio 2015. Сертифицированный отраслевой партнер Visual Studio.
IncrediBuild для Make & Build Tools:
Ускоряйте сборочные платформы, включая Make, MSBuild, Gmake, CMake, VSimake, Jam, nAnt, Jom, Python, VsiMake, BJam, Jam + и многие другие.
IncrediBuild для Dev Tools:
Сокращайте цикл разработки ПО за счет более быстрых модульного тестирования, сценариев QA, анализа кода, генерации кода, обработки изображений и сжатия.
Узнать цены и условия поставки на продукты компании IncrediBuild Software Ltd., а так же получить консультацию по лицензированию Вы можете отправив нам запрос.
IncrediBuild Agent
Простой и быстрый способ ускорения сборки и компиляции, и ускорение процесса разработки в 30 раз или больше.
Благодаря уникальному решению для параллельной обработки IncrediBuild вы легко сможете добиться значительного ускорения процесса сборки приложений. IncrediBuild превращает вашу сеть в виртуальный суперкомпьютер, задействуя холостые циклы ЦП удаленных компьютеров, даже если эти компьютеры используются. Для этого не требуется никаких изменений в исходном коде, и никакого дополнительного оборудования. Неудивительно, что более 100000 пользователей более чем из 2000 организаций доверяют IncrediBuild ускорение сборки своих приложений.
Сократите время обработки на 90% и более
IncrediBuild ускоряет сборку благодаря эффективному распараллеливанию задач. Благодаря использованию свободных ресурсов ЦП, имеющихся в сети, IncrediBuild превращает сеть из ПК и серверов в частное вычислительное облако, которое лучше всего можно охарактеризовать как «виртуальный суперкомпьютер». Процессы распределяются для параллельной обработки на ресурсах удаленных ЦП, что значительно сокращает время сборки, до 90% и более. Кроме того, IncrediBuild может интегрироваться с облачными платформами, такими как Microsoft Azure.
Расширенный функционал для оптимальной скорости и производительности
Надежное полнофункциональное параллельное вычислительное решение с множеством дополнительных функций. Кэширование и сжатие файлов в реальном времени уменьшает сетевой трафик, адаптивное назначение ресурсов для динамического переназначения процессов в соответствии с изменением доступности ЦП и раздвоение задач для конкурирующих вычислений доступных агентов, чтобы избежать возникновения узких мест.
Полная поддержка облака
IncrediBuild позволяет расширять возможности вашего облака, чтобы они не ограничивались только вычислительной мощностью вашей собственной сети. С IncrediBuild, службе ИТ и разработчикам не нужно беспокоиться об ограниченных ресурсах в моменты пиковых нагрузок. Они могут масштабировать свою инфраструктуру прямо в облако, сочетая дополнительную процессорную мощность с возможностями ускорения IncrediBuild для получения максимальной производительности. IncrediBuild в облаке означает, что вам не потребуется устанавливать какие-либо виртуальные машины, перемещать данные в облако или настраивать какие либо системы. Он уже настроен и готов к работе.
IncrediBuild по мере необходимости добавляет себе облачные ресурсы Azure и увеличивает вычислительную мощность, требуемую для сборки, обеспечивая быстрое и прозрачное развертывание агентов в среде Azure. Как только пользователь выбирает облако, технология распределенных вычислений IncrediBuild начинает выполнять их параллельно, используя оптимальное количество процессоров среды Azure.
Достичь уровня высокопроизводительной системы за малую часть ее стоимости
За счет утилизации неиспользуемой мощности сети устраняется необходимость в дорогостоящем специализированном оборудовании. Используются холостые циклы ЦП компьютеров локальной сети, даже если эти компьютеры используются на других задачах. IncrediBuild может работать на любом компьютере под управлением Windows, включая одноядерные машины, многопроцессорные машины и многоядерные серверы, и даже масштабируется до общего облака.