Obsługa wielu oddziałów w ciągłej integracji

Miałem do czynienia z problemem skalowania CI w mojej firmie i jednocześnie próbując dowiedzieć się, jakie podejście przyjąć, jeśli chodzi o CI i wiele oddziałów. Podobne pytanie pojawia się przy przepełnieniu stosu, wielu gałęziach funkcji i ciągłej integracji . Zacząłem nowy, ponieważ chciałbym uzyskać więcej dyskusji i przedstawić analizę pytania.

Do tej pory odkryłem, że są 2 główne podejścia, które mogę zastosować (a może inne ???).

• Wiele zestawów zadań (mowa tutaj o Jenkins / Hudson) na oddział
  • Napisz narzędzia do zarządzania dodatkowymi zadaniami
    • Zbiorcze tworzenie / modyfikowanie / usuwanie ofert pracy
    • Ustawienia niestandardowe dla każdego zadania na oddział (adres URL SCM, powielanie repozytoriów zarządzania dep)
    • Kilka przykładów osób rozwiązujących ten problem za pomocą narzędzi powłoki, skryptów Ant i interfejsu wiersza polecenia Jenkinsa. Widzieć:
      1. http://jenkins.361315.n4.nabble.com/Multiple-branches-best-practice-td2306578.html
      2. http://jenkins.361315.n4.nabble.com/Is-it-possible-to-handle-multiple-branches-where-some-jobs-should-run-on-each-one-without-duplicatin-td954729. html
      3. http://jenkins.361315.n4.nabble.com/Parallel-development-with-branches-td1013013.html
      4. Skonfiguruj lub utwórz automatycznie zadanie hudson
  • Spowoduje większe obciążenie klastra CI
  • Cykl sprzężenia zwrotnego dla programistów zwalnia (jeśli infrastruktura nie może obsłużyć nowego obciążenia)
• Wiele zestawów zadań na 2 gałęzie (deweloperskie i stabilne)
  • Zarządzaj dwoma zestawami ręcznie (jeśli zmienisz konfigurację zadania, pamiętaj o zmianie w drugiej gałęzi)
    • PITA, ale przynajmniej tak mało do zarządzania
  • Inne dodatkowe gałęzie nie otrzymają pełnego zestawu testów, zanim zostaną zepchnięte do programowania
  • Niezadowoleni twórcy. Dlaczego deweloper miałby przejmować się problemami ze skalowaniem CI. Ma prostą prośbę, kiedy oddziału chcę przetestować mój kod. Prosty.

Wygląda więc na to, że jeśli chcę zapewnić programistom CI dla ich własnych niestandardowych gałęzi, potrzebuję specjalnego narzędzia dla Jenkinsa (API lub skryptów powłoki czy coś takiego?) I obsługiwać skalowanie. Albo mogę im powiedzieć, aby częściej łączyli się z DEV i żyli bez CI w niestandardowych gałęziach. Którą byś wybrał, czy są inne opcje?

Kiedy mówisz o skalowaniu CI, tak naprawdę mówisz o skalowaniu wykorzystania twojego serwera CI do obsługi wszystkich gałęzi funkcji wraz z linią główną. Początkowo wygląda to na dobre podejście, ponieważ programiści w oddziale uzyskują wszystkie zalety automatycznego testowania, które obejmują zadania CI. Jednak napotykasz problemy z zarządzaniem zadaniami serwera CI (jak odkryłeś), a co ważniejsze, tak naprawdę nie robisz CI. Tak, używasz serwera CI, ale nie integrujesz w sposób ciągły kodu od wszystkich swoich programistów.

Wykonywanie prawdziwego CI oznacza, że ​​wszyscy twoi programiści regularnie angażują się w główną linię. Łatwo powiedzieć, ale najtrudniejsze jest zrobienie tego bez przerywania aplikacji. Zdecydowanie zalecam zapoznanie się z sekcją Ciągłe dostarczanie , a zwłaszcza sekcją Utrzymywanie dostępności aplikacji w rozdziale 13: Zarządzanie składnikami i zależnościami . Główne punkty to:

• Ukryj nową funkcję, dopóki nie zostanie zakończona (AKA Feature Toggles ).
• Wszystkie zmiany należy wprowadzać stopniowo jako serię małych zmian, z których każda jest dostępna do wydania.
• Użyj rozgałęzienia według abstrakcji, aby wprowadzić zmiany na dużą skalę w bazie kodu.
• Użyj komponentów, aby oddzielić części aplikacji, które zmieniają się w różnym tempie.

Są dość oczywiste, z wyjątkiem rozgałęzień według abstrakcji. To jest tylko wymyślne określenie:

1. Utwórz abstrakcję dotyczącą części systemu, którą chcesz zmienić.
2. Przebuduj resztę systemu, aby użyć warstwy abstrakcji.
3. Utwórz nową implementację, która nie będzie częścią ścieżki kodu produkcyjnego, dopóki nie zostanie zakończona.
4. Zaktualizuj warstwę abstrakcji, aby delegować ją do nowej implementacji.
5. Usuń starą implementację.
6. Usuń warstwę abstrakcji, jeśli nie jest już odpowiednia.

Następujący akapit z sekcji Oddziały, strumienie i ciągła integracja w rozdziale 14: Zaawansowana kontrola wersji podsumowuje skutki.

Podejście przyrostowe z pewnością wymaga większej dyscypliny i troski - a nawet więcej kreatywności - niż tworzenie oddziału i nurkowanie w celu przeprojektowania i opracowania nowej funkcjonalności. Jednak znacznie zmniejsza to ryzyko, że zmiany zepsują aplikację i zaoszczędzi Tobie i Twojemu zespołowi dużo czasu na scalanie, naprawianie awarii i wprowadzanie aplikacji w stan umożliwiający wdrożenie.

Porzucenie gałęzi funkcji wymaga sporej zmiany umysłu, a zawsze pojawi się opór. Z mojego doświadczenia wynika, że ​​ten opór jest oparty na tym, że programiści nie czują się bezpiecznie, wprowadzając kod do głównej linii i jest to rozsądna obawa. To z kolei zwykle wynika z braku wiedzy, pewności lub doświadczenia z technikami wymienionymi powyżej oraz prawdopodobnie z braku pewności co do testów automatycznych. Ten pierwszy można rozwiązać dzięki szkoleniom i wsparciu programistów. Ten ostatni jest znacznie trudniejszym problemem do rozwiązania, jednak rozgałęzianie nie zapewnia żadnego dodatkowego rzeczywistego bezpieczeństwa, po prostu odkłada problem, dopóki programiści nie poczują się wystarczająco pewni swojego kodu.

Utworzyłbym osobne zadania dla każdego oddziału. Zrobiłem to już wcześniej i nie jest trudno zarządzać i skonfigurować, jeśli poprawnie skonfigurowałeś Hudson / Jenkins. Szybkim sposobem na utworzenie wielu zadań jest skopiowanie z istniejącego zadania o podobnych wymaganiach i zmodyfikowanie ich w razie potrzeby. Nie jestem pewien, czy chcesz pozwolić każdemu deweloperowi na skonfigurowanie własnych zadań dla własnych oddziałów, ale nie jest to dużo pracy dla jednej osoby (np. Menedżera budowy). Po połączeniu niestandardowych gałęzi w stabilne gałęzie, odpowiednie zadania można usunąć, gdy nie są już potrzebne.

Jeśli martwisz się o obciążenie serwera CI, możesz skonfigurować oddzielne instancje CI lub nawet oddzielne slave'y, aby pomóc zrównoważyć obciążenie na wielu serwerach. Upewnij się, że serwer, na którym uruchamiasz Hudson / Jenkins, jest odpowiedni. Użyłem Apache Tomcat i po prostu musiałem upewnić się, że ma wystarczającą ilość pamięci i mocy obliczeniowej, aby przetworzyć kolejkę kompilacji.

Ważne jest, aby jasno określić, co chcesz osiągnąć za pomocą CI, a następnie wymyślić sposób na jego wdrożenie bez dużego wysiłku ręcznego lub powielania. Nie ma nic złego w korzystaniu z innych zewnętrznych narzędzi lub skryptów wykonywanych przez serwer CI, które pomagają uprościć ogólny proces zarządzania kompilacją.

Wybrałbym dev + stabilne gałęzie. A jeśli nadal chcesz własnych oddziałów i boi się obciążeniem, to dlaczego nie przenieść te niestandardowe te do chmury i niech programiści zarządzać samodzielnie, np http://cloudbees.com/dev.cb Jest to firma, w której jest teraz Kohsuke . Istnieje również narzędzie Eclipse, więc jeśli korzystasz z Eclipse, będziesz mieć je ściśle zintegrowane z dev env.

Właściwie to, co jest naprawdę problematyczne, to budowanie izolacji z gałęziami funkcji. W naszej firmie mamy zestaw oddzielnych projektów maven, które są częścią większej dystrybucji. Te projekty są obsługiwane przez różne zespoły, ale dla każdej dystrybucji wszystkie projekty muszą zostać zwolnione. Odgałęzienie funkcji może teraz nakładać się z jednego projektu na inny, a wtedy izolacja kompilacji staje się bolesna. Wypróbowaliśmy kilka rozwiązań:

• utwórz oddzielne repozytoria migawek w nexusie dla każdej gałęzi funkcji
• udostępniać lokalne repozytoria na dedykowanych niewolnikach
• użyj wtyczki repository-server-plugin z repozytoriami zewnętrznymi
• buduj wszystko w ramach jednego zadania z jednym prywatnym repozytorium

Właściwie to ostatnie rozwiązanie jest najbardziej obiecujące. Wszystkim innym rozwiązaniom brakuje w ten czy inny sposób. Wraz z wtyczką job-dsl można łatwo skonfigurować nową gałąź funkcji. po prostu skopiuj i wklej świetny skrypt, dostosuj gałęzie i pozwól, aby zadanie seed utworzyło nowe zadania. Upewnij się, że zadanie inicjujące usuwa zadania niezarządzane. Następnie możesz łatwo skalować za pomocą gałęzi funkcji w różnych projektach maven.

Ale jak powiedział wyżej Tom, przyjemniej byłoby przezwyciężyć konieczność rozgałęzień funkcji i nauczyć programistów czystej integracji, ale jest to dłuższy proces, a wynik nie jest jasny w przypadku wielu starszych części systemu, których już nie będziesz dotykać.

moje 2 centy