Bulkhead pattern
Concept
Een veerkrachtig ontwerppatroon dat resources zoals connectiepools, werkercapaciteit of wachtrijen isoleert per afhankelijkheid of workload, zodat een storing in het ene deel de resources die andere delen nodig hebben niet kan uitputten.
Beschrijving
Het Bulkhead-patroon is een veerkrachtig ontwerppatroon dat de onderdelen van een applicatie scheidt in geïsoleerde resourcepools, zodat een storing in één onderdeel niet de rest neerhaalt. Resources die op deze manier kunnen worden opgedeeld zijn onder meer connectiepools, werkercapaciteit en wachtrijen. De naam komt van de compartimenten in de romp van een schip: wanneer er een lek ontstaat, loopt alleen dat ene compartiment vol, terwijl de rest van het schip drijvend blijft.
Het patroon richt zich op een specifieke faalwijze. Wanneer een service overbelast raakt of niet meer reageert, kunnen aanroepen naar die service gedeelde resources blokkeren, zoals een gemeenschappelijke connectiepool. Zodra die gedeelde resources op zijn, beginnen ook aanroepen naar andere, gezonde services te falen, en wordt een lokaal probleem een cascaderende storing. Door elke afhankelijkheid of workload een eigen pool van resources toe te kennen, blijft de schade beperkt tot de plek waar ze ontstaat. De M365.FM-aflevering "Why Microservice Architecture Slows Software Delivery" beschrijft het doel in vergelijkbare bewoordingen: het bulkhead-patroon in een microservice-architectuur wordt gebruikt om te voorkomen dat fouten in één deel van een systeem het hele systeem platleggen, en zo de storing effectief beperkt tot de oorsprong.
In de praktijk kan de isolatie op verschillende niveaus worden toegepast. Serviceinstanties kunnen worden gegroepeerd in partities op basis van de belasting door consumenten en de beschikbaarheidseisen, en een consument kan per aangeroepen service een aparte connectiepool aanhouden. Asynchrone services kunnen via afzonderlijke wachtrijen worden geïsoleerd. Implementatiemechanismen die in de richtlijnen van het Azure Architecture Center van Microsoft worden genoemd, zijn onder meer processen, threadpools en semaforen, containers en virtuele machines, en resource requests en limits in Kubernetes. Welk mechanisme past, hangt af van hoe sterk de isolatie moet zijn en wat het platform biedt.
De gedocumenteerde voordelen zijn bescherming tegen cascaderende storingen, gedeeltelijke functionaliteit tijdens een storing en gedifferentieerde servicekwaliteit. Als een partitie verzadigd raakt of faalt, kunnen de overige delen van de applicatie blijven werken, zodat gebruikers mogelijk nog een beperkte set functies kunnen gebruiken in plaats van alles te verliezen. Partitioneren op basis van consument of workload maakt het ook mogelijk om verschillende serviceniveaus te bieden, bijvoorbeeld door kritieke aanroepers capaciteit te geven die door minder belangrijke aanroepers niet kan worden opgemaakt.
Het patroon brengt ook afwegingen met zich mee die zorgvuldig moeten worden afgewogen. De sterkte van de isolatie, de kosten en de operationele inspanning moeten worden afgezet tegen het risico dat wordt aangepakt. Het gebruik van resources kan minder efficiënt worden, omdat capaciteit die voor de ene partitie is gereserveerd niet door een andere kan worden geleend wanneer die ongebruikt is. De granulariteit van de partities is een ontwerpbeslissing: te grof en storingen blijven zich verspreiden, te fijn en de overhead loopt op. Elke partitie heeft bovendien eigen monitoring nodig, zodat verzadiging of een storing in een van hen zichtbaar wordt.
Het Bulkhead-patroon wordt doorgaans niet alleen gebruikt. De richtlijnen van Microsoft bevelen aan het te combineren met Retry, Circuit Breaker en Throttling. De aflevering "Why Microservice Architecture Slows Software Delivery" plaatst het bulkhead naast de circuit breaker, die verzoeken naar ongezonde services kan tegenhouden op basis van drempelwaarden voor fouten en time-outs en verkeer kan omleiden wanneer een service uitvalt. In die combinatie beperkt de circuit breaker de aanroepen naar een falende service, terwijl het bulkhead ervoor zorgt dat de belasting die daar nog wel terechtkomt geen resources kan opmaken waarvan andere delen van het systeem afhankelijk zijn.
Overzicht samengesteld met AI op basis van M365.FM-afleveringen en de feiten op deze pagina. Je kunt het verbeteren met de bewerkknop hieronder.
| Type | Concept |
|---|
Veelgestelde vragen
Vragen met AI zijn met AI geschreven op basis van de feiten op deze pagina.
Welk probleem lost het Bulkhead-patroon op? (AI)
Het voorkomt dat een overbelaste of niet-reagerende service gedeelde resources, zoals connectiepools, blokkeert en zo aanroepen naar andere services doet mislukken. Door resources per afhankelijkheid of workload te isoleren, blijft een storing beperkt tot de plek waar ze ontstaat.
Hoe kan het Bulkhead-patroon worden geïmplementeerd? (AI)
Veelgebruikte benaderingen zijn afzonderlijke connectiepools per aangeroepen service, het groeperen van serviceinstanties in partities en het gebruik van aparte wachtrijen voor asynchrone services. De richtlijnen van Microsoft noemen daarnaast processen, threadpools en semaforen, containers en VM's, en resource requests en limits in Kubernetes.
Met welke andere patronen wordt het Bulkhead-patroon gecombineerd? (AI)
Microsoft Azure Architecture Center beveelt aan het te combineren met Retry, Circuit Breaker en Throttling. De afwegingen van het patroon omvatten minder efficiënt resourcegebruik en de noodzaak om de granulariteit van partities te kiezen en elke partitie te monitoren.
Community wiki
Short info above, community knowledge below: add practical tips, examples or corrections. New contributions are reviewed first; trusted members publish directly.
Experts en bedrijven voor dit onderwerp
Niemand heeft dit onderwerp nog opgegeven. Voeg het toe aan je profiel.
Beheerd door Mirko Peters (Microsoft MVP) · Laatst bijgewerkt: