Fra magasinets tema til projektpraksis
Passende service- og tekniske sider til artiklen
Mandag, 09:12: En service kører i ugevis uden afvigelser. Så kommer et lastpeak, en ny kunde, en ny datatilstand – og pludselig står der i begivenhedsloggen en sporadisk Access Violation. Ikke konstant. Ikke umiddelbart reproducerbar. Efter genstart: ro igen. I koden findes et »klogt« sted, der egentlig skulle forbedre alting: Double-Checked Locking i den generiske cache. Sætningen lyder genkendelig: »Når cachen er varm, sparer vi os låsen.«
Fejlen i det: Double-Checked Locking gør den trådsikre cache i Delphi ikke automatisk hurtigere og korrekt. Det gør den ofte bare sværere at bevise – og i fejltilfælde markant sværere at fejlfinde. Dette fejltjek viser, hvor det går konkret galt i Delphi med System.TMonitor, hvilke kanttilfælde i generiske caches der reelt tæller, og hvilke mønstre der i praksis er bedre at bruge.
trådsikker cache i Delphi: Fejltjek „DCL + TMonitor ist doch Standard“
Double-Checked Locking (DCL) følger en enkel idé: Først uden lock tjekkes det, om cache‑indgangen eksisterer. Kun hvis ikke, tages låsen, der kontrolleres igen og derefter bygges og gemmes værdien. Formålet er at fjerne dyre locks i »varm tilstand«.
Problemet er ikke idéen, men forudsætningen. DCL er kun korrekt, hvis det er sikret, at en tråd ikke ser en reference til et objekt, hvis initialisering endnu ikke er fuldt synlig. Uden definerede hukommelsesbarrierer (Memory Barriers), volatile-semantik eller atomics kan reordering/visibility medføre, at en anden tråd betragter noget som „for tidligt“ til stede.[Quelle] Error-Prone-dokumentationen er Java-centreret, men kernen er sprogoverskridende: DCL afhænger af klare regler i memory-modellen, ikke af mavefornemmelser.
For Delphi kommer et andet punkt til: System.TMonitor er dokumenteret som monitor-mekanisme (Enter/Exit/TryEnter) samt condition-variable-adfærd (Wait/Pulse/PulseAll).[Quelle] Det hjælper til korrekt venten og signalering. Hvad DocWiki dog i denne form ikke leverer, er en eksplicit garanti for, at enhver form for DCL-publikation ville være sikker uden yderligere foranstaltninger. Denne mangel er praktisk relevant: Den, der bruger DCL, skal kunne argumentere for korrekthed – ikke blot håbe på ydeevne.
Delphi-specifik faldgrube: TMonitor ist nicht immer der Monitor
Før man overhovedet diskuterer låse, er en kort reality-check nyttig: I Delphi findes to fremtrædende TMonitor-typer med helt forskellig betydning. System.TMonitor er threading-monitoren. Vcl.Forms.TMonitor beskriver en skærm-monitor i et multi-monitor-setup.[Quelle]
Det lyder som en begynderfælde, men det optræder også i store kodebaser: Units importeres, navne forkortes i diskussioner, nogen siger „vi bruger TMonitor“, og pludselig mener halvdelen noget andet. Praktisk forholdsregel: Når det handler om synkronisering, bør kode (eller arkitekturnoter) entydigt angive System.TMonitor – om nødvendigt fuldt kvalificeret, så der ingen debat er.
Hvor Double-Checked Locking i Delphi virkelig fejler
Når DCL går galt, ser det sjældent ud som en „klassisk“ synkroniseringsfejl. Det ligner tilfældigt kaos. Især for generiske caches er det farligt, fordi cachen så sidder i mange moduler, og fejlene propagere over store afstande.
1) Sichtbarkeit und Teilinitialisierung: Referenz „da“, Inhalt nicht stabil
Den typiske DCL-skade: Tråd A bygger et objekt, skriver referencen et eller andet sted (Cache, Feld, Dictionary-Value). Tråd B tjekker uden lås, ser „til stede“ og bruger det. Hvis A godt nok har gjort referencen synlig, men det ikke er garanteret, at alle initialiserede felter, interne lister eller afhængige strukturer allerede er synlige for B, opstår en tilstand, der virker logisk umulig: Et objekt eksisterer, men et internt felt er stadig Default eller nil. Netop dette er kernen i DCL-advarslerne: Uden memory-model-garantier kan en anden tråd se en reference, før initialiseringen er fuldt ud publiceret.[Quelle]
Hvorfor er det så ubehageligt? Fordi crashet ofte ikke sker i cachen. Det sker senere – ved adgang til en egenskab, der egentlig er garanteret. Så peger stacktracen på helt andre områder (Mapper, Serializer, Datenzugriff), og synkroniseringsstedet fremstår uskyldigt.
2) Container-sikkerhed: TDictionary er ikke en parallelt læsecontainer ved samtidige skriveoperationer
Mange DCL-varianter fokuserer på »objektopbygning«. De glemmer containeren. Et TDictionary er ikke designet til, at én tråd skriver (Add/Insert/Resize/Rehash), mens en anden tråd samtidigt uden lock læser (TryGetValue/ContainsKey). Selv hvis value-opbygningen var perfekt publiceret, kan adgang til Dictionary-internals kollidere, for eksempel under Rehash/Resize. DCL bliver dermed ikke kun et visibility-problem, men en reel datastrukturkonflikt.
Det er øjeblikket, hvor DCL bliver særligt snigende: Den ulåste first-check er ikke bare »optimeret«, den er under visse omstændigheder reelt en uautoriseret adgang til en muterende container.
3) „I værste fald bygges der to gange“ er sjældent harmløst
DCL forsvares ofte med et skuldertræk: »Så bygges det bare to gange, men til sidst ligger det én gang i cachen.« Det gælder kun, hvis builderen er idempotent og uden eksterne sideeffekter. I reelle kodebaser bygger caches ofte ting som forberedte statements, RTTI-metadat a, parser, mapper, konfigurationer, HTTP-klienter eller filbaserede ressourcer. Dobbelt initialisering kan så fordoble ressourcer, registrere tilstande to gange eller skabe timing-vinduer, der under visse driftsforhold eskalerer.
4) Reentrancy og låseorden: Builder kalder igen ind i cachen
En anden kanttilfælde, som ofte overses i reviews: Builderen for key X kalder indirekte kode, som igen bruger den samme cache (eller en anden cache). Hvis låseordener ikke er stabile, opstår deadlocks eller langvarige kædeblokeringer. DCL forværrer dette, fordi man hurtigt introducerer ekstra locks (»kun under build«) og så ikke længere klart kan se, hvilke stier der er låst hvornår.
Hvad kilderne bidrager med i praksis – og hvor grænserne går
DocWiki for System.TMonitor er troværdig med hensyn til monitor-adfærden: Enter/Exit som gensidig eksklusion, Wait som atomar frigivelse og senere genindvinding af locket, Pulse/PulseAll til vækning af ventende tråde.[Kilde] Deraf følger for drift: Hvis et cache internt arbejder med conditions (f.eks. “en tråd bygger, andre venter”), kan man principielt udtrykke det på en ren måde.
Grænsen: Ud fra denne dokumentation kan man ikke udlede en hård påstand om, at DCL uden yderligere atomics/memory-barrier-mekanik altid ville være korrekt. Netop derfor er den konservative tilgang interessant, som Net-Base viser i et Delphi-eksempel for en type-cache: Adgang til dictionary beskyttes konsekvent via TMonitor.Enter/Exit, altså ikke DCL, men “always lock”. Supplerende anbefales Pre-Warming/Preload for at reducere contention, uden at øge korrekthedsrisikoen.[Kilde] Praktisk konsekvens: Den, der indfører DCL for at undgå locking, bør først undersøge, om Pre-Warming og ren lock-indkapsling giver samme gevinst – med betydeligt færre kanttilfælde.
Robuste alternativer: tre cache-mønstre, der er gode at drive
Hvis cachen skal køre stabilt i drift, handler det ikke kun om throughput, men også om vedligeholdelse: Hvor hurtigt kan man i en incident afgøre, om cachen er involveret? Hvor klart er lock-konceptet? Og hvor enkelt er det at teste adfærden?
| Mønster | Hvad det er godt til | Typisk svaghed | Hvornår det passer |
|---|---|---|---|
| Always-Lock med System.TMonitor | Enkelt audit; hver adgang til Dictionary er beskyttet; klar fejl-domæne | Begrænset skalerbarhed ved mange parallelle læseoperationer | Standard for de fleste caches i services og enterprise-applikationer |
| Reader/Writer-Lock (f.eks. TLightweightMREW) | Understøtter mange parallelle reads; writes er eksklusive; mindre contention i et varmt cache | Kompleksiteten stiger; opgradering fra read til write er fejlbehæftet | Læsetunge caches med dokumenteret contention |
| Pre-Warming / Preload | Afbelaster hot path; belastningstoppe reduceres; adfærden bliver mere forudsigelig | Opstart koster tid; kræver kendskab til keys eller adgangsmønstre | Når typiske keys er kendt (tabeller, tenants, dokumenttyper) |
Always-Lock: bevidst kedeligt – og netop derfor robust
Always-Lock betyder: læsning og skrivning af dictionary’en foregår udelukkende inden for monitoren. Det virker ved første øjekast som en anti-performance-tilgang. I mange business-workloads er det dog den hurtigste vej til et system, der stadig er håndterbart om seks måneder. Og: Når contention opstår, kan man måle det og målrettet adressere det (Pre-Warming, granularitet, RW-Lock) – uden at risikere grundkorrektheden.
Den nævnte cache-implementering i Net-Base-eksemplet følger netop denne vej: Et delt Dictionary beskyttes via TMonitor.Enter/Exit, i stedet for at eksperimentere med DCL.[Quelle]
Reader/Writer-Lock: til caches, der primært læses
Hvis en cache efter warmup næsten udelukkende læses, kan et Reader/Writer-Lock være fornuftigt: Mange tråde må læse parallelt, kun skrivevejen er eksklusiv. Det reducerer blokeringer, uden at efterlade containeren ubeskyttet.
Her er disciplinen vigtigere end selve klassen: Koden skal konsekvent adskille, hvornår der læses, og hvornår der skrives. Halv-optimeringer („først read lock, så alligevel write lock“) fører hurtigt til kompleksitet, som senere ender i deadlocks eller vanskeligt forklarlige ventetilstande.
Pre-Warming: Ydeevnegevinst uden synkronisationsakrobatik
Pre-Warming flytter bevidst arbejde ud af hot path’en. I stedet for at det første reelle request under belastning skal fylde cachen, indlæser man typiske Keys målrettet på forhånd. Net-Base anbefaler eksplicit denne tilgang som supplement til en monitor-beskyttet cache for at reducere contention.[Quelle]
Når DCL virkelig kommer på bordet: en verificerbar fremgangsmåde
Nogle gange når man et punkt, hvor Always-Lock målbar ikke længere er tilstrækkeligt, og et RW-Lock alene ikke duer eller ikke passer ordentligt. Så bliver DCL diskuteret. Senest da bør man behandle det som et risiko-feature: med klare regler, tests og målbare kriterier – ikke som en „Micro-Optimierung“ i et Nebencommit.
- Sikre containeradgang: Sørg for, at der ikke kan ske usikret adgang til et muterende
TDictionary. Hvis Writes er mulige, skal Reads beskyttes (Monitor/RW-Lock) eller datastrukturen/fasen skal være designet sådan, at parallelt læsning er garanteret ufarlig. - Definér publikationspunkt: En Value gælder først som „veröffentlicht“, når den er fuldstændigt initialiseret. Læg ikke en reference i cachen og konfigurer den derefter videre.
- Vurder dobbelt bygning: Undersøg, om builderen har ægte sideeffekter (Handles, filer, DB-Calls, Registrierungen). Hvis ja, er „build twice“ ikke længere et harmløst Worst Case, men en driftsrisiko.
- Gæt ikke om Memory-Visibility: Hvis du vil læse uden Lock, skal du have en solid begrundelse for, hvorfor en tråd ikke kan se en ufuldstændig tilstand. Uden eksplicit grundlag bliver DCL til en forhåbning om implementeringsdetaljer.
- Reproducerbare belastningstests: Opbyg en test, der gentagne gange forespørger samme nøgle i mange tråde, inklusive kunstige Delays i builderen. Et enkelt vellykket gennemløb er ikke evidens.
Hvis punkt 4 ikke kan besvares entydigt, er konklusionen fra undersøgelsen ofte simpel: indfør ikke DCL som standard, men løs det via Pre-Warming, RW-Lock eller ved at ændre cache-granulariteten.
Debugging: Gør race-conditions i cachen synlige i stedet for at feje dem væk
Breakpoints er ved race-conditions ofte kontraproduktive, fordi de ændrer timing. Mere hensigtsmæssigt er det at provokere konflikten bevidst og logge på en måde, så man kan forstå tidslinjen.
Symptomer, der passer til DCL-/cache-races
- Sporadiske Access Violations i Dictionary-operationer (
TryGetValue,Add,ContainsKey) eller i efterfølgende kode, der formodentlig bruger værdier, som er „garantiert initialisierte“. - Dobbelt initialisering af samme Key trods cache.
- Deadlocks eller lange frysninger, som kun opstår ved parallelitet (især ved indlejrede Caches eller Lock-Ketten).
- Fejl optræder oftere i Release end i Debug eller kun på bestemte maskiner.
Telemetri, der virkelig hjælper
Log cache-adgang: Thread-ID, Key, fase (First-Check, Lock-Enter, Second-Check, Build-Start, Build-Ende, Publish) og varighed. Tilføj ved Monitor-brug eventuelt TryEnter-baserede målinger for at se ventetider. Målet er ikke „meget log“, men en klar proces, der ved en incident viser, om containeradgang sker uden for beskyttelsen, eller om builds kører parallelt.
Performance-Realität: Warum TMonitor „plötzlich teuer“ wirken kann
En hyppig årsag til DCL er reel performance-smerte: Lock-Contention æder throughput. Det er ikke ethvert problem, der taler for DCL, men ofte et tegn på skaleringsdetaljer.
Der findes analyser, der peger på potentielle performance-effekter ved høj parallelitet for TMonitor, for eksempel gennem Cache-Line-Contention/False Sharing i interne strukturer.[Kilde] Det er ikke et korrekthedsargument imod Monitore, men en god påmindelse: Den, der vil optimere, bør først måle og derefter vælge det rette middel.
Typiske, ofte mindre risikable greb før DCL:
- Pre-Warming, så builderen ikke kører under belastning.
- Ændr Cache-Granularität (færre Keys, færre Writes, færre Resizes).
- Hold Write-Pfad kort (Build-Arbeit ikke i Lock, men Containerzugriff fortsat beskyttet).
- RW-Lock i stedet for Monitor, hvis Reads dominerer.
Hvornår indsatsen til en tråd-sikker cache er berettiget – og hvornår ikke
En generisk cache er infrastruktur. Den er berettiget, når den gentagne gange erstatter dyrt arbejde (RTTI-Scanning, komplexe Mapper, Parser, Konfigurationen) og når der er reel parallelitet (Service, Job-Worker, Task-baseret Verarbeitung, flere samtidige Requests).
Den er ofte Overhead, når:
- de berørte kodeveje i praksis kun kører i UI-tråden,
- værdierne er små og giver næsten ingen målelig gevinst,
- cachen påvirker indirekte sikkerheds- eller afregningsrelevant logik, men optimeringen er kun spekulativ.
Det punkt, hvor det bliver „rent“
Double-Checked Locking fremstår i review ofte som en „professionel optimering“. I Delphi ender det dog ved generiske caches hurtigt i en blanding af container-risiko, synlighedsspørgsmål og svært reproducerbare fejltilstande. Den rene løsning er som regel: først etablere korrekthed og bevisbarhed (Always-Lock eller Reader/Writer), derefter anvende Pre-Warming og måling, og først helt til sidst – hvis overhovedet – diskutere DCL for snævert afgrænsede tilfælde.
Hvis I vil stabilisere en eksisterende cache eller planlægge en modernisering, så parallelitet i drift ikke bliver et lotteri, er det værd med en kort teknisk indplacering baseret på jeres konkrete adgangsmønstre og belastningsprofiler. Kontakt os.
Kilder og videre information
De faglige kerneudsagn er redaktionelt vurderet med udgangspunkt i følgende eksterne kilder.
- DoubleCheckedLocking (errorprone.info)
Double-Checked Locking er fejlbehæftet uden garanterede hukommelsesbarrierer/synlighed; omrokering kan gøre en reference synlig før fuld initialisering. - System.TMonitor – RAD Studio API Documentation (docwiki.embarcadero.com)
System.TMonitor tilbyder Enter/Exit/TryEnter samt Wait/Pulse/PulseAll med defineret monitoradfærd, uden eksplicit DCL-publish-garanti i dokumentationen. - Vcl.Forms.TMonitor – RAD Studio API Documentation (docwiki.embarcadero.com)
Vcl.Forms.TMonitor beskriver en skærmmonitor og er ikke trådmonitoren (begrebsforveksling). - Delphi RTTI for mapping without magic | Net-Base (net-base-software-gmbh.de)
Eksempel på en Delphi-cache: adgang beskyttes med TMonitor.Enter/Exit; derudover anbefales Pre-Warming for at reducere contention. - A Fistful of TMonitors – DelphiTools (www.delphitools.info)
Analyse af TMonitor: mulige performance-/contention-effekter (f.eks. False Sharing) kan påvirke locking under belastning.
Til dette emne er også Delphi Tmonitor og Double-Checked Locking Delphi vigtige. Artiklen sætter disse aspekter i en forståelig kontekst og viser, hvad der betyder noget i hverdagen.
Næste trin
Når emnet bliver til et reelt projekt, bør arkitektur, eksisterende systemer og drift tidligt vurderes samlet.
Vi støtter ikke kun ved enkeltspørsmål, men også når kildekodeudsnit, legacy-komponenter eller portalidéer skal udvikles til et robust virksomhedsprojekt.
- Eksisterende tilstand, målbillede og tekniske risici vurderes samlet.
- REST, dataadgang, portaler og udrulning bliver ikke udskudt som efterfølgende opgaver.
- De ser tidligt, hvilken vej der er økonomisk og driftsmæssigt bæredygtig.