Durchsatz vs. Latenz: wie sie unter Last zusammenhängen

Durchsatz (Throughput) ist die Arbeit, die ein System pro Zeiteinheit erledigt, etwa Anfragen pro Sekunde. Latenz ist die Zeit, die eine einzelne Arbeitseinheit braucht, etwa 120 Millisekunden für eine Anfrage. Bei geringer Last beeinflussen sich beide kaum; nähert sich die Last der Kapazität des Systems, hört der Durchsatz auf zu steigen und die Latenz beginnt zu klettern, und genau diesen Punkt soll ein Lasttest finden.

Das Rechenbeispiel unten ist reine Arithmetik ohne Testlauf dahinter. Die Definitionen der Tools stammen aus der Dokumentation der jeweiligen Projekte, geprüft am 16. Oktober 2026.

Was ist der Unterschied zwischen Durchsatz und Latenz?

Der Durchsatz zählt erledigte Arbeit über die Zeit; die Latenz misst die Zeit, die eine Arbeitseinheit braucht. Ein System kann eine niedrige Latenz und einen niedrigen Durchsatz haben oder einen hohen Durchsatz und eine hohe Latenz, deshalb brauchen Sie beide Zahlen, um es zu beschreiben.

Das JMeter-Glossar berechnet den Durchsatz als Zahl der Anfragen geteilt durch die Gesamtzeit, vom Start der ersten Probe bis zum Ende der letzten, einschließlich der Pausen zwischen den Proben, weil er die Last auf dem Server darstellen soll (geprüft am 16. Oktober 2026). Damit ist der Durchsatz eine Eigenschaft des ganzen Laufs, während die Latenz zu jeder Anfrage gehört und am besten als Verteilung gelesen wird: Median, p95, p99.

Ist Bandbreite dasselbe wie Durchsatz?

Nein. Bandbreite ist die größte Datenmenge, die eine Netzwerkverbindung tragen könnte; Durchsatz ist das, was tatsächlich durchkommt. Im Lasttest meint Durchsatz meist erledigte Anfragen, und die Bandbreite zählt erst, wenn große Nutzlasten die Leitung füllen, bevor der Anwendung die Kapazität ausgeht.

Die Vergleichsseite von AWS fasst die Netzwerksicht knapp: Latenz ist die Verzögerung in der Netzwerkkommunikation, Durchsatz die durchschnittliche Datenmenge, die über einen Zeitraum tatsächlich durchkommt, und Bandbreite das theoretische Maximum (geprüft am 16. Oktober 2026). Vieles, was Sie online dazu finden, meint diese Netzwerkbedeutung. Lasttests benutzen dieselben Wörter für Anfragen statt für Pakete, deshalb lohnt es sich zu sagen, welche Bedeutung ein Bericht meint.

Was bedeutet „Latenz“ in einem Lasttest-Tool?

Das hängt vom Tool ab. In JMeter ist Latency die Zeit bis zum ersten Teil der Antwort, die vollständige Antwortzeit heißt Elapsed time. In k6 umfasst http_req_duration Senden, Warten und Empfangen, und die Zeit bis zum ersten Byte ist eine eigene Metrik.

Das JMeter-Glossar misst die Elapsed time von kurz vor dem Senden der Anfrage bis kurz nach dem Empfang der letzten Antwort, die Latency dagegen bis kurz nach dem Empfang der ersten Antwort. Die k6-Metrikreferenz definiert http_req_duration als http_req_sending + http_req_waiting + http_req_receiving, ohne DNS-Auflösung und Verbindungsaufbau, und nennt http_req_waiting die Zeit bis zum ersten Byte (beides geprüft am 16. Oktober 2026). JMeters Latency entspricht also k6s http_req_waiting, nicht http_req_duration. Wer eine JMeter-„Latenz“ mit einer k6-„Duration“ vergleicht, sieht bei JMeter die bessere Zahl, ohne dass das System besser ist.

Wie verändern sich Durchsatz und Latenz, wenn die Last steigt?

Zuerst bedeutet mehr Last mehr Durchsatz, und die Latenz bleibt ungefähr gleich. Sobald das System seine Kapazität erreicht, wächst der Durchsatz nicht mehr, und jeder zusätzliche Benutzer fügt nur Wartezeit hinzu, also steigt die Latenz mit der Last.

Ein Rechenbeispiel, reine Arithmetik. Ein Dienst schafft höchstens 200 Anfragen pro Sekunde und antwortet in 0,1 Sekunden, wenn er nicht ausgelastet ist. Jeder virtuelle Benutzer sendet eine Anfrage und pausiert dann 1 Sekunde. Bei einer festen Zahl von Benutzern verbindet die Form von Little’s Law für das geschlossene Modell die Größen: Benutzer = Anfragen pro Sekunde × (Latenz + Think Time), wie unser Artikel zu Little’s Law Schritt für Schritt zeigt.

Bis 220 Benutzer wächst der Durchsatz im Gleichschritt mit ihnen. Danach bleibt er bei 200 stehen, und die Latenz muss den Rest aufnehmen: 300 Benutzer brauchen 300 ÷ 200 = 1,5 Sekunden pro Durchlauf, also bleiben 0,5 Sekunden Latenz. Echte Systeme verlaufen typischerweise sanfter, weil sich Warteschlangen schon vor der genauen Grenze bilden. Mit einem Arrival-Rate-Test ist das Bild härter: Kommen mehr als 200 Anfragen pro Sekunde an, wächst der Rückstau, solange der Überschuss anhält; den Unterschied erklärt der Artikel zum offenen vs. geschlossenen Lastmodell.

Wie finden Sie den Knick in Ihren eigenen Ergebnissen?

Erhöhen Sie die Last in Stufen, halten Sie jede Stufe lange genug, damit sie sich einpendelt, und notieren Sie für jede Stufe den Durchsatz und ein Latenz-Perzentil. Der Knick ist die erste Stufe, auf der der Durchsatz nicht mehr mit der Last steigt, während die Latenz zu klettern beginnt.

Einige Punkte machen diese Ablesung verlässlich:

• Halten Sie jede Stufe einige Minuten, damit der Durchsatz auf einer stabilen Phase gemessen wird, nicht auf einer Rampe.
• Lesen Sie ein Perzentil, nicht nur den Durchschnitt; ein Durchschnitt kann ruhig bleiben, während die langsamsten paar Prozent der Anfragen deutlich langsamer werden.
• Prüfen Sie auf jeder Stufe die Fehler. Schnelle Fehlschläge zählen als erledigte Anfragen mit kurzen Zeiten, sodass ein fehlerhaftes System steigenden Durchsatz und sinkende Latenz zeigen kann.
• Beobachten Sie den Lastgenerator. Ist seine CPU ausgelastet, ist die gefundene Grenze womöglich seine eigene.

Das Diagramm Antwortzeit gegen virtuelle Benutzer von LoadFocus zeigt die durchschnittliche und maximale Antwortzeit gegen die aktiven virtuellen Benutzer, ein Punkt pro erreichter Benutzerstufe; dort wird der Knick in einem gestuften Test sichtbar.

Lässt sich der Durchsatz steigern, ohne die Latenz zu erhöhen?

Manchmal. Mehr Kapazität verschiebt die Grenze, sodass die Latenz länger flach bleibt. Batching tauscht meist in die andere Richtung: Es erhöht den Durchsatz, indem einzelne Anfragen warten.

Der Nagle-Algorithmus von TCP ist das klassische Beispiel für diesen Tausch. RFC 896 hält neue Segmente zurück, solange frühere Daten auf der Verbindung noch nicht bestätigt sind, sodass das Netz weniger, vollere Pakete trägt und jeder kleine Schreibvorgang warten kann (geprüft am 16. Oktober 2026). Batching von Anfragen und Schreibpuffer funktionieren genauso: mehr pro Sekunde erledigt, mehr Zeit pro Element. Wenn Sie so etwas ändern, wiederholen Sie den gestuften Test und vergleichen Sie beide Kurven, nicht nur eine Zahl.

Welche der beiden gehört in Ihre Pass/Fail-Kriterien?

Beide, miteinander verknüpft. Ein Latenzziel sagt wenig ohne den Durchsatz, bei dem es gemessen wurde, und ein Durchsatzziel sagt wenig, wenn sich die Latenz dafür verdoppelt hat. Formulieren Sie sie als Paar, etwa p95 unter 300 Millisekunden bei 200 Anfragen pro Sekunde mit weniger als 1 % Fehlern.

Unser Leitfaden zu Pass/Fail-Kriterien für Lasttests zeigt, wie Sie dieses Paar formulieren und automatisieren. Wartet Ihr Tool auf langsame Antworten, bevor es die nächste Anfrage sendet, können seine Latenzwerte das Problem untertreiben; Coordinated Omission erklärt, wie das passiert und wie Sie es vermeiden. Der Glossareintrag von LoadFocus zur Latenz zeigt, woher Latenz kommt und warum Perzentile zählen.

FAQ

Bedeutet niedrige Latenz einen hohen Durchsatz? Nicht unbedingt. Ein System kann jede Anfrage schnell beantworten, aber nur wenige gleichzeitig bearbeiten, oder viele gleichzeitig bearbeiten, während jede wartet. Sie wissen beides erst, wenn Sie beides unter derselben Last messen, am besten über mehrere Laststufen.

Was ist der Unterschied zwischen Latenz und Antwortzeit? Im Alltag meinen beide oft dasselbe. In JMeter ist Latency die Zeit bis zum ersten Teil der Antwort und Elapsed time die vollständige Antwortzeit, prüfen Sie also, welche ein Bericht zeigt, bevor Sie Tools vergleichen.

Warum steigt der Durchsatz in einem Lasttest nicht mehr? Etwas hat seine Grenze erreicht: CPU, eine Datenbank, ein Verbindungspool, ein Rate Limit oder der Lastgenerator selbst. Ab diesem Punkt stehen zusätzliche Benutzer nur noch an, was sich als steigende Latenz bei flachem Durchsatz zeigt.

Weiterlesen

• Little’s Law im Lasttest: Tests dimensionieren und prüfen
• Offenes vs geschlossenes Lastmodell: welches passt wann?
• Coordinated Omission: was es ist und wie man es vermeidet
• Pass/Fail-Kriterien für Lasttests: so legen Sie sie fest
• Tail-Latenz: was sie ist und wie man sie misst
• Apdex-Score: was er bedeutet und wie man ihn berechnet
• Amdahlsches Gesetz: Formel, Beispiele und Grenzen

Die technischen Aussagen in diesem Artikel wurden nicht unabhängig geprüft.