Optimalisatie: gedeelde HTTP-client met timeouts in plaats van een client per call #204

Open
opened 2026-09-22 14:37:53 +00:00 by meshflows · 0 comments
Owner

Context

Optimalisatie- en stability review (2026-09-22).

Bevinding

Veel services openen httpx.AsyncClient() zonder timeout= per aanroep. Default timeout is oneindig, en elke call doet een nieuwe TCP/TLS-handshake. Voorbeelden:

  • engine/services/http/app/main.py rond 218, 238, 435
  • identity, storage, gateway, orchestrator, scheduler, s3, sftp, azure-servicebus, rabbitmq, joke-api, weatherstack, google-workspace (zelfde patroon)
  • example-echo-go gebruikt http.DefaultClient zonder timeout (main.go rond 56)

De gateway heeft al een gedeelde client; de rest niet.

Impact

Hangende upstream houdt tasks vast. Onder load extra latency en file descriptors door ontbrekende keepalive.

Gewenste uitkomst

  • Eén client per proces, lifecycle gekoppeld aan startup/shutdown.
  • httpx.Timeout met connect- en read-limiet, plus beperkte retry met backoff op idempotente calls.
  • Zelfde patroon in de Go-example (http.Client{Timeout: ...}).
## Context Optimalisatie- en stability review (2026-09-22). ## Bevinding Veel services openen `httpx.AsyncClient()` zonder `timeout=` per aanroep. Default timeout is oneindig, en elke call doet een nieuwe TCP/TLS-handshake. Voorbeelden: - `engine/services/http/app/main.py` rond 218, 238, 435 - `identity`, `storage`, `gateway`, `orchestrator`, `scheduler`, `s3`, `sftp`, `azure-servicebus`, `rabbitmq`, `joke-api`, `weatherstack`, `google-workspace` (zelfde patroon) - `example-echo-go` gebruikt `http.DefaultClient` zonder timeout (`main.go` rond 56) De gateway heeft al een gedeelde client; de rest niet. ## Impact Hangende upstream houdt tasks vast. Onder load extra latency en file descriptors door ontbrekende keepalive. ## Gewenste uitkomst - Eén client per proces, lifecycle gekoppeld aan startup/shutdown. - `httpx.Timeout` met connect- en read-limiet, plus beperkte retry met backoff op idempotente calls. - Zelfde patroon in de Go-example (`http.Client{Timeout: ...}`).
Sign in to join this conversation.
No milestone
No project
No assignees
1 participant
Notifications
Due date
The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set

Reference
MeshFlowsGPL/meshflows#204
No description provided.