[ISS-2] Agent job container has no PostgreSQL and no repo .env — the entire Scrum4Us test suite cannot run #78

Open
opened 2026-09-09 20:05:07 +02:00 by janpeter · 0 comments
Owner

Beheerd door Scrum4Me — wijzigingen hier worden overschreven. Bron: https://thuis.jp-visser.nl/issues/cmtudd9kl000756og18p48v4g

Status: investigating · Severity: s3_major · Gemeld door: agent-container:claude-opus-5 · Occurrences: 1 (laatst: 2026-09-09T17:25:37.077Z) · PBI: PBI-14 · Aangemaakt: 2026-09-09T17:25:37.077Z

Registratie

Observed in job cmtucwrt601dfdp7r90844x4v (SPRINT_IMPLEMENTATION, Scrum4Us sprint run cmtucwrsy01dedp7r8vhw1uhe), container hostname c9e6a781839d, worktree /home/agent/.scrum4me-agent-worktrees/cmtucwrt601dfdp7r90844x4v.

FINDING
The container cannot run the Scrum4Us test suite at all:

  • No PostgreSQL server and no client binaries: psql, pg_ctl, initdb all absent, /usr/lib/postgresql does not exist, and connecting to 127.0.0.1:5432 gives ECONNREFUSED.
  • No docker binary, so a database cannot be started from inside the job either.
  • The repository checkout has no .env (only .env.example), so nothing supplies DATABASE_URL / MIGRATE_DATABASE_URL to the suite.
  • The container environment does carry a DATABASE_URL, but it points at the scrum4me platform database (100.118.195.120:5432/scrum4me). That is the wrong database and must NOT be used: the Scrum4Us suites TRUNCATE between runs (CLAUDE.md "Verification"), so pointing them at the platform DB would destroy live data. It was not used.

WHY THIS BLOCKS EVERYTHING
Scrum4Us runs one vitest project with fileParallelism: false because "suites share one database", plus a globalSetup (tests/global-setup.ts) that needs a live DB. So a missing database does not merely skip the DB-backed cases — it fails the whole npm run test, and with it test:rls-pool2, test:ppe, preflight:migrations:verify and audit:ledger, i.e. seven of the ten stages of npm run verify. Only lint, lint:english and typecheck can run here.

CONSEQUENCE FOR SPRINT WORK
Any task whose plan says "RED FIRST, run the suite, then green" is unexecutable as written in this container. In the run above, T-529 (a pure Zod-contract task) could only be tested by hand-rolling a temporary root vitest config scoped to packages/shared/tests to bypass globalSetup, and T-531 (a handler with a recursive CTE, verified by DB-backed tests) cannot be built to plan at all. The Scrum4Us Definition of Done item 2 ("npm run verify && npm run build is green, run twice") is unreachable from this container.

WHAT WOULD FIX IT
Either provision a throwaway PostgreSQL 17 for the job container (a sidecar, or postgres installed in the image plus an initdb/start in the job entrypoint) and write a repo .env pointing DATABASE_URL/MIGRATE_DATABASE_URL at it with the runtime/owner role split the RLS suite requires, or route Scrum4Us sprint jobs to a host that already has one. Whatever is chosen, it must be a database the suite is allowed to truncate — never the platform DB.

Onderzoek


2026-10-08T19:54:50.857Z — mac:claude

Onderzoek 2026-10-08 (mac:claude, scrum4me-docker master 158eb47 + Scrum4Us origin/main)

Worker-container (nog steeds zo):

  • Er is geen postgres-server of -client en geen docker-CLI in de substrate (Dockerfile:21-50).
  • Er is geen mechanisme dat een .env in de job-worktree zet.
  • run-one-job.ts:621 geeft het kind process.env volledig door (lib/skill-inventory.ts:93-102), dus DATABASE_URL en DIRECT_URL van het platform komen in de env van claude en van zijn Bash.
  • Dat is ook nodig zolang mcp-config.json "DATABASE_URL": "${DATABASE_URL}" uit de env van claude expandeert.

Wat Scrum4Us nodig heeft:

  • Image pgvector/pgvector:pg17, extensie vector.
  • Rollen:
    • owner scrum4us_owner: superuser (in CI de POSTGRES_USER);
    • runtime scrum4us_app: LOGIN NOBYPASSRLS. Die rol moet bestaan vóór db:migrate:deploy, omdat rls_policies eraan GRANT.
  • Database scrum4us.
  • Volgorde in CI (.forgejo/workflows/verify.yml):
    1. npm ci;
    2. CREATE ROLE;
    3. db:migrate:deploy;
    4. db:generate;
    5. git fetch origin/main;
    6. npm run verify.
  • Env: DATABASE_URL (runtime) en MIGRATE_DATABASE_URL (owner).
  • tests/global-setup.ts en tests/setup-env.ts doen TRUNCATE … CASCADE via MIGRATE_DATABASE_URL, zonder guard op host of DB-naam. Alleen infra/testlab/guard-db.mjs heeft zo'n guard.
  • global-setup laadt ../.env met dotenv, en dotenv overschrijft bestaande env niet.

Gevolg voor de veiligheid: een .env in de worktree alleen is niet genoeg. De platform-DATABASE_URL in de env van het kind wint, en de runtime-client van de tests zou dan tegen de platform-DB praten. Elke oplossing moet dus de naam DATABASE_URL in de omgeving van het kind vrijmaken van de platform-DB, bijvoorbeeld door de MCP-config een eigen variabele te geven (SCRUM4ME_DATABASE_URL).


2026-10-08T20:30:37.265Z — mac:claude

Proef 2026-10-08 (mac:claude): wegwerp-Postgres in de worker-image

Opzet.

  • De image is de worker-substrate (ubuntu 22.04, TZ=Europe/Amsterdam), met daarbovenop PGDG postgresql-17 en postgresql-17-pgvector. Dat maakt de image ongeveer 350 MB groter, vooral door LLVM voor JIT.
  • Alles draait als uid 1000.
  • Postgres per job: initdb in /tmp/job-probe/pg, fsync, synchronous_commit en full_page_writes uit, jit=off.
  • Rollen zoals in CI: owner scrum4us_owner als superuser, en scrum4us_app LOGIN NOBYPASSRLS. Database scrum4us.
  • Daarna npm ci, db:migrate:deploy, db:generate, npm run test en test:rls-pool2.
  • Scrum4Us op origin/main ff15b060; de CI daarvan is groen.

Runs.

  1. Unix-socket, trust-auth, server-tijdzone uit de container (Amsterdam): 57 failures.
  2. Als CI: TCP 127.0.0.1, scram, dummy-env: dezelfde 57 failures. Socket en auth waren dus niet de oorzaak.
    • Oorzaak a: de tijdzone van de server. personal_api_token_expiry_not_future, en afwijkingen van precies 7200 s.
    • Oorzaak b: een artefact van de proef, namelijk een gekopieerde worktree zonder bruikbare .git (git grep, ls-files, cat-file fb5fde0).
  3. Met -c timezone=UTC en een echte clone met volledige historie: npm run test groen: 325 bestanden, 3079 tests geslaagd, 29 overgeslagen, 0 gefaald, in 279 s. test:rls-pool2 groen. Postgres staat in ±1 s klaar; stoppen en opruimen werkt.

Conclusie.

  • Optie A werkt.
  • Vereisten:
    • de server-tijdzone op UTC (TZ van node mag Amsterdam blijven);
    • de rollen vóór de migraties;
    • een volledige git-historie in de worktree, wat in echte jobs al zo is.

2026-10-08T20:31:49.950Z — mac:claude

Besluit JP (2026-10-08): optie A, een wegwerp-pg17 met pgvector in de worker-image per job, alleen voor ingestelde producten, plus de veiligheidsstap rond DATABASE_URL. Gematerialiseerd als PBI-14 / ST-025 met 4 taken: env-veiligheid, image, per-job lifecycle en docs.


2026-10-08T20:52:21.730Z — mac:claude

PR's geopend: janpeter/scrum4me-docker#121 (code, runbook) en janpeter/Scrum4Us#206 (CLAUDE.md-noot). Sluiten na merge, deploy met AGENT_TESTDB_PRODUCTS op de Scrum4Us-workerhost, en een eerste echte Scrum4Us-job met npm run verify groen en een geslaagde MCP-call.


2026-10-08T21:42:35.301Z — mac:claude

PR #121 is APPROVED door s4m-codex-reviewer na drie reviewrondes (onstopbare postgres, profiel-prototype, PID-hergebruik via een cwd-check) en de CI is groen. Scrum4Us#206 heeft review COMMENT (0 blockers) en een groene CI. Beide wachten op een merge.


2026-10-08T21:58:09.907Z — mac:claude

scrum4me-docker#121 en Scrum4Us#206 zijn gemerged (2026-10-08) en PBI-14 is als gemerged gemarkeerd. Nog open voor het sluiten:

  1. deploy van de worker-image (+≈350 MB) met AGENT_TESTDB_PRODUCTS=<scrum4us-product-id>:scrum4us op de host die Scrum4Us-jobs draait;
  2. een eerste echte Scrum4Us-job, met in de runner-log testdb started/testdb removed, npm run verify groen en een geslaagde MCP-call (bewijs voor with-platform-db.sh).

2026-10-09T06:14:40.730Z — mac:claude

Deploy gecontroleerd op 2026-10-09. Alle workers op srv (worker-idea ×2, worker-deploy ×2, worker-docs, agent-codex) en max2 (worker-idea ×2, agent-codex) zijn gerecreëerd en hebben:

  • job-testdb.ts, PostgreSQL 17.11;
  • mcp-config via with-platform-db.sh;
  • de usage-hook via de wrapper.

Maar AGENT_TESTDB_PRODUCTS staat op geen enkele worker, dus de test-DB is nog uit. De env-scheiding (geen platform-DATABASE_URL in het kind) is wel overal actief. Er is sinds de deploy nog geen job gedraaid: MCP en hook zijn in productie nog niet bewezen.


2026-10-09T06:21:20.797Z — mac:claude

Op 2026-10-09 (mac:claude, in opdracht van JP) is AGENT_TESTDB_PRODUCTS=cmr9tq38y0000no7rlixcrtgo:scrum4us toegevoegd aan /srv/scrum4me/compose/worker-idea.env en worker-codex.env, op zowel srv als max2:

  • als één regel met een commentaarregel ervoor, zonder .bak;
  • eigenaar en mode 0600 behouden;
  • rollback = die regel weghalen.

Daarna worker-idea (scale 2) en agent-codex gerecreëerd, direct met docker compose up -d --no-deps --force-recreate, zonder rebuild:

  • srv: project compose;
  • max2: project scrum4me, met override en codex-file.

Dit is het diagnostische pad; JP koos het zonder FlowRun.

Alle 6 workers hebben de variabele in hun env en loggen testdb products=1 swept_leftovers=0. Nog open: een eerste echte Scrum4Us-job (runner-log testdb started/removed, npm run verify groen, een MCP-call die slaagt).


2026-10-09T07:59:20.315Z — mac:claude

Eerste echte Scrum4Us-job, 2026-10-09: PR_REVIEW cmv0o81x6000r6f174a8z67sw op Scrum4Us#205, via dispatch_job, in agent-codex op max2.

  • Runner-log: testdb started dir=/home/agent/.scrum4me-testdb/<job> om 07:55:50Z en testdb removed om 07:58:49Z; de job eindigde met exit 0.
  • MCP-calls in het kind slaagden: search_product_docs, get_agent_guide, get_product_doc, post_pr_review en update_job_status. De platform-DB via de wrapper werkt dus.
  • Niet bewezen: npm run verify. De reviewer draaide alleen gerichte vitest-runs: npm ci en db:generate slaagden, en een eigen review.vitest.config.ts gaf 2 files, 11 tests geslaagd en 1 overgeslagen. Of die tests de test-DB raakten, blijkt niet uit de log. Een volledige verify tegen de test-DB is dus nog open.

2026-10-09T08:02:37.214Z — mac:claude

Geparkeerd op 2026-10-09 (JP): Scrum4Us ligt stil. Het issue blijft open tot het project weer loopt. Dan nog het bewijs dat npm run verify groen is tegen de test-DB, in een echte job.

Oplossing

Nog geen oplossing.

> Beheerd door Scrum4Me — wijzigingen hier worden overschreven. Bron: https://thuis.jp-visser.nl/issues/cmtudd9kl000756og18p48v4g Status: investigating · Severity: s3_major · Gemeld door: agent-container:claude-opus-5 · Occurrences: 1 (laatst: 2026-09-09T17:25:37.077Z) · PBI: PBI-14 · Aangemaakt: 2026-09-09T17:25:37.077Z ## Registratie Observed in job cmtucwrt601dfdp7r90844x4v (SPRINT_IMPLEMENTATION, Scrum4Us sprint run cmtucwrsy01dedp7r8vhw1uhe), container hostname c9e6a781839d, worktree /home/agent/.scrum4me-agent-worktrees/cmtucwrt601dfdp7r90844x4v. FINDING The container cannot run the Scrum4Us test suite at all: - No PostgreSQL server and no client binaries: `psql`, `pg_ctl`, `initdb` all absent, /usr/lib/postgresql does not exist, and connecting to 127.0.0.1:5432 gives ECONNREFUSED. - No `docker` binary, so a database cannot be started from inside the job either. - The repository checkout has no `.env` (only `.env.example`), so nothing supplies DATABASE_URL / MIGRATE_DATABASE_URL to the suite. - The container environment does carry a DATABASE_URL, but it points at the scrum4me platform database (100.118.195.120:5432/scrum4me). That is the wrong database and must NOT be used: the Scrum4Us suites TRUNCATE between runs (CLAUDE.md "Verification"), so pointing them at the platform DB would destroy live data. It was not used. WHY THIS BLOCKS EVERYTHING Scrum4Us runs one vitest project with `fileParallelism: false` because "suites share one database", plus a `globalSetup` (tests/global-setup.ts) that needs a live DB. So a missing database does not merely skip the DB-backed cases — it fails the whole `npm run test`, and with it `test:rls-pool2`, `test:ppe`, `preflight:migrations:verify` and `audit:ledger`, i.e. seven of the ten stages of `npm run verify`. Only lint, lint:english and typecheck can run here. CONSEQUENCE FOR SPRINT WORK Any task whose plan says "RED FIRST, run the suite, then green" is unexecutable as written in this container. In the run above, T-529 (a pure Zod-contract task) could only be tested by hand-rolling a temporary root vitest config scoped to packages/shared/__tests__ to bypass globalSetup, and T-531 (a handler with a recursive CTE, verified by DB-backed tests) cannot be built to plan at all. The Scrum4Us Definition of Done item 2 ("npm run verify && npm run build is green, run twice") is unreachable from this container. WHAT WOULD FIX IT Either provision a throwaway PostgreSQL 17 for the job container (a sidecar, or postgres installed in the image plus an initdb/start in the job entrypoint) and write a repo `.env` pointing DATABASE_URL/MIGRATE_DATABASE_URL at it with the runtime/owner role split the RLS suite requires, or route Scrum4Us sprint jobs to a host that already has one. Whatever is chosen, it must be a database the suite is allowed to truncate — never the platform DB. ## Onderzoek --- *2026-10-08T19:54:50.857Z — mac:claude* ## Onderzoek 2026-10-08 (mac:claude, scrum4me-docker master 158eb47 + Scrum4Us origin/main) **Worker-container (nog steeds zo):** - Er is geen postgres-server of -client en geen docker-CLI in de substrate (`Dockerfile:21-50`). - Er is geen mechanisme dat een `.env` in de job-worktree zet. - `run-one-job.ts:621` geeft het kind `process.env` volledig door (`lib/skill-inventory.ts:93-102`), dus `DATABASE_URL` en `DIRECT_URL` van het **platform** komen in de env van claude en van zijn Bash. - Dat is ook nodig zolang `mcp-config.json` `"DATABASE_URL": "${DATABASE_URL}"` uit de env van claude expandeert. **Wat Scrum4Us nodig heeft:** - Image `pgvector/pgvector:pg17`, extensie `vector`. - Rollen: - owner `scrum4us_owner`: superuser (in CI de `POSTGRES_USER`); - runtime `scrum4us_app`: LOGIN NOBYPASSRLS. Die rol moet bestaan **vóór** `db:migrate:deploy`, omdat `rls_policies` eraan GRANT. - Database `scrum4us`. - Volgorde in CI (`.forgejo/workflows/verify.yml`): 1. `npm ci`; 2. CREATE ROLE; 3. `db:migrate:deploy`; 4. `db:generate`; 5. `git fetch origin/main`; 6. `npm run verify`. - Env: `DATABASE_URL` (runtime) en `MIGRATE_DATABASE_URL` (owner). - `tests/global-setup.ts` en `tests/setup-env.ts` doen TRUNCATE … CASCADE via `MIGRATE_DATABASE_URL`, zonder guard op host of DB-naam. Alleen `infra/testlab/guard-db.mjs` heeft zo'n guard. - `global-setup` laadt `../.env` met dotenv, en **dotenv overschrijft bestaande env niet**. **Gevolg voor de veiligheid:** een `.env` in de worktree alleen is niet genoeg. De platform-`DATABASE_URL` in de env van het kind wint, en de runtime-client van de tests zou dan tegen de platform-DB praten. Elke oplossing moet dus de naam `DATABASE_URL` in de omgeving van het kind vrijmaken van de platform-DB, bijvoorbeeld door de MCP-config een eigen variabele te geven (`SCRUM4ME_DATABASE_URL`). --- *2026-10-08T20:30:37.265Z — mac:claude* ## Proef 2026-10-08 (mac:claude): wegwerp-Postgres in de worker-image **Opzet.** - De image is de worker-`substrate` (ubuntu 22.04, `TZ=Europe/Amsterdam`), met daarbovenop PGDG `postgresql-17` en `postgresql-17-pgvector`. Dat maakt de image ongeveer 350 MB groter, vooral door LLVM voor JIT. - Alles draait als uid 1000. - Postgres per job: `initdb` in `/tmp/job-probe/pg`, `fsync`, `synchronous_commit` en `full_page_writes` uit, `jit=off`. - Rollen zoals in CI: owner `scrum4us_owner` als superuser, en `scrum4us_app LOGIN NOBYPASSRLS`. Database `scrum4us`. - Daarna `npm ci`, `db:migrate:deploy`, `db:generate`, `npm run test` en `test:rls-pool2`. - Scrum4Us op `origin/main` ff15b060; de CI daarvan is groen. **Runs.** 1. Unix-socket, trust-auth, server-tijdzone uit de container (Amsterdam): 57 failures. 2. Als CI: TCP 127.0.0.1, scram, dummy-env: dezelfde 57 failures. Socket en auth waren dus niet de oorzaak. - Oorzaak a: **de tijdzone van de server**. `personal_api_token_expiry_not_future`, en afwijkingen van precies 7200 s. - Oorzaak b: een artefact van de proef, namelijk een gekopieerde worktree zonder bruikbare `.git` (git grep, ls-files, `cat-file fb5fde0`). 3. Met `-c timezone=UTC` en een echte clone met volledige historie: **`npm run test` groen: 325 bestanden, 3079 tests geslaagd, 29 overgeslagen, 0 gefaald, in 279 s.** `test:rls-pool2` groen. Postgres staat in ±1 s klaar; stoppen en opruimen werkt. **Conclusie.** - Optie A werkt. - Vereisten: - de server-tijdzone op UTC (`TZ` van node mag Amsterdam blijven); - de rollen vóór de migraties; - een volledige git-historie in de worktree, wat in echte jobs al zo is. --- *2026-10-08T20:31:49.950Z — mac:claude* Besluit JP (2026-10-08): optie A, een wegwerp-pg17 met pgvector in de worker-image per job, alleen voor ingestelde producten, plus de veiligheidsstap rond `DATABASE_URL`. Gematerialiseerd als PBI-14 / ST-025 met 4 taken: env-veiligheid, image, per-job lifecycle en docs. --- *2026-10-08T20:52:21.730Z — mac:claude* PR's geopend: janpeter/scrum4me-docker#121 (code, runbook) en janpeter/Scrum4Us#206 (CLAUDE.md-noot). Sluiten na merge, deploy met `AGENT_TESTDB_PRODUCTS` op de Scrum4Us-workerhost, en een eerste echte Scrum4Us-job met `npm run verify` groen en een geslaagde MCP-call. --- *2026-10-08T21:42:35.301Z — mac:claude* PR #121 is APPROVED door s4m-codex-reviewer na drie reviewrondes (onstopbare postgres, profiel-prototype, PID-hergebruik via een cwd-check) en de CI is groen. Scrum4Us#206 heeft review COMMENT (0 blockers) en een groene CI. Beide wachten op een merge. --- *2026-10-08T21:58:09.907Z — mac:claude* scrum4me-docker#121 en Scrum4Us#206 zijn gemerged (2026-10-08) en PBI-14 is als gemerged gemarkeerd. Nog open voor het sluiten: 1. deploy van de worker-image (+≈350 MB) met `AGENT_TESTDB_PRODUCTS=<scrum4us-product-id>:scrum4us` op de host die Scrum4Us-jobs draait; 2. een eerste echte Scrum4Us-job, met in de runner-log `testdb started`/`testdb removed`, `npm run verify` groen en een geslaagde MCP-call (bewijs voor `with-platform-db.sh`). --- *2026-10-09T06:14:40.730Z — mac:claude* Deploy gecontroleerd op 2026-10-09. Alle workers op srv (worker-idea ×2, worker-deploy ×2, worker-docs, agent-codex) en max2 (worker-idea ×2, agent-codex) zijn gerecreëerd en hebben: - `job-testdb.ts`, PostgreSQL 17.11; - `mcp-config` via `with-platform-db.sh`; - de usage-hook via de wrapper. **Maar `AGENT_TESTDB_PRODUCTS` staat op geen enkele worker**, dus de test-DB is nog uit. De env-scheiding (geen platform-`DATABASE_URL` in het kind) is wel overal actief. Er is sinds de deploy nog geen job gedraaid: MCP en hook zijn in productie nog niet bewezen. --- *2026-10-09T06:21:20.797Z — mac:claude* Op 2026-10-09 (mac:claude, in opdracht van JP) is `AGENT_TESTDB_PRODUCTS=cmr9tq38y0000no7rlixcrtgo:scrum4us` toegevoegd aan `/srv/scrum4me/compose/worker-idea.env` en `worker-codex.env`, op zowel srv als max2: - als één regel met een commentaarregel ervoor, zonder `.bak`; - eigenaar en mode 0600 behouden; - rollback = die regel weghalen. Daarna `worker-idea` (scale 2) en `agent-codex` gerecreëerd, direct met `docker compose up -d --no-deps --force-recreate`, zonder rebuild: - srv: project `compose`; - max2: project `scrum4me`, met override en codex-file. Dit is het diagnostische pad; JP koos het zonder FlowRun. Alle 6 workers hebben de variabele in hun env en loggen `testdb products=1 swept_leftovers=0`. Nog open: een eerste echte Scrum4Us-job (runner-log `testdb started`/`removed`, `npm run verify` groen, een MCP-call die slaagt). --- *2026-10-09T07:59:20.315Z — mac:claude* Eerste echte Scrum4Us-job, 2026-10-09: PR_REVIEW cmv0o81x6000r6f174a8z67sw op Scrum4Us#205, via dispatch_job, in agent-codex op max2. - Runner-log: `testdb started dir=/home/agent/.scrum4me-testdb/<job>` om 07:55:50Z en `testdb removed` om 07:58:49Z; de job eindigde met exit 0. - MCP-calls in het kind slaagden: search_product_docs, get_agent_guide, get_product_doc, post_pr_review en update_job_status. De platform-DB via de wrapper werkt dus. - **Niet bewezen:** `npm run verify`. De reviewer draaide alleen gerichte vitest-runs: `npm ci` en `db:generate` slaagden, en een eigen `review.vitest.config.ts` gaf 2 files, 11 tests geslaagd en 1 overgeslagen. Of die tests de test-DB raakten, blijkt niet uit de log. Een volledige verify tegen de test-DB is dus nog open. --- *2026-10-09T08:02:37.214Z — mac:claude* Geparkeerd op 2026-10-09 (JP): Scrum4Us ligt stil. Het issue blijft open tot het project weer loopt. Dan nog het bewijs dat `npm run verify` groen is tegen de test-DB, in een echte job. ## Oplossing _Nog geen oplossing._ <!-- s4m:issue:cmtudd9kl000756og18p48v4g -->
Sign in to join this conversation.
No milestone
No project
No assignees
1 participant
Notifications
Due date
The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set.

Reference
janpeter/scrum4me-docker#78
No description provided.