From 384cd550d50d949aca08856d807ea54f75fa317c Mon Sep 17 00:00:00 2001 From: agent Date: Tue, 15 Sep 2026 18:45:27 +0300 Subject: [PATCH 1/3] fix: schedule weekly full postgres backup --- .gitea/workflows/ci.yml | 5 +---- CHANGELOG.md | 5 +++++ README.md | 2 +- app/version.py | 6 +++--- infra/install-postgres-backup-cron.sh | 9 +++++++++ infra/postgres-backup.sh | 18 ++++++++++++++++++ 6 files changed, 37 insertions(+), 8 deletions(-) create mode 100644 infra/install-postgres-backup-cron.sh create mode 100644 infra/postgres-backup.sh diff --git a/.gitea/workflows/ci.yml b/.gitea/workflows/ci.yml index 1af3d60..497e0be 100644 --- a/.gitea/workflows/ci.yml +++ b/.gitea/workflows/ci.yml @@ -80,13 +80,11 @@ jobs: test -f "$release" archive_version="$(tar -xOf "$release" ./app/version.py | sed -n 's/^BACKEND_VERSION = "\(.*\)"$/\1/p')" test "$archive_version" = "$EXPECTED_BACKEND_VERSION" - mkdir -p "$HOME/backups/miem_workers" - backup="$HOME/backups/miem_workers/miem_workers-$(date +%Y%m%d-%H%M%S).sql" - docker compose exec -T postgres sh -c 'pg_dump -U "$POSTGRES_USER" "$POSTGRES_DB"' > "$backup" docker run --rm \ -v "$release:/src/release.tar:ro" \ -v "$PROD_PATH":/dst \ alpine:3.20 sh -c 'tar -xf /src/release.tar -C /dst' + /srv/miem_workers/infra/install-postgres-backup-cron.sh docker compose up -d --build runtime_version="$(docker compose exec -T api python -c 'from app.version import BACKEND_VERSION; print(BACKEND_VERSION)')" test "$runtime_version" = "$EXPECTED_BACKEND_VERSION" @@ -95,7 +93,6 @@ jobs: *"\"status\":\"ok\""*"\"backend_version\":\"$EXPECTED_BACKEND_VERSION\""*) ;; *) echo "Unexpected health response: $health" >&2; exit 1 ;; esac - find "$HOME/backups/miem_workers" -maxdepth 1 -type f -name 'miem_workers-*.sql' ! -path "$backup" -delete docker compose ps rm -f "$release" REMOTE diff --git a/CHANGELOG.md b/CHANGELOG.md index 3253066..7a3d138 100644 --- a/CHANGELOG.md +++ b/CHANGELOG.md @@ -1,5 +1,10 @@ # Changelog +## 0.8.13 + +- Production CD больше не создаёт backup при каждом deploy; еженедельная задача + сохраняет один полный PostgreSQL backup с атомарной заменой. + ## 0.8.12 - Передача версии в production deploy ограничена безопасным форматом. diff --git a/README.md b/README.md index 40f0eaa..939b822 100644 --- a/README.md +++ b/README.md @@ -122,7 +122,7 @@ docker compose exec postgres pg_dump -U miem miem_workers > backup.sql docker compose down ``` -Production deploy выполняется job `deploy` workflow `CI` после успешного `test` на push в `main` или вручную. Для него нужны Actions secrets `PROD_HOST`, `PROD_USER`, `PROD_SSH_KEY` и `PROD_KNOWN_HOSTS`; `.env` и ключи в репозиторий не добавляются. Перед обновлением workflow сохраняет PostgreSQL backup в домашний каталог deploy-пользователя, пересобирает `api` и `worker` и проверяет `/api/health`. Одновременно выполняется только один production deploy. +Production deploy выполняется job `deploy` workflow `CI` после успешного `test` на push в `main` или вручную. Для него нужны Actions secrets `PROD_HOST`, `PROD_USER`, `PROD_SSH_KEY` и `PROD_KNOWN_HOSTS`; `.env` и ключи в репозиторий не добавляются. PostgreSQL backup выполняется на VPS раз в неделю user cron `codex` через `infra/postgres-backup.sh`: `pg_dumpall` сохраняет весь кластер в `~/backups/postgres/postgres-latest.sql`. Новый dump сначала создаётся во временный файл и заменяет старый только после успешного завершения; предыдущие dump-файлы `miem_workers` удаляются после успешного создания нового. Одновременно выполняется только один production deploy. ## Проверки diff --git a/app/version.py b/app/version.py index d496d48..7a95865 100644 --- a/app/version.py +++ b/app/version.py @@ -1,3 +1,3 @@ -APP_VERSION = "0.8.12" -FRONTEND_VERSION = "0.8.12" -BACKEND_VERSION = "0.8.12" +APP_VERSION = "0.8.13" +FRONTEND_VERSION = "0.8.13" +BACKEND_VERSION = "0.8.13" diff --git a/infra/install-postgres-backup-cron.sh b/infra/install-postgres-backup-cron.sh new file mode 100644 index 0000000..01f8535 --- /dev/null +++ b/infra/install-postgres-backup-cron.sh @@ -0,0 +1,9 @@ +#!/bin/sh +set -eu + +temporary=$(mktemp) +trap 'rm -f -- "$temporary"' EXIT HUP INT TERM + +crontab -l 2>/dev/null | grep -v 'postgres-backup.sh' > "$temporary" || true +printf '%s\n' '30 3 * * 0 flock -n /tmp/miem-postgres-backup.lock /srv/miem_workers/infra/postgres-backup.sh >/dev/null 2>&1' >> "$temporary" +crontab "$temporary" diff --git a/infra/postgres-backup.sh b/infra/postgres-backup.sh new file mode 100644 index 0000000..4ebb375 --- /dev/null +++ b/infra/postgres-backup.sh @@ -0,0 +1,18 @@ +#!/bin/sh +set -eu +umask 077 + +app_dir=/srv/miem_workers +backup_dir=/home/codex/backups/postgres +backup="$backup_dir/postgres-latest.sql" +temporary="$backup.tmp.$$" + +mkdir -p "$backup_dir" +trap 'rm -f -- "$temporary"' EXIT HUP INT TERM +cd "$app_dir" + +docker compose exec -T postgres sh -c 'pg_dumpall -U "$POSTGRES_USER"' > "$temporary" +test -s "$temporary" +mv "$temporary" "$backup" +find /home/codex/backups/miem_workers -maxdepth 1 -type f -name 'miem_workers-*.sql' -delete 2>/dev/null || true +printf '%s\n' "Created $backup" -- 2.49.1 From b933f95302c4a6bc2f43ee5163289c35a8dc4dc8 Mon Sep 17 00:00:00 2001 From: agent Date: Tue, 15 Sep 2026 18:50:22 +0300 Subject: [PATCH 2/3] fix: finalize weekly postgres backup retention --- .gitea/workflows/ci.yml | 1 + README.md | 4 ++-- infra/install-postgres-backup-cron.sh | 3 ++- infra/postgres-backup.sh | 6 +++--- pyproject.toml | 2 +- tests/test_api.py | 2 +- 6 files changed, 10 insertions(+), 8 deletions(-) diff --git a/.gitea/workflows/ci.yml b/.gitea/workflows/ci.yml index 497e0be..c470ee1 100644 --- a/.gitea/workflows/ci.yml +++ b/.gitea/workflows/ci.yml @@ -23,6 +23,7 @@ jobs: - run: python -m pip install -r requirements.txt - run: python -m pytest -q - run: node --check app/static/admin.js + - run: sh -n infra/postgres-backup.sh infra/install-postgres-backup-cron.sh deploy: if: (github.event_name == 'push' && github.ref == 'refs/heads/main') || github.event_name == 'workflow_dispatch' diff --git a/README.md b/README.md index 939b822..86007a8 100644 --- a/README.md +++ b/README.md @@ -122,7 +122,7 @@ docker compose exec postgres pg_dump -U miem miem_workers > backup.sql docker compose down ``` -Production deploy выполняется job `deploy` workflow `CI` после успешного `test` на push в `main` или вручную. Для него нужны Actions secrets `PROD_HOST`, `PROD_USER`, `PROD_SSH_KEY` и `PROD_KNOWN_HOSTS`; `.env` и ключи в репозиторий не добавляются. PostgreSQL backup выполняется на VPS раз в неделю user cron `codex` через `infra/postgres-backup.sh`: `pg_dumpall` сохраняет весь кластер в `~/backups/postgres/postgres-latest.sql`. Новый dump сначала создаётся во временный файл и заменяет старый только после успешного завершения; предыдущие dump-файлы `miem_workers` удаляются после успешного создания нового. Одновременно выполняется только один production deploy. +Production deploy выполняется job `deploy` workflow `CI` после успешного `test` на push в `main` или вручную. Для него нужны Actions secrets `PROD_HOST`, `PROD_USER`, `PROD_SSH_KEY` и `PROD_KNOWN_HOSTS`; `.env` и ключи в репозиторий не добавляются. PostgreSQL backup выполняется на VPS раз в неделю user cron deploy-пользователя через `infra/postgres-backup.sh`: `pg_dumpall` сохраняет весь кластер в `~/backups/postgres/postgres-latest.sql`. Новый dump сначала создаётся во временный файл и заменяет старый только после успешного завершения; предыдущие dump-файлы `miem_workers` удаляются после успешного создания нового. Одновременно выполняется только один production deploy. ## Проверки @@ -135,4 +135,4 @@ node --check app/static/admin.js Тесты с данными используют временную SQLite; отдельные API smoke-тесты запускают приложение с его текущей конфигурацией. Браузерная проверка: `pip install playwright`, `python -m playwright install chromium`, затем `python tests/browser_admin.py`. Она проверяет реальный рендеринг страниц, клавиатуру, диалог, фильтры и восстановление прогресса после ошибки. Скриншоты сохраняются во временную папку; путь выводится в конце. -Версия сервиса: `0.8.12`. Админка всегда показывает версии backend и frontend в footer. +Версия сервиса: `0.8.13`. Админка всегда показывает версии backend и frontend в footer. diff --git a/infra/install-postgres-backup-cron.sh b/infra/install-postgres-backup-cron.sh index 01f8535..38d032e 100644 --- a/infra/install-postgres-backup-cron.sh +++ b/infra/install-postgres-backup-cron.sh @@ -2,8 +2,9 @@ set -eu temporary=$(mktemp) +app_dir=$(CDPATH= cd -- "$(dirname "$0")/.." && pwd) trap 'rm -f -- "$temporary"' EXIT HUP INT TERM crontab -l 2>/dev/null | grep -v 'postgres-backup.sh' > "$temporary" || true -printf '%s\n' '30 3 * * 0 flock -n /tmp/miem-postgres-backup.lock /srv/miem_workers/infra/postgres-backup.sh >/dev/null 2>&1' >> "$temporary" +printf '%s\n' "30 3 * * 0 flock -n /tmp/miem-postgres-backup.lock $app_dir/infra/postgres-backup.sh >/dev/null 2>&1" >> "$temporary" crontab "$temporary" diff --git a/infra/postgres-backup.sh b/infra/postgres-backup.sh index 4ebb375..7779aea 100644 --- a/infra/postgres-backup.sh +++ b/infra/postgres-backup.sh @@ -2,8 +2,8 @@ set -eu umask 077 -app_dir=/srv/miem_workers -backup_dir=/home/codex/backups/postgres +app_dir=$(CDPATH= cd -- "$(dirname "$0")/.." && pwd) +backup_dir="$HOME/backups/postgres" backup="$backup_dir/postgres-latest.sql" temporary="$backup.tmp.$$" @@ -14,5 +14,5 @@ cd "$app_dir" docker compose exec -T postgres sh -c 'pg_dumpall -U "$POSTGRES_USER"' > "$temporary" test -s "$temporary" mv "$temporary" "$backup" -find /home/codex/backups/miem_workers -maxdepth 1 -type f -name 'miem_workers-*.sql' -delete 2>/dev/null || true +find "$HOME/backups/miem_workers" -maxdepth 1 -type f -name 'miem_workers-*.sql' -delete 2>/dev/null || true printf '%s\n' "Created $backup" diff --git a/pyproject.toml b/pyproject.toml index 1e43d03..5098e39 100644 --- a/pyproject.toml +++ b/pyproject.toml @@ -1,6 +1,6 @@ [project] name = "miem-workers" -version = "0.8.12" +version = "0.8.13" description = "MIEM employees parser, admin API, and web admin" requires-python = ">=3.11" dependencies = [ diff --git a/tests/test_api.py b/tests/test_api.py index 4321576..3579175 100644 --- a/tests/test_api.py +++ b/tests/test_api.py @@ -18,7 +18,7 @@ def test_health_returns_versions(): response = TestClient(app).get("/api/health") assert response.status_code == 200 - assert response.json()["backend_version"] == "0.8.12" + assert response.json()["backend_version"] == "0.8.13" def test_api_employees_and_stats_require_admin_session(): -- 2.49.1 From 69c1dd52cfdc04d665c3755d7eceef08c0ab6478 Mon Sep 17 00:00:00 2001 From: agent Date: Tue, 15 Sep 2026 18:53:06 +0300 Subject: [PATCH 3/3] fix: report scheduled backup failures --- .gitea/workflows/ci.yml | 3 ++- CHANGELOG.md | 5 +++-- README.md | 2 +- app/version.py | 6 +++--- infra/install-postgres-backup-cron.sh | 2 +- infra/postgres-backup.sh | 6 ++++-- pyproject.toml | 2 +- tests/test_api.py | 2 +- 8 files changed, 16 insertions(+), 12 deletions(-) diff --git a/.gitea/workflows/ci.yml b/.gitea/workflows/ci.yml index c470ee1..5df5f7f 100644 --- a/.gitea/workflows/ci.yml +++ b/.gitea/workflows/ci.yml @@ -23,7 +23,8 @@ jobs: - run: python -m pip install -r requirements.txt - run: python -m pytest -q - run: node --check app/static/admin.js - - run: sh -n infra/postgres-backup.sh infra/install-postgres-backup-cron.sh + - run: sh -n infra/postgres-backup.sh + - run: sh -n infra/install-postgres-backup-cron.sh deploy: if: (github.event_name == 'push' && github.ref == 'refs/heads/main') || github.event_name == 'workflow_dispatch' diff --git a/CHANGELOG.md b/CHANGELOG.md index 7a3d138..7e5c2e2 100644 --- a/CHANGELOG.md +++ b/CHANGELOG.md @@ -1,9 +1,10 @@ # Changelog -## 0.8.13 +## 0.8.14 - Production CD больше не создаёт backup при каждом deploy; еженедельная задача - сохраняет один полный PostgreSQL backup с атомарной заменой. + сохраняет один полный PostgreSQL backup с атомарной заменой; ошибки и + пропущенные из-за lock запуски пишутся в system log. ## 0.8.12 diff --git a/README.md b/README.md index 86007a8..297b5ef 100644 --- a/README.md +++ b/README.md @@ -135,4 +135,4 @@ node --check app/static/admin.js Тесты с данными используют временную SQLite; отдельные API smoke-тесты запускают приложение с его текущей конфигурацией. Браузерная проверка: `pip install playwright`, `python -m playwright install chromium`, затем `python tests/browser_admin.py`. Она проверяет реальный рендеринг страниц, клавиатуру, диалог, фильтры и восстановление прогресса после ошибки. Скриншоты сохраняются во временную папку; путь выводится в конце. -Версия сервиса: `0.8.13`. Админка всегда показывает версии backend и frontend в footer. +Версия сервиса: `0.8.14`. Админка всегда показывает версии backend и frontend в footer. diff --git a/app/version.py b/app/version.py index 7a95865..4eff412 100644 --- a/app/version.py +++ b/app/version.py @@ -1,3 +1,3 @@ -APP_VERSION = "0.8.13" -FRONTEND_VERSION = "0.8.13" -BACKEND_VERSION = "0.8.13" +APP_VERSION = "0.8.14" +FRONTEND_VERSION = "0.8.14" +BACKEND_VERSION = "0.8.14" diff --git a/infra/install-postgres-backup-cron.sh b/infra/install-postgres-backup-cron.sh index 38d032e..6b2c003 100644 --- a/infra/install-postgres-backup-cron.sh +++ b/infra/install-postgres-backup-cron.sh @@ -6,5 +6,5 @@ app_dir=$(CDPATH= cd -- "$(dirname "$0")/.." && pwd) trap 'rm -f -- "$temporary"' EXIT HUP INT TERM crontab -l 2>/dev/null | grep -v 'postgres-backup.sh' > "$temporary" || true -printf '%s\n' "30 3 * * 0 flock -n /tmp/miem-postgres-backup.lock $app_dir/infra/postgres-backup.sh >/dev/null 2>&1" >> "$temporary" +printf '%s\n' "30 3 * * 0 flock -w 3600 /tmp/miem-postgres-backup.lock $app_dir/infra/postgres-backup.sh || logger -t miem-postgres-backup -- 'backup skipped or failed'" >> "$temporary" crontab "$temporary" diff --git a/infra/postgres-backup.sh b/infra/postgres-backup.sh index 7779aea..6ca034d 100644 --- a/infra/postgres-backup.sh +++ b/infra/postgres-backup.sh @@ -7,12 +7,14 @@ backup_dir="$HOME/backups/postgres" backup="$backup_dir/postgres-latest.sql" temporary="$backup.tmp.$$" +log() { logger -t miem-postgres-backup -- "$*" 2>/dev/null || true; } + mkdir -p "$backup_dir" -trap 'rm -f -- "$temporary"' EXIT HUP INT TERM +trap 'status=$?; rm -f -- "$temporary"; [ "$status" -eq 0 ] || log "backup failed"; exit "$status"' EXIT HUP INT TERM cd "$app_dir" docker compose exec -T postgres sh -c 'pg_dumpall -U "$POSTGRES_USER"' > "$temporary" test -s "$temporary" mv "$temporary" "$backup" find "$HOME/backups/miem_workers" -maxdepth 1 -type f -name 'miem_workers-*.sql' -delete 2>/dev/null || true -printf '%s\n' "Created $backup" +log "created $backup" diff --git a/pyproject.toml b/pyproject.toml index 5098e39..c6dbdbc 100644 --- a/pyproject.toml +++ b/pyproject.toml @@ -1,6 +1,6 @@ [project] name = "miem-workers" -version = "0.8.13" +version = "0.8.14" description = "MIEM employees parser, admin API, and web admin" requires-python = ">=3.11" dependencies = [ diff --git a/tests/test_api.py b/tests/test_api.py index 3579175..5ed3888 100644 --- a/tests/test_api.py +++ b/tests/test_api.py @@ -18,7 +18,7 @@ def test_health_returns_versions(): response = TestClient(app).get("/api/health") assert response.status_code == 200 - assert response.json()["backend_version"] == "0.8.13" + assert response.json()["backend_version"] == "0.8.14" def test_api_employees_and_stats_require_admin_session(): -- 2.49.1