diff --git a/.gitea/workflows/ci.yml b/.gitea/workflows/ci.yml index 1af3d60..5df5f7f 100644 --- a/.gitea/workflows/ci.yml +++ b/.gitea/workflows/ci.yml @@ -23,6 +23,8 @@ jobs: - run: python -m pip install -r requirements.txt - run: python -m pytest -q - run: node --check app/static/admin.js + - run: sh -n infra/postgres-backup.sh + - run: sh -n infra/install-postgres-backup-cron.sh deploy: if: (github.event_name == 'push' && github.ref == 'refs/heads/main') || github.event_name == 'workflow_dispatch' @@ -80,13 +82,11 @@ jobs: test -f "$release" archive_version="$(tar -xOf "$release" ./app/version.py | sed -n 's/^BACKEND_VERSION = "\(.*\)"$/\1/p')" test "$archive_version" = "$EXPECTED_BACKEND_VERSION" - mkdir -p "$HOME/backups/miem_workers" - backup="$HOME/backups/miem_workers/miem_workers-$(date +%Y%m%d-%H%M%S).sql" - docker compose exec -T postgres sh -c 'pg_dump -U "$POSTGRES_USER" "$POSTGRES_DB"' > "$backup" docker run --rm \ -v "$release:/src/release.tar:ro" \ -v "$PROD_PATH":/dst \ alpine:3.20 sh -c 'tar -xf /src/release.tar -C /dst' + /srv/miem_workers/infra/install-postgres-backup-cron.sh docker compose up -d --build runtime_version="$(docker compose exec -T api python -c 'from app.version import BACKEND_VERSION; print(BACKEND_VERSION)')" test "$runtime_version" = "$EXPECTED_BACKEND_VERSION" @@ -95,7 +95,6 @@ jobs: *"\"status\":\"ok\""*"\"backend_version\":\"$EXPECTED_BACKEND_VERSION\""*) ;; *) echo "Unexpected health response: $health" >&2; exit 1 ;; esac - find "$HOME/backups/miem_workers" -maxdepth 1 -type f -name 'miem_workers-*.sql' ! -path "$backup" -delete docker compose ps rm -f "$release" REMOTE diff --git a/CHANGELOG.md b/CHANGELOG.md index 3253066..7e5c2e2 100644 --- a/CHANGELOG.md +++ b/CHANGELOG.md @@ -1,5 +1,11 @@ # Changelog +## 0.8.14 + +- Production CD больше не создаёт backup при каждом deploy; еженедельная задача + сохраняет один полный PostgreSQL backup с атомарной заменой; ошибки и + пропущенные из-за lock запуски пишутся в system log. + ## 0.8.12 - Передача версии в production deploy ограничена безопасным форматом. diff --git a/README.md b/README.md index 40f0eaa..297b5ef 100644 --- a/README.md +++ b/README.md @@ -122,7 +122,7 @@ docker compose exec postgres pg_dump -U miem miem_workers > backup.sql docker compose down ``` -Production deploy выполняется job `deploy` workflow `CI` после успешного `test` на push в `main` или вручную. Для него нужны Actions secrets `PROD_HOST`, `PROD_USER`, `PROD_SSH_KEY` и `PROD_KNOWN_HOSTS`; `.env` и ключи в репозиторий не добавляются. Перед обновлением workflow сохраняет PostgreSQL backup в домашний каталог deploy-пользователя, пересобирает `api` и `worker` и проверяет `/api/health`. Одновременно выполняется только один production deploy. +Production deploy выполняется job `deploy` workflow `CI` после успешного `test` на push в `main` или вручную. Для него нужны Actions secrets `PROD_HOST`, `PROD_USER`, `PROD_SSH_KEY` и `PROD_KNOWN_HOSTS`; `.env` и ключи в репозиторий не добавляются. PostgreSQL backup выполняется на VPS раз в неделю user cron deploy-пользователя через `infra/postgres-backup.sh`: `pg_dumpall` сохраняет весь кластер в `~/backups/postgres/postgres-latest.sql`. Новый dump сначала создаётся во временный файл и заменяет старый только после успешного завершения; предыдущие dump-файлы `miem_workers` удаляются после успешного создания нового. Одновременно выполняется только один production deploy. ## Проверки @@ -135,4 +135,4 @@ node --check app/static/admin.js Тесты с данными используют временную SQLite; отдельные API smoke-тесты запускают приложение с его текущей конфигурацией. Браузерная проверка: `pip install playwright`, `python -m playwright install chromium`, затем `python tests/browser_admin.py`. Она проверяет реальный рендеринг страниц, клавиатуру, диалог, фильтры и восстановление прогресса после ошибки. Скриншоты сохраняются во временную папку; путь выводится в конце. -Версия сервиса: `0.8.12`. Админка всегда показывает версии backend и frontend в footer. +Версия сервиса: `0.8.14`. Админка всегда показывает версии backend и frontend в footer. diff --git a/app/version.py b/app/version.py index d496d48..4eff412 100644 --- a/app/version.py +++ b/app/version.py @@ -1,3 +1,3 @@ -APP_VERSION = "0.8.12" -FRONTEND_VERSION = "0.8.12" -BACKEND_VERSION = "0.8.12" +APP_VERSION = "0.8.14" +FRONTEND_VERSION = "0.8.14" +BACKEND_VERSION = "0.8.14" diff --git a/infra/install-postgres-backup-cron.sh b/infra/install-postgres-backup-cron.sh new file mode 100644 index 0000000..6b2c003 --- /dev/null +++ b/infra/install-postgres-backup-cron.sh @@ -0,0 +1,10 @@ +#!/bin/sh +set -eu + +temporary=$(mktemp) +app_dir=$(CDPATH= cd -- "$(dirname "$0")/.." && pwd) +trap 'rm -f -- "$temporary"' EXIT HUP INT TERM + +crontab -l 2>/dev/null | grep -v 'postgres-backup.sh' > "$temporary" || true +printf '%s\n' "30 3 * * 0 flock -w 3600 /tmp/miem-postgres-backup.lock $app_dir/infra/postgres-backup.sh || logger -t miem-postgres-backup -- 'backup skipped or failed'" >> "$temporary" +crontab "$temporary" diff --git a/infra/postgres-backup.sh b/infra/postgres-backup.sh new file mode 100644 index 0000000..6ca034d --- /dev/null +++ b/infra/postgres-backup.sh @@ -0,0 +1,20 @@ +#!/bin/sh +set -eu +umask 077 + +app_dir=$(CDPATH= cd -- "$(dirname "$0")/.." && pwd) +backup_dir="$HOME/backups/postgres" +backup="$backup_dir/postgres-latest.sql" +temporary="$backup.tmp.$$" + +log() { logger -t miem-postgres-backup -- "$*" 2>/dev/null || true; } + +mkdir -p "$backup_dir" +trap 'status=$?; rm -f -- "$temporary"; [ "$status" -eq 0 ] || log "backup failed"; exit "$status"' EXIT HUP INT TERM +cd "$app_dir" + +docker compose exec -T postgres sh -c 'pg_dumpall -U "$POSTGRES_USER"' > "$temporary" +test -s "$temporary" +mv "$temporary" "$backup" +find "$HOME/backups/miem_workers" -maxdepth 1 -type f -name 'miem_workers-*.sql' -delete 2>/dev/null || true +log "created $backup" diff --git a/pyproject.toml b/pyproject.toml index 1e43d03..c6dbdbc 100644 --- a/pyproject.toml +++ b/pyproject.toml @@ -1,6 +1,6 @@ [project] name = "miem-workers" -version = "0.8.12" +version = "0.8.14" description = "MIEM employees parser, admin API, and web admin" requires-python = ">=3.11" dependencies = [ diff --git a/tests/test_api.py b/tests/test_api.py index 4321576..5ed3888 100644 --- a/tests/test_api.py +++ b/tests/test_api.py @@ -18,7 +18,7 @@ def test_health_returns_versions(): response = TestClient(app).get("/api/health") assert response.status_code == 200 - assert response.json()["backend_version"] == "0.8.12" + assert response.json()["backend_version"] == "0.8.14" def test_api_employees_and_stats_require_admin_session():