Compare commits

...

3 Commits

Author SHA1 Message Date
69c1dd52cf fix: report scheduled backup failures
All checks were successful
CI / test (pull_request) Successful in 9m12s
CI / deploy (pull_request) Has been skipped
2026-09-15 18:53:06 +03:00
b933f95302 fix: finalize weekly postgres backup retention
All checks were successful
CI / test (pull_request) Successful in 9m11s
CI / deploy (pull_request) Has been skipped
2026-09-15 18:50:22 +03:00
384cd550d5 fix: schedule weekly full postgres backup
Some checks failed
CI / test (pull_request) Failing after 4m45s
CI / deploy (pull_request) Has been skipped
2026-09-15 18:45:27 +03:00
8 changed files with 46 additions and 11 deletions

View File

@@ -23,6 +23,8 @@ jobs:
- run: python -m pip install -r requirements.txt - run: python -m pip install -r requirements.txt
- run: python -m pytest -q - run: python -m pytest -q
- run: node --check app/static/admin.js - run: node --check app/static/admin.js
- run: sh -n infra/postgres-backup.sh
- run: sh -n infra/install-postgres-backup-cron.sh
deploy: deploy:
if: (github.event_name == 'push' && github.ref == 'refs/heads/main') || github.event_name == 'workflow_dispatch' if: (github.event_name == 'push' && github.ref == 'refs/heads/main') || github.event_name == 'workflow_dispatch'
@@ -80,13 +82,11 @@ jobs:
test -f "$release" test -f "$release"
archive_version="$(tar -xOf "$release" ./app/version.py | sed -n 's/^BACKEND_VERSION = "\(.*\)"$/\1/p')" archive_version="$(tar -xOf "$release" ./app/version.py | sed -n 's/^BACKEND_VERSION = "\(.*\)"$/\1/p')"
test "$archive_version" = "$EXPECTED_BACKEND_VERSION" test "$archive_version" = "$EXPECTED_BACKEND_VERSION"
mkdir -p "$HOME/backups/miem_workers"
backup="$HOME/backups/miem_workers/miem_workers-$(date +%Y%m%d-%H%M%S).sql"
docker compose exec -T postgres sh -c 'pg_dump -U "$POSTGRES_USER" "$POSTGRES_DB"' > "$backup"
docker run --rm \ docker run --rm \
-v "$release:/src/release.tar:ro" \ -v "$release:/src/release.tar:ro" \
-v "$PROD_PATH":/dst \ -v "$PROD_PATH":/dst \
alpine:3.20 sh -c 'tar -xf /src/release.tar -C /dst' alpine:3.20 sh -c 'tar -xf /src/release.tar -C /dst'
/srv/miem_workers/infra/install-postgres-backup-cron.sh
docker compose up -d --build docker compose up -d --build
runtime_version="$(docker compose exec -T api python -c 'from app.version import BACKEND_VERSION; print(BACKEND_VERSION)')" runtime_version="$(docker compose exec -T api python -c 'from app.version import BACKEND_VERSION; print(BACKEND_VERSION)')"
test "$runtime_version" = "$EXPECTED_BACKEND_VERSION" test "$runtime_version" = "$EXPECTED_BACKEND_VERSION"
@@ -95,7 +95,6 @@ jobs:
*"\"status\":\"ok\""*"\"backend_version\":\"$EXPECTED_BACKEND_VERSION\""*) ;; *"\"status\":\"ok\""*"\"backend_version\":\"$EXPECTED_BACKEND_VERSION\""*) ;;
*) echo "Unexpected health response: $health" >&2; exit 1 ;; *) echo "Unexpected health response: $health" >&2; exit 1 ;;
esac esac
find "$HOME/backups/miem_workers" -maxdepth 1 -type f -name 'miem_workers-*.sql' ! -path "$backup" -delete
docker compose ps docker compose ps
rm -f "$release" rm -f "$release"
REMOTE REMOTE

View File

@@ -1,5 +1,11 @@
# Changelog # Changelog
## 0.8.14
- Production CD больше не создаёт backup при каждом deploy; еженедельная задача
сохраняет один полный PostgreSQL backup с атомарной заменой; ошибки и
пропущенные из-за lock запуски пишутся в system log.
## 0.8.12 ## 0.8.12
- Передача версии в production deploy ограничена безопасным форматом. - Передача версии в production deploy ограничена безопасным форматом.

View File

@@ -122,7 +122,7 @@ docker compose exec postgres pg_dump -U miem miem_workers > backup.sql
docker compose down docker compose down
``` ```
Production deploy выполняется job `deploy` workflow `CI` после успешного `test` на push в `main` или вручную. Для него нужны Actions secrets `PROD_HOST`, `PROD_USER`, `PROD_SSH_KEY` и `PROD_KNOWN_HOSTS`; `.env` и ключи в репозиторий не добавляются. Перед обновлением workflow сохраняет PostgreSQL backup в домашний каталог deploy-пользователя, пересобирает `api` и `worker` и проверяет `/api/health`. Одновременно выполняется только один production deploy. Production deploy выполняется job `deploy` workflow `CI` после успешного `test` на push в `main` или вручную. Для него нужны Actions secrets `PROD_HOST`, `PROD_USER`, `PROD_SSH_KEY` и `PROD_KNOWN_HOSTS`; `.env` и ключи в репозиторий не добавляются. PostgreSQL backup выполняется на VPS раз в неделю user cron deploy-пользователя через `infra/postgres-backup.sh`: `pg_dumpall` сохраняет весь кластер в `~/backups/postgres/postgres-latest.sql`. Новый dump сначала создаётся во временный файл и заменяет старый только после успешного завершения; предыдущие dump-файлы `miem_workers` удаляются после успешного создания нового. Одновременно выполняется только один production deploy.
## Проверки ## Проверки
@@ -135,4 +135,4 @@ node --check app/static/admin.js
Тесты с данными используют временную SQLite; отдельные API smoke-тесты запускают приложение с его текущей конфигурацией. Браузерная проверка: `pip install playwright`, `python -m playwright install chromium`, затем `python tests/browser_admin.py`. Она проверяет реальный рендеринг страниц, клавиатуру, диалог, фильтры и восстановление прогресса после ошибки. Скриншоты сохраняются во временную папку; путь выводится в конце. Тесты с данными используют временную SQLite; отдельные API smoke-тесты запускают приложение с его текущей конфигурацией. Браузерная проверка: `pip install playwright`, `python -m playwright install chromium`, затем `python tests/browser_admin.py`. Она проверяет реальный рендеринг страниц, клавиатуру, диалог, фильтры и восстановление прогресса после ошибки. Скриншоты сохраняются во временную папку; путь выводится в конце.
Версия сервиса: `0.8.12`. Админка всегда показывает версии backend и frontend в footer. Версия сервиса: `0.8.14`. Админка всегда показывает версии backend и frontend в footer.

View File

@@ -1,3 +1,3 @@
APP_VERSION = "0.8.12" APP_VERSION = "0.8.14"
FRONTEND_VERSION = "0.8.12" FRONTEND_VERSION = "0.8.14"
BACKEND_VERSION = "0.8.12" BACKEND_VERSION = "0.8.14"

View File

@@ -0,0 +1,10 @@
#!/bin/sh
set -eu
temporary=$(mktemp)
app_dir=$(CDPATH= cd -- "$(dirname "$0")/.." && pwd)
trap 'rm -f -- "$temporary"' EXIT HUP INT TERM
crontab -l 2>/dev/null | grep -v 'postgres-backup.sh' > "$temporary" || true
printf '%s\n' "30 3 * * 0 flock -w 3600 /tmp/miem-postgres-backup.lock $app_dir/infra/postgres-backup.sh || logger -t miem-postgres-backup -- 'backup skipped or failed'" >> "$temporary"
crontab "$temporary"

20
infra/postgres-backup.sh Normal file
View File

@@ -0,0 +1,20 @@
#!/bin/sh
set -eu
umask 077
app_dir=$(CDPATH= cd -- "$(dirname "$0")/.." && pwd)
backup_dir="$HOME/backups/postgres"
backup="$backup_dir/postgres-latest.sql"
temporary="$backup.tmp.$$"
log() { logger -t miem-postgres-backup -- "$*" 2>/dev/null || true; }
mkdir -p "$backup_dir"
trap 'status=$?; rm -f -- "$temporary"; [ "$status" -eq 0 ] || log "backup failed"; exit "$status"' EXIT HUP INT TERM
cd "$app_dir"
docker compose exec -T postgres sh -c 'pg_dumpall -U "$POSTGRES_USER"' > "$temporary"
test -s "$temporary"
mv "$temporary" "$backup"
find "$HOME/backups/miem_workers" -maxdepth 1 -type f -name 'miem_workers-*.sql' -delete 2>/dev/null || true
log "created $backup"

View File

@@ -1,6 +1,6 @@
[project] [project]
name = "miem-workers" name = "miem-workers"
version = "0.8.12" version = "0.8.14"
description = "MIEM employees parser, admin API, and web admin" description = "MIEM employees parser, admin API, and web admin"
requires-python = ">=3.11" requires-python = ">=3.11"
dependencies = [ dependencies = [

View File

@@ -18,7 +18,7 @@ def test_health_returns_versions():
response = TestClient(app).get("/api/health") response = TestClient(app).get("/api/health")
assert response.status_code == 200 assert response.status_code == 200
assert response.json()["backend_version"] == "0.8.12" assert response.json()["backend_version"] == "0.8.14"
def test_api_employees_and_stats_require_admin_session(): def test_api_employees_and_stats_require_admin_session():