docs: align relevance review with internal search #30

Merged
admin merged 14 commits from docs/relevance-legal-review into main 2026-09-12 06:23:02 +00:00
Owner

Переработана документация под проверку собственной поисковой системы через существующую внутреннюю лабораторию (issue #23). ЦБД Минюста используется только как авторитетный источник для проверки документов и редакций при подготовке эталонной разметки; её порядок выдачи не сравнивается. Устаревшие Excel/PDF бланки удалены. Второй портал не добавляется: лаборатория уже реализована в main.

Переработана документация под проверку собственной поисковой системы через существующую внутреннюю лабораторию (issue #23). ЦБД Минюста используется только как авторитетный источник для проверки документов и редакций при подготовке эталонной разметки; её порядок выдачи не сравнивается. Устаревшие Excel/PDF бланки удалены. Второй портал не добавляется: лаборатория уже реализована в main.
agent added 10 commits 2026-09-06 20:37:56 +00:00
Author
Owner

Найдена блокирующая документационная несогласованность: docs/product/relevance-set-v1-legal-review.md ссылается на лист «Пример заполнения», а docs/README.md обещает отдельный пример, но в текущем Выборка-ru.xlsx есть только лист «Проверка RU». Добавьте этот лист или исправьте обе формулировки, иначе инструкция направляет проверяющего к несуществующему материалу. Остальной diff, ссылки и согласованность 50 строк RU/KY проверены; PYTHONPATH=backend python3 -m unittest backend/test_search_relevance.py проходит.

Найдена блокирующая документационная несогласованность: `docs/product/relevance-set-v1-legal-review.md` ссылается на лист «Пример заполнения», а `docs/README.md` обещает отдельный пример, но в текущем `Выборка-ru.xlsx` есть только лист «Проверка RU». Добавьте этот лист или исправьте обе формулировки, иначе инструкция направляет проверяющего к несуществующему материалу. Остальной diff, ссылки и согласованность 50 строк RU/KY проверены; `PYTHONPATH=backend python3 -m unittest backend/test_search_relevance.py` проходит.
agent added 1 commit 2026-09-06 20:42:05 +00:00
Author
Owner

Повторный независимый review завершён: прежний блокер устранён — упоминаний несуществующего листа «Пример заполнения» нет, документация ведёт к отдельным RU/KY бланкам с листами «Проверка RU/KY». Проверены актуальный полный diff, внутренние Markdown-ссылки, целостность XLSX и согласованность статуса/инструкций; блокирующих замечаний нет.

Повторный независимый review завершён: прежний блокер устранён — упоминаний несуществующего листа «Пример заполнения» нет, документация ведёт к отдельным RU/KY бланкам с листами «Проверка RU/KY». Проверены актуальный полный diff, внутренние Markdown-ссылки, целостность XLSX и согласованность статуса/инструкций; блокирующих замечаний нет.
Owner

Согласуется ли этот PR с задачами issue?

Согласуется ли этот PR с задачами issue?
Author
Owner

@admin PR #30 продолжает исходную #18 — независимую проверку замороженного набора из 50 RU/KY. Но #18 закрыта как заменённая #23: текущий процесс предполагает собирать оценки юристов на фактической выдаче OpenSearch через внутреннюю лабораторию, а затем формировать relevance set. PR #30 добавляет отдельные Excel-бланки и ставит эту ручную проверку первым шагом, поэтому напрямую текущему workflow #23 и main не соответствует. Эти бланки могут быть дополнительным материалом для readiness gate #21, но это нужно подтвердить. Предлагаю выбрать: оставить бланки как дополнение к лаборатории и обновить документацию под текущий процесс либо считать их заменёнными и закрыть PR. Пока решение не принято, однозначно подтвердить соответствие PR целям issue нельзя.

@admin PR #30 продолжает исходную #18 — независимую проверку замороженного набора из 50 RU/KY. Но #18 закрыта как заменённая #23: текущий процесс предполагает собирать оценки юристов на фактической выдаче OpenSearch через внутреннюю лабораторию, а затем формировать relevance set. PR #30 добавляет отдельные Excel-бланки и ставит эту ручную проверку первым шагом, поэтому напрямую текущему workflow #23 и main не соответствует. Эти бланки могут быть дополнительным материалом для readiness gate #21, но это нужно подтвердить. Предлагаю выбрать: оставить бланки как дополнение к лаборатории и обновить документацию под текущий процесс либо считать их заменёнными и закрыть PR. Пока решение не принято, однозначно подтвердить соответствие PR целям issue нельзя.
Author
Owner

Уточнение к моему комментарию выше: цель проекта — проверять и улучшать нашу собственную поисковую систему. Issue #23 и внутренняя лаборатория — основной способ оценивать её выдачу. ЦБД Минюста используется только как авторитетный источник для проверки актов и разметки эталона; сравнивать с ней поисковую выдачу не нужно. Поэтому Excel-бланки из PR #30 не нужны как отдельный обязательный этап или как средство сравнения с поиском Минюста. Их можно оставить только как вспомогательный способ вручную подтвердить ground truth по официальным документам, если они действительно упрощают эту проверку.

Уточнение к моему комментарию выше: цель проекта — проверять и улучшать нашу собственную поисковую систему. Issue #23 и внутренняя лаборатория — основной способ оценивать её выдачу. ЦБД Минюста используется только как авторитетный источник для проверки актов и разметки эталона; сравнивать с ней поисковую выдачу не нужно. Поэтому Excel-бланки из PR #30 не нужны как отдельный обязательный этап или как средство сравнения с поиском Минюста. Их можно оставить только как вспомогательный способ вручную подтвердить ground truth по официальным документам, если они действительно упрощают эту проверку.
agent changed title from docs: legal review materials and project status to docs: align relevance review with internal search 2026-09-12 05:50:12 +00:00
agent added 1 commit 2026-09-12 05:50:20 +00:00
Author
Owner

Независимый review полного текущего diff завершён. Нашёл один блокирующий вопрос согласованности документации и одно неблокирующее устаревшее утверждение:

  1. Блокер: новая инструкция backend/search/RELEVANCE_ANNOTATION.md требует зафиксировать ground truth до просмотра OpenSearch, а затем отдельно оценить собственную выдачу в /review. При этом следующий readiness-документ docs/product/frontend-design-readiness-plan.md всё ещё требует проверять каждый запрос «по официальной ЦБД и локальному индексу» на этапе подготовки relevance set. Это оставляет неясным, нужно ли просматривать выдачу до её фиксации, и сохраняет расхождение в документах следующего этапа (#21). Согласуйте формулировки, сохранив ЦБД источником проверки документов, а OpenSearch — объектом оценки после фиксации набора.

  2. Неблокирующее: docs/operations/project-status.md в разделе «Уже сделано» всё ещё утверждает, что подготовлены RU/KY Excel-бланки и инструкция, хотя PR удаляет эти формы. Удалите/уточните текущий пункт; историческая запись в журнале изменений за 2026-09-06 допустима.

git diff --check проходит; diff содержит только 4 документа, .gitignore не попал в PR. Реализация маршрута /review и workflow лаборатории соответствуют описанию. До устранения пункта 1 не считаю документационное согласование PR завершённым.

Независимый review полного текущего diff завершён. Нашёл один блокирующий вопрос согласованности документации и одно неблокирующее устаревшее утверждение: 1. **Блокер:** новая инструкция `backend/search/RELEVANCE_ANNOTATION.md` требует зафиксировать ground truth до просмотра OpenSearch, а затем отдельно оценить собственную выдачу в `/review`. При этом следующий readiness-документ `docs/product/frontend-design-readiness-plan.md` всё ещё требует проверять каждый запрос «по официальной ЦБД и локальному индексу» на этапе подготовки relevance set. Это оставляет неясным, нужно ли просматривать выдачу до её фиксации, и сохраняет расхождение в документах следующего этапа (#21). Согласуйте формулировки, сохранив ЦБД источником проверки документов, а OpenSearch — объектом оценки после фиксации набора. 2. **Неблокирующее:** `docs/operations/project-status.md` в разделе «Уже сделано» всё ещё утверждает, что подготовлены RU/KY Excel-бланки и инструкция, хотя PR удаляет эти формы. Удалите/уточните текущий пункт; историческая запись в журнале изменений за 2026-09-06 допустима. `git diff --check` проходит; diff содержит только 4 документа, `.gitignore` не попал в PR. Реализация маршрута `/review` и workflow лаборатории соответствуют описанию. До устранения пункта 1 не считаю документационное согласование PR завершённым.
agent added 1 commit 2026-09-12 05:53:01 +00:00
Author
Owner

Повторный независимый review полного PR #30 после 70c70fb завершён.

Оба предыдущих замечания устранены: (1) readiness plan разрешает сверить наличие canonical document_code в локальном корпусе, запрещает оценивать порядок выдачи до freeze и ставит baseline собственной выдачи после фиксации ground truth; (2) project-status описывает Excel/PDF-бланки как предыдущую итерацию, не утверждая, что они доступны в текущем процессе.

Проверил все 5 файлов PR и связанный контекст issue #18 (закрыта), #23 (открыта, цель — оценка собственной выдачи) и #21 (открыта, readiness gate). Ссылка на инструкцию relevance set существует; /review реализован в текущем API и сервер по умолчанию привязывается к localhost. Новых блокирующих замечаний не нашёл. git diff --check проходит; локальное изменение .gitignore не входит в diff.

Повторный независимый review полного PR #30 после `70c70fb` завершён. Оба предыдущих замечания устранены: (1) readiness plan разрешает сверить наличие canonical `document_code` в локальном корпусе, запрещает оценивать порядок выдачи до freeze и ставит baseline собственной выдачи после фиксации ground truth; (2) project-status описывает Excel/PDF-бланки как предыдущую итерацию, не утверждая, что они доступны в текущем процессе. Проверил все 5 файлов PR и связанный контекст issue #18 (закрыта), #23 (открыта, цель — оценка собственной выдачи) и #21 (открыта, readiness gate). Ссылка на инструкцию relevance set существует; `/review` реализован в текущем API и сервер по умолчанию привязывается к localhost. Новых блокирующих замечаний не нашёл. `git diff --check` проходит; локальное изменение `.gitignore` не входит в diff.
agent added 1 commit 2026-09-12 05:54:46 +00:00
Author
Owner

Финальный независимый review полного PR #30 после 7e07f3a завершён. Оба прежних замечания закрыты: readiness plan теперь отделяет проверку наличия документов в локальном индексе от оценки ранжирования, а project-status описывает Excel/PDF-бланки только как предыдущую итерацию. Проверены changelog-коммит и все 6 файлов PR: документация согласована с целью оценивать собственную выдачу OpenSearch через существующий /review; ЦБД Минюста указана только как источник для подтверждения ground truth; второго портала нет; ссылки на инструкцию и /review валидны. .gitignore вне PR. git diff --check проходит. Новых блокирующих замечаний нет.

Финальный независимый review полного PR #30 после `7e07f3a` завершён. Оба прежних замечания закрыты: readiness plan теперь отделяет проверку наличия документов в локальном индексе от оценки ранжирования, а `project-status` описывает Excel/PDF-бланки только как предыдущую итерацию. Проверены changelog-коммит и все 6 файлов PR: документация согласована с целью оценивать собственную выдачу OpenSearch через существующий `/review`; ЦБД Минюста указана только как источник для подтверждения ground truth; второго портала нет; ссылки на инструкцию и `/review` валидны. `.gitignore` вне PR. `git diff --check` проходит. Новых блокирующих замечаний нет.
admin merged commit b412315ac6 into main 2026-09-12 06:23:02 +00:00
Sign in to join this conversation.
No Reviewers
No Label
2 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: agent/akyldash#30