Files
bearingsinfo/tools/scripts
Claude 2a35f080b5 Fix pre-existing CI failures: wrong paths, broken config validation, and bad test imports
- articles_ci.yml: fix script path (scripts/ → tools/scripts/)
- deduplicate_nomenclature.py, validate_articles_structure.py: fix parents[1] → parents[2]
  so REPO_ROOT resolves to the repo root instead of tools/
- validate/run_validations.py: fix schema_dir to use actual repo root (parents[3]) / data/schemas/
- src/config.py: fix _validate_app_config — all section keys were passed with a dotted
  prefix (e.g. "paths.inbox") as dict lookup keys, causing validation to always fail;
  strip prefix so only the leaf key is used for lookup
- tests/conftest.py: add tools/ to sys.path so scripts.* imports work; fix schemas_dir
  fixture to point to data/schemas/
- tests/test_schemas.py: use absolute path to data/schemas/ instead of relative "schemas"
- tests/test_schema_validation.py: fix schemas_dir to data/schemas/ and update expected
  schema path mappings
- tests/test_processor.py: add missing dimension_patterns, text_normalization to parsing_rules
  fixture; add logging.max_size_mb and logging.backup_count to app.yaml fixture
- tests/test_knowledge_base_builder.py: fix sys.path to point to tools/scripts/ not scripts/
- tests/test_table_scraper.py: fix sources path to src/sources/ not sources/
- CLAUDE.md: clarify schemas location, unique key distinction, coverage scope

https://claude.ai/code/session_017v9w8FTSjT5646A2W98DPV
2026-05-18 15:21:20 +00:00
..
…

Скрипты управления

Скрипты для управления и обслуживания репозитория.


Структура

scripts/
├── build_knowledge_base.py  # Построитель базы знаний (режим максимального контекста)
├── manage.py                # Основной скрипт управления (из Baza)
└── README.md               # Этот файл

Также доступны:

  • api/scripts/import_to_postgres.py - импорт в PostgreSQL (из bearing-api)
  • api/scripts/unpack_and_classify.py - обработка файлов (из bearing-api)
  • 00_ВСПОМОГАТЕЛЬНЫЕ/extract_archives.sh - распаковка архивов (из Mar)

build_knowledge_base.py

Knowledge Base Builder - построение полной, структурированной и машиночитаемой базы знаний.

Описание

Автоматически обрабатывает все файлы в репозитории и создает исчерпывающую базу знаний в формате Markdown.

Режим максимального контекста - извлекает 100% информации без сокращений.

Использование

# Запуск из корня репозитория
python scripts/build_knowledge_base.py

# С указанием пути к репозиторию
python scripts/build_knowledge_base.py --repo /path/to/repo

# С указанием имени выходного файла
python scripts/build_knowledge_base.py --output MY_KNOWLEDGE_BASE.md

Возможности

✅ Полная инвентаризация всех файлов
✅ Извлечение терминов и определений
✅ Анализ структур данных из кода
✅ Трассировка каждого факта к источнику
✅ Машиночитаемый формат для LLM, RAG, Wiki

Результат

  • Обрабатывает ~3,000+ файлов
  • Извлекает ~11,000+ терминов
  • Создает базу знаний ~6 MB
  • Время выполнения: 3-5 минут

📖 Полная документация: docs/KNOWLEDGE_BASE_BUILDER.md


manage.py

Основной скрипт управления базой знаний.

Использование

python scripts/manage.py <command> [options]

Команды

validate

Проверка структуры репозитория

python scripts/manage.py validate

report

Генерация отчета о содержимом

python scripts/manage.py report

update

Обновление данных

python scripts/manage.py update

help

Справка по командам

python scripts/manage.py help

Опции

  • -v, --verbose - подробный вывод

Скрипты API

import_to_postgres.py

Импорт данных из CSV в PostgreSQL.

python api/scripts/import_to_postgres.py

unpack_and_classify.py

Обработка входящих файлов из data/inbox/.

python api/scripts/unpack_and_classify.py

Shell скрипты

extract_archives.sh

Распаковка архивов из Mar.

bash 00_ВСПОМОГАТЕЛЬНЫЕ/extract_archives.sh

Зависимости

Python скрипты требуют:

  • Python 3.8+
  • Зависимости из api/requirements.txt

Установка:

pip install -r api/requirements.txt

Автоматизация

Скрипты могут быть запущены через:

  • GitHub Actions workflows
  • Cron jobs
  • Вручную

Источники

  • manage.py - из Baza
  • import_to_postgres.py, unpack_and_classify.py - из bearing-api
  • extract_archives.sh - из Mar

Последнее обновление: 2026-01-19