7536f43513
實作 GPU 加速支援，自動偵測並啟用 CUDA GPU 加速 OCR 處理
主要變更：
1. 環境設置增強 (setup_dev_env.sh)
- 新增 GPU 和 CUDA 版本偵測功能
- 自動安裝對應的 PaddlePaddle GPU/CPU 版本
- CUDA 11.2+ 安裝 GPU 版本，否則安裝 CPU 版本
- 安裝後驗證 GPU 可用性並顯示設備資訊
2. 配置更新
- .env.local: 加入 GPU 配置選項
* FORCE_CPU_MODE: 強制 CPU 模式選項
* GPU_MEMORY_FRACTION: GPU 記憶體使用比例
* GPU_DEVICE_ID: GPU 裝置 ID
- backend/app/core/config.py: 加入 GPU 配置欄位
3. OCR 服務 GPU 整合 (backend/app/services/ocr_service.py)
- 新增 _detect_and_configure_gpu() 方法自動偵測 GPU
- 新增 get_gpu_status() 方法回報 GPU 狀態和記憶體使用
- 修改 get_ocr_engine() 支援 GPU 參數和錯誤降級
- 修改 get_structure_engine() 支援 GPU 參數和錯誤降級
- 自動 GPU/CPU 切換，GPU 失敗時自動降級到 CPU
4. 健康檢查與監控 (backend/app/main.py)
- /health endpoint 加入 GPU 狀態資訊
- 回報 GPU 可用性、裝置名稱、記憶體使用等資訊
5. 文檔更新 (README.md)
- Features: 加入 GPU 加速功能說明
- Prerequisites: 加入 GPU 硬體要求（可選）
- Quick Start: 更新自動化設置說明包含 GPU 偵測
- Configuration: 加入 GPU 配置選項和說明
- Notes: 加入 GPU 支援注意事項
技術特性：
- 自動偵測 NVIDIA GPU 和 CUDA 版本
- 支援 CUDA 11.2-12.x
- GPU 初始化失敗時優雅降級到 CPU
- GPU 記憶體分配控制防止 OOM
- 即時 GPU 狀態監控和報告
- 完全向後相容 CPU-only 環境
預期效能：
- GPU 系統: 3-10x OCR 處理速度提升
- CPU 系統: 無影響，維持現有效能
🤖 Generated with [Claude Code](https://claude.com/claude-code)
Co-Authored-By: Claude <noreply@anthropic.com>
69 lines
3.4 KiB
JSON
69 lines
3.4 KiB
JSON
{
|
|
"permissions": {
|
|
"allow": [
|
|
"Bash(openspec validate:*)",
|
|
"Bash(openspec list:*)",
|
|
"Bash(openspec show:*)",
|
|
"Bash(conda env:*)",
|
|
"Bash(alembic init:*)",
|
|
"Bash(alembic revision:*)",
|
|
"Bash(python -m alembic revision:*)",
|
|
"Bash(python test_services.py:*)",
|
|
"Bash(source ~/.zshrc)",
|
|
"Bash(conda activate:*)",
|
|
"Bash(brew install:*)",
|
|
"Bash(/opt/homebrew/bin/brew install libmagic)",
|
|
"Bash(python:*)",
|
|
"Bash(/opt/homebrew/bin/brew install pango gdk-pixbuf libffi)",
|
|
"Bash(export DYLD_LIBRARY_PATH:*)",
|
|
"Bash(pip install:*)",
|
|
"Bash(timeout 5 python:*)",
|
|
"Bash(curl:*)",
|
|
"Bash(pkill:*)",
|
|
"Bash(bash -c \"source ~/.zshrc && conda activate tool_ocr && export DYLD_LIBRARY_PATH=/opt/homebrew/lib:$DYLD_LIBRARY_PATH && python -m app.main > /tmp/tool_ocr_startup.log 2>&1 &\")",
|
|
"Bash(TOKEN=\"eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOjMsInVzZXJuYW1lIjoiYWRtaW4iLCJleHAiOjE3NjI4ODM1NDF9.sm7zPq7ShErFg3UfBSrzGWxC5m5MgC_L0owKJb7Q4J4\":*)",
|
|
"Bash(/tmp/login_response.json)",
|
|
"Bash(cat:*)",
|
|
"Bash(conda run:*)",
|
|
"Bash(alembic upgrade:*)",
|
|
"Bash(lsof:*)",
|
|
"Bash(xargs kill:*)",
|
|
"Bash(brew list:*)",
|
|
"Bash(echo:*)",
|
|
"Bash(bash -c \"source ~/.zshrc && conda activate tool_ocr && cd /Users/egg/Projects/Tool_OCR/backend && pip list | grep pytest\")",
|
|
"Bash(bash -c:*)",
|
|
"Bash(find:*)",
|
|
"Bash(TOKEN=\"eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOjMsInVzZXJuYW1lIjoiYWRtaW4iLCJleHAiOjE3NjI5MTczMzl9.x5FYcKYpF8rp1M7M7pQsDGwJS1EeQ6RdgRxtNbA2W5E\")",
|
|
"Bash(TOKEN=\"eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOjMsInVzZXJuYW1lIjoiYWRtaW4iLCJleHAiOjE3NjI5MTczOTN9.oNPbj-SvIl_becIlulXb4DOJ6uHF70hnwlqI-Zfqs1g\")",
|
|
"Bash(TOKEN=\"eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOiIzIiwidXNlcm5hbWUiOiJhZG1pbiIsImV4cCI6MTc2MjkxNzQ1NH0.wtLv3n8bR_whzkuYILehy87IBDI_ph8FWEFd7laASEU\")",
|
|
"Bash(python3:*)",
|
|
"Bash(TOKEN=\"eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOiIzIiwidXNlcm5hbWUiOiJhZG1pbiIsImV4cCI6MTc2MjkyMDUzMn0.e_uG5pRTHsnsCEO3yVZDCR4vXXne81Evkw99VDGVZQU\")",
|
|
"Bash(unzip:*)",
|
|
"Bash(TOKEN=\"eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOiIzIiwidXNlcm5hbWUiOiJhZG1pbiIsImV4cCI6MTc2MjkyMDc0OH0.zOpB_2lTi-nVf5B7VMMB9GPeanuo0i-m6iauzjyhCno\")",
|
|
"Bash(TOKEN=\"eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOiIzIiwidXNlcm5hbWUiOiJhZG1pbiIsImV4cCI6MTc2MjkyMTExM30.q81VbDDIvQkL3VLl5sCvDEJlha3Rm4hkWMDQmWJyurs\")",
|
|
"Bash(TOKEN=\"eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOiIzIiwidXNlcm5hbWUiOiJhZG1pbiIsImV4cCI6MTc2MjkyMTI3OH0.7CQ9NMj5yekdtaRg4v0jHYQmfsbajTZ8aK8kKOo7ixQ\")",
|
|
"Bash(/Applications/LibreOffice.app/Contents/MacOS/soffice --headless --convert-to docx test_document.html --outdir .)",
|
|
"Bash(env)",
|
|
"Bash(node --version:*)",
|
|
"Bash(npm:*)",
|
|
"Bash(npx tailwindcss init -p)",
|
|
"Bash(sqlite3:*)",
|
|
"Bash(TOKEN=\"eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOiIzIiwidXNlcm5hbWUiOiJhZG1pbiIsImV4cCI6MTc2Mjk1ODUzOX0.S1JjFxVVmifdkN5F_dORt5jTRdTFN9MKJ8UJKuYacA8\")",
|
|
"Bash(tree:*)",
|
|
"Bash(done)",
|
|
"Bash(git add:*)",
|
|
"Bash(git commit:*)",
|
|
"Bash(git push)",
|
|
"Bash(docker --version:*)",
|
|
"Bash(dpkg:*)",
|
|
"Bash(pip3:*)",
|
|
"Bash(chmod:*)",
|
|
"Bash(sudo apt install:*)",
|
|
"Bash(/usr/bin/soffice:*)",
|
|
"Bash(git config:*)"
|
|
],
|
|
"deny": [],
|
|
"ask": []
|
|
}
|
|
}
|