重構為外網連接版本

主要變更:
- 移除所有內網 IP (192.168.x.x)
- 改用外網端點 (https://llama.theaken.com)
- 新增 llama_external_api.py 專門處理外網連接
- 更新所有文檔為外網版本
- 加入備用端點自動切換機制
- 優化錯誤處理和超時設定
This commit is contained in:
2025-09-19 22:04:10 +08:00
parent 34fcf39fda
commit e71495ece4
5 changed files with 385 additions and 98 deletions

View File

@@ -54,10 +54,10 @@ Llama API 完整對話程式
時間: 2025-09-19 16:00:00
============================================================
[內網端點測試]
測試 內網端點 1 (21180)... [OK]
測試 內網端點 2 (21181)... [OK]
測試 內網端點 3 (21182)... [OK]
[主要端點測試]
測試 Llama 通用端點... [OK]
測試 GPT-OSS 專用端點... [OK]
測試 DeepSeek 專用端點... [OK]
找到 3 個可用端點,請選擇 (預設: 1):
```
@@ -86,26 +86,27 @@ AI: 1+1等於2。
| 檔案名稱 | 用途說明 |
|---------|---------|
| `llama_full_api.py` | **主程式** - 完整功能版本,支援所有端點 |
| `llama_chat.py` | 內網專用對話程式 |
| `llama_external_api.py` | **主程式** - 外網連接專用版本 |
| `llama_full_api.py` | 完整功能版本,支援所有端點 |
| `quick_test.py` | 快速測試連接是否正常 |
| `local_api_test.py` | 測試所有端點的工具 |
| `test_all_models.py` | 測試所有模型的工具 |
## 🌐 可用的 API 端點
### 內網端點(公司/學校內部網路)
### 主要端點
| 端點 | 地址 | 狀態 |
|-----|------|------|
| 端點 1 | `http://192.168.0.6:21180/v1` | ✅ 正常 |
| 端點 2 | `http://192.168.0.6:21181/v1` | ✅ 正常 |
| 端點 3 | `http://192.168.0.6:21182/v1` | ✅ 正常 |
| 端點 | 地址 | 支援模型 |
|-----|------|---------|
| 通用端點 | `https://llama.theaken.com/v1` | 所有模型 |
| GPT-OSS 專用 | `https://llama.theaken.com/v1/gpt-oss-120b` | GPT-OSS-120B |
| DeepSeek 專用 | `https://llama.theaken.com/v1/deepseek-r1-671b` | DeepSeek-R1-671B |
### 外網端點(需要網路連接)
### 備用端點
| 端點 | 地址 | 狀態 |
|-----|------|------|
| 通用端點 | `https://llama.theaken.com/v1` | 📡 需測試 |
| 端點 | 地址 | 支援模型 |
|-----|------|---------|
| 備用 API 1 | `https://api.llama.theaken.com/v1` | 所有模型 |
| 備用 API 2 | `https://llama-api.theaken.com/v1` | 所有模型 |
## 🤖 支援的 AI 模型
@@ -119,8 +120,9 @@ AI: 1+1等於2。
**解決方法:**
1. 檢查網路連接是否正常
2. 如果在公司/學校,確認是否在內網環境
2. 確認可以訪問外部網站 (https://llama.theaken.com)
3. 嘗試執行 `python quick_test.py` 測試連接
4. 如果主要端點無法使用,程式會自動嘗試備用端點
### 問題AI 回應包含奇怪的標記
@@ -142,7 +144,7 @@ from openai import OpenAI
# 設定連接
client = OpenAI(
api_key="paVrIT+XU1NhwCAOb0X4aYi75QKogK5YNMGvQF1dCyo=",
base_url="http://192.168.0.6:21180/v1"
base_url="https://llama.theaken.com/v1"
)
# 發送訊息
@@ -172,10 +174,10 @@ API_KEY = "你的新金鑰"
`llama_full_api.py` 中的 `ENDPOINTS` 加入新端點:
```python
"內網": [
"主要": [
{
"name": "新端點",
"url": "http://新的地址/v1",
"url": "https://新的地址/v1",
"models": ["gpt-oss-120b"]
}
]
@@ -193,8 +195,8 @@ https://gitea.theaken.com/aken1023/pj_llama/issues
## 📊 測試狀態
最後測試時間2025-09-19
- ✅ 內網端點 1-3全部正常
- ❌ 外網端點暫時無法使用502 錯誤)
- 📡 主要端點:正在測試中
- 🔄 備用端點:當主要端點無法使用時自動切換
---