重構為外網連接版本
主要變更: - 移除所有內網 IP (192.168.x.x) - 改用外網端點 (https://llama.theaken.com) - 新增 llama_external_api.py 專門處理外網連接 - 更新所有文檔為外網版本 - 加入備用端點自動切換機制 - 優化錯誤處理和超時設定
This commit is contained in:
48
README.md
48
README.md
@@ -54,10 +54,10 @@ Llama API 完整對話程式
|
||||
時間: 2025-09-19 16:00:00
|
||||
============================================================
|
||||
|
||||
[內網端點測試]
|
||||
測試 內網端點 1 (21180)... [OK]
|
||||
測試 內網端點 2 (21181)... [OK]
|
||||
測試 內網端點 3 (21182)... [OK]
|
||||
[主要端點測試]
|
||||
測試 Llama 通用端點... [OK]
|
||||
測試 GPT-OSS 專用端點... [OK]
|
||||
測試 DeepSeek 專用端點... [OK]
|
||||
|
||||
找到 3 個可用端點,請選擇 (預設: 1):
|
||||
```
|
||||
@@ -86,26 +86,27 @@ AI: 1+1等於2。
|
||||
|
||||
| 檔案名稱 | 用途說明 |
|
||||
|---------|---------|
|
||||
| `llama_full_api.py` | **主程式** - 完整功能版本,支援所有端點 |
|
||||
| `llama_chat.py` | 內網專用對話程式 |
|
||||
| `llama_external_api.py` | **主程式** - 外網連接專用版本 |
|
||||
| `llama_full_api.py` | 完整功能版本,支援所有端點 |
|
||||
| `quick_test.py` | 快速測試連接是否正常 |
|
||||
| `local_api_test.py` | 測試所有端點的工具 |
|
||||
| `test_all_models.py` | 測試所有模型的工具 |
|
||||
|
||||
## 🌐 可用的 API 端點
|
||||
|
||||
### 內網端點(公司/學校內部網路)
|
||||
### 主要端點
|
||||
|
||||
| 端點 | 地址 | 狀態 |
|
||||
|-----|------|------|
|
||||
| 端點 1 | `http://192.168.0.6:21180/v1` | ✅ 正常 |
|
||||
| 端點 2 | `http://192.168.0.6:21181/v1` | ✅ 正常 |
|
||||
| 端點 3 | `http://192.168.0.6:21182/v1` | ✅ 正常 |
|
||||
| 端點 | 地址 | 支援模型 |
|
||||
|-----|------|---------|
|
||||
| 通用端點 | `https://llama.theaken.com/v1` | 所有模型 |
|
||||
| GPT-OSS 專用 | `https://llama.theaken.com/v1/gpt-oss-120b` | GPT-OSS-120B |
|
||||
| DeepSeek 專用 | `https://llama.theaken.com/v1/deepseek-r1-671b` | DeepSeek-R1-671B |
|
||||
|
||||
### 外網端點(需要網路連接)
|
||||
### 備用端點
|
||||
|
||||
| 端點 | 地址 | 狀態 |
|
||||
|-----|------|------|
|
||||
| 通用端點 | `https://llama.theaken.com/v1` | 📡 需測試 |
|
||||
| 端點 | 地址 | 支援模型 |
|
||||
|-----|------|---------|
|
||||
| 備用 API 1 | `https://api.llama.theaken.com/v1` | 所有模型 |
|
||||
| 備用 API 2 | `https://llama-api.theaken.com/v1` | 所有模型 |
|
||||
|
||||
## 🤖 支援的 AI 模型
|
||||
|
||||
@@ -119,8 +120,9 @@ AI: 1+1等於2。
|
||||
|
||||
**解決方法:**
|
||||
1. 檢查網路連接是否正常
|
||||
2. 如果在公司/學校,確認是否在內網環境
|
||||
2. 確認可以訪問外部網站 (https://llama.theaken.com)
|
||||
3. 嘗試執行 `python quick_test.py` 測試連接
|
||||
4. 如果主要端點無法使用,程式會自動嘗試備用端點
|
||||
|
||||
### 問題:AI 回應包含奇怪的標記
|
||||
|
||||
@@ -142,7 +144,7 @@ from openai import OpenAI
|
||||
# 設定連接
|
||||
client = OpenAI(
|
||||
api_key="paVrIT+XU1NhwCAOb0X4aYi75QKogK5YNMGvQF1dCyo=",
|
||||
base_url="http://192.168.0.6:21180/v1"
|
||||
base_url="https://llama.theaken.com/v1"
|
||||
)
|
||||
|
||||
# 發送訊息
|
||||
@@ -172,10 +174,10 @@ API_KEY = "你的新金鑰"
|
||||
在 `llama_full_api.py` 中的 `ENDPOINTS` 加入新端點:
|
||||
|
||||
```python
|
||||
"內網": [
|
||||
"主要": [
|
||||
{
|
||||
"name": "新端點",
|
||||
"url": "http://新的地址/v1",
|
||||
"url": "https://新的地址/v1",
|
||||
"models": ["gpt-oss-120b"]
|
||||
}
|
||||
]
|
||||
@@ -193,8 +195,8 @@ https://gitea.theaken.com/aken1023/pj_llama/issues
|
||||
## 📊 測試狀態
|
||||
|
||||
最後測試時間:2025-09-19
|
||||
- ✅ 內網端點 1-3:全部正常
|
||||
- ❌ 外網端點:暫時無法使用(502 錯誤)
|
||||
- 📡 主要端點:正在測試中
|
||||
- 🔄 備用端點:當主要端點無法使用時自動切換
|
||||
|
||||
---
|
||||
|
||||
|
Reference in New Issue
Block a user