新增內網外網選擇功能

新增功能:
 llama_universal.py - 主程式支援內外網環境選擇
🌐 內網端點:http://192.168.0.6:21180-21182/v1
🌐 外網端點:https://llama.theaken.com/v1/*
🔄 對話中可使用 'switch' 指令切換環境
📱 智慧環境偵測和錯誤處理

更新內容:
- 新增網路環境選擇介面
- 支援內網三個端點 (21180, 21181, 21182)
- 支援外網三個端點(通用、GPT專用、DeepSeek專用)
- 新增 switch 指令可在對話中切換環境
- 完整的錯誤處理和重試機制
- 更新 README.md 說明新功能和使用方式

現在用戶可以根據所在網路環境自由選擇最適合的連接方式!
This commit is contained in:
2025-09-19 23:27:19 +08:00
parent 390a8cc7f7
commit ece261ed8a
2 changed files with 373 additions and 15 deletions

View File

@@ -35,7 +35,10 @@ cd pj_llama
### 3. 執行對話程式
```bash
# 執行主程式(智慧對話
# 🌟 執行主程式(支援內外網選擇
python llama_universal.py
# 或執行外網專用版本
python llama_chat.py
# 或執行完整版本(支援多端點)
@@ -50,16 +53,18 @@ python llama_full_api.py
```
============================================================
Llama API 完整對話程式
時間: 2025-09-19 16:00:00
選擇網路環境
============================================================
[主要端點測試]
測試 Llama 通用端點... [OK]
測試 GPT-OSS 專用端點... [OK]
測試 DeepSeek 專用端點... [OK]
可用環境:
1. 內網環境
說明:公司/學校內部網路,使用內部 IP 地址
端點數量3 個
2. 外網環境
說明:公開網際網路,使用外部域名
端點數量3 個
找到 3 個可用端點,請選擇 (預設: 1):
請選擇環境 (1-2)預設 1:
```
選擇端點後即可開始對話:
@@ -81,19 +86,29 @@ AI: 1+1等於2。
| `exit``quit` | 結束對話 |
| `clear` | 清空對話歷史,開始新對話 |
| `model` | 切換使用的 AI 模型 |
| `switch` | 切換網路環境(內網/外網) |
## 🔧 程式檔案說明
| 檔案名稱 | 用途說明 |
|---------|---------|
| `llama_chat.py` | **主程式** - 智慧對話程式 |
| `llama_universal.py` | **🌟 主程式** - 支援內外網環境選擇 |
| `llama_chat.py` | 外網專用對話程式 |
| `llama_full_api.py` | 完整功能版本,支援多端點切換 |
| `quick_test.py` | 快速測試連接是否正常 |
| `test_all_models.py` | 測試所有模型的工具 |
## 🌐 可用的 API 端點
### 可用端點
### 內網端點(公司/學校內部)
| 端點 | 地址 | 支援模型 |
|-----|------|---------|
| 內網端點 1 | `http://192.168.0.6:21180/v1` | 所有模型 |
| 內網端點 2 | `http://192.168.0.6:21181/v1` | 所有模型 |
| 內網端點 3 | `http://192.168.0.6:21182/v1` | 所有模型 |
### 外網端點(公開網際網路)
| 端點 | 地址 | 支援模型 |
|-----|------|---------|
@@ -112,10 +127,10 @@ AI: 1+1等於2。
### 問題:程式顯示「無法連接」
**解決方法:**
1. 檢查網路連接是否正常
2. 確認可以訪問外部網站 (https://llama.theaken.com)
3. 嘗試執行 `python quick_test.py` 測試連接
4. 程式會自動測試所有端點並選擇可用的
1. 嘗試切換網路環境(使用 `switch` 指令)
2. 內網環境:確認在公司/學校網路內
3. 外網環境:確認可以訪問 https://llama.theaken.com
4. 執行 `python quick_test.py` 測試連接
### 問題AI 回應包含奇怪的標記
@@ -134,12 +149,18 @@ AI: 1+1等於2。
```python
from openai import OpenAI
# 設定連接
# 設定連接(外網)
client = OpenAI(
api_key="paVrIT+XU1NhwCAOb0X4aYi75QKogK5YNMGvQF1dCyo=",
base_url="https://llama.theaken.com/v1"
)
# 或設定連接(內網)
client = OpenAI(
api_key="paVrIT+XU1NhwCAOb0X4aYi75QKogK5YNMGvQF1dCyo=",
base_url="http://192.168.0.6:21180/v1"
)
# 發送訊息
response = client.chat.completions.create(
model="gpt-oss-120b",