新增內網外網選擇功能
新增功能: ✨ llama_universal.py - 主程式支援內外網環境選擇 🌐 內網端點:http://192.168.0.6:21180-21182/v1 🌐 外網端點:https://llama.theaken.com/v1/* 🔄 對話中可使用 'switch' 指令切換環境 📱 智慧環境偵測和錯誤處理 更新內容: - 新增網路環境選擇介面 - 支援內網三個端點 (21180, 21181, 21182) - 支援外網三個端點(通用、GPT專用、DeepSeek專用) - 新增 switch 指令可在對話中切換環境 - 完整的錯誤處理和重試機制 - 更新 README.md 說明新功能和使用方式 現在用戶可以根據所在網路環境自由選擇最適合的連接方式!
This commit is contained in:
51
README.md
51
README.md
@@ -35,7 +35,10 @@ cd pj_llama
|
||||
### 3. 執行對話程式
|
||||
|
||||
```bash
|
||||
# 執行主程式(智慧對話)
|
||||
# 🌟 執行主程式(支援內外網選擇)
|
||||
python llama_universal.py
|
||||
|
||||
# 或執行外網專用版本
|
||||
python llama_chat.py
|
||||
|
||||
# 或執行完整版本(支援多端點)
|
||||
@@ -50,16 +53,18 @@ python llama_full_api.py
|
||||
|
||||
```
|
||||
============================================================
|
||||
Llama API 完整對話程式
|
||||
時間: 2025-09-19 16:00:00
|
||||
選擇網路環境
|
||||
============================================================
|
||||
|
||||
[主要端點測試]
|
||||
測試 Llama 通用端點... [OK]
|
||||
測試 GPT-OSS 專用端點... [OK]
|
||||
測試 DeepSeek 專用端點... [OK]
|
||||
可用環境:
|
||||
1. 內網環境
|
||||
說明:公司/學校內部網路,使用內部 IP 地址
|
||||
端點數量:3 個
|
||||
2. 外網環境
|
||||
說明:公開網際網路,使用外部域名
|
||||
端點數量:3 個
|
||||
|
||||
找到 3 個可用端點,請選擇 (預設: 1):
|
||||
請選擇環境 (1-2),預設為 1:
|
||||
```
|
||||
|
||||
選擇端點後即可開始對話:
|
||||
@@ -81,19 +86,29 @@ AI: 1+1等於2。
|
||||
| `exit` 或 `quit` | 結束對話 |
|
||||
| `clear` | 清空對話歷史,開始新對話 |
|
||||
| `model` | 切換使用的 AI 模型 |
|
||||
| `switch` | 切換網路環境(內網/外網) |
|
||||
|
||||
## 🔧 程式檔案說明
|
||||
|
||||
| 檔案名稱 | 用途說明 |
|
||||
|---------|---------|
|
||||
| `llama_chat.py` | **主程式** - 智慧對話程式 |
|
||||
| `llama_universal.py` | **🌟 主程式** - 支援內外網環境選擇 |
|
||||
| `llama_chat.py` | 外網專用對話程式 |
|
||||
| `llama_full_api.py` | 完整功能版本,支援多端點切換 |
|
||||
| `quick_test.py` | 快速測試連接是否正常 |
|
||||
| `test_all_models.py` | 測試所有模型的工具 |
|
||||
|
||||
## 🌐 可用的 API 端點
|
||||
|
||||
### 可用端點
|
||||
### 內網端點(公司/學校內部)
|
||||
|
||||
| 端點 | 地址 | 支援模型 |
|
||||
|-----|------|---------|
|
||||
| 內網端點 1 | `http://192.168.0.6:21180/v1` | 所有模型 |
|
||||
| 內網端點 2 | `http://192.168.0.6:21181/v1` | 所有模型 |
|
||||
| 內網端點 3 | `http://192.168.0.6:21182/v1` | 所有模型 |
|
||||
|
||||
### 外網端點(公開網際網路)
|
||||
|
||||
| 端點 | 地址 | 支援模型 |
|
||||
|-----|------|---------|
|
||||
@@ -112,10 +127,10 @@ AI: 1+1等於2。
|
||||
### 問題:程式顯示「無法連接」
|
||||
|
||||
**解決方法:**
|
||||
1. 檢查網路連接是否正常
|
||||
2. 確認可以訪問外部網站 (https://llama.theaken.com)
|
||||
3. 嘗試執行 `python quick_test.py` 測試連接
|
||||
4. 程式會自動測試所有端點並選擇可用的
|
||||
1. 嘗試切換網路環境(使用 `switch` 指令)
|
||||
2. 內網環境:確認在公司/學校網路內
|
||||
3. 外網環境:確認可以訪問 https://llama.theaken.com
|
||||
4. 執行 `python quick_test.py` 測試連接
|
||||
|
||||
### 問題:AI 回應包含奇怪的標記
|
||||
|
||||
@@ -134,12 +149,18 @@ AI: 1+1等於2。
|
||||
```python
|
||||
from openai import OpenAI
|
||||
|
||||
# 設定連接
|
||||
# 設定連接(外網)
|
||||
client = OpenAI(
|
||||
api_key="paVrIT+XU1NhwCAOb0X4aYi75QKogK5YNMGvQF1dCyo=",
|
||||
base_url="https://llama.theaken.com/v1"
|
||||
)
|
||||
|
||||
# 或設定連接(內網)
|
||||
client = OpenAI(
|
||||
api_key="paVrIT+XU1NhwCAOb0X4aYi75QKogK5YNMGvQF1dCyo=",
|
||||
base_url="http://192.168.0.6:21180/v1"
|
||||
)
|
||||
|
||||
# 發送訊息
|
||||
response = client.chat.completions.create(
|
||||
model="gpt-oss-120b",
|
||||
|
Reference in New Issue
Block a user