aken1023
c6cc91da7f
- Added complete Python client for Llama AI models - Support for internal network endpoints (tested and working) - Support for external network endpoints (configured) - Interactive chat interface with multiple models - Automatic endpoint testing and failover - Response cleaning for special markers - Full documentation in English and Chinese - Complete test suite and examples - MIT License and contribution guidelines
33 lines
721 B
Plaintext
33 lines
721 B
Plaintext
===========================================
|
|
Llama 模型對話測試程式 - 使用說明
|
|
===========================================
|
|
|
|
安裝步驟:
|
|
---------
|
|
1. 確保已安裝 Python 3.7 或更高版本
|
|
|
|
2. 安裝依賴套件:
|
|
pip install -r requirements.txt
|
|
|
|
執行程式:
|
|
---------
|
|
python llama_test.py
|
|
|
|
功能說明:
|
|
---------
|
|
1. 程式啟動後會自動測試 API 連接
|
|
2. 選擇要使用的模型 (1-3)
|
|
3. 開始與 AI 進行對話
|
|
4. 輸入 'exit' 或 'quit' 結束對話
|
|
|
|
可用模型:
|
|
---------
|
|
1. gpt-oss-120b (預設)
|
|
2. deepseek-r1-671b
|
|
3. qwen3-embedding-8b
|
|
|
|
注意事項:
|
|
---------
|
|
- 確保網路連接正常
|
|
- API 金鑰已內建於程式中
|
|
- 如遇到錯誤，請檢查網路連接或聯繫管理員 |