إنجليزي(English) | اليابانية(日本語) | الصينية(中文) | التركية (Türkçe) | العربية (العَرَبية) | نحتاجُ الى مساعدتك في ترجمة هذا الملف الى لغتك الأم.
قم بتثبيت حزمة برامج العقدة الافتراضية باستخدام أمر واحد على نظام التشغيل Mac أو Linux أو Windows WSL.
curl -sSfL 'https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh' | bash
ثم اتبع التعليمات على شاشتك لإعداد مسار البيئة, سيبدأ سطر الأوامر بالأمر source
.
قم بتهيئة العقدة. ستقوم بتنزيل ملفات النماذج وقواعد بيانات المتجهات المحددة في ملف $HOME/gaianet/config.json
، وقد يستغرق ذلك بضع دقائق نظرًا لحجم الملفات الكبير.
gaianet init
ابدأ العقدة.
gaianet start
سيقوم النص بطباعة عنوان العقدة الرسمي على الكونسول كما يلي. يمكنك فتح المتصفح على ذلك العنوان لرؤية معلومات العقدة ثم التحدث مع وكيل الذكاء الاصطناعي على العقدة.
... ... https://0xf63939431ee11267f4855a166e11cc44d24960c0.us.gaianet.network
لإيقاف العقدة, يمكنك تشغيل الأمر الآتي:
gaianet stop
curl -sSfL 'https://raw.githubusercontent.com/GaiaNet-AI/gaianet-node/main/install.sh' | bash
يجب أن تبدو النتائج كما يلي:
[+] Downloading default config file ...
[+] Downloading nodeid.json ...
[+] Installing WasmEdge with wasi-nn_ggml plugin ...
Info: Detected Linux-x86_64
Info: WasmEdge Installation at /home/azureuser/.wasmedge
Info: Fetching WasmEdge-0.13.5
/tmp/wasmedge.2884467 ~/gaianet
######################################################################## 100.0%
~/gaianet
Info: Fetching WasmEdge-GGML-Plugin
Info: Detected CUDA version:
/tmp/wasmedge.2884467 ~/gaianet
######################################################################## 100.0%
~/gaianet
Installation of wasmedge-0.13.5 successful
WasmEdge binaries accessible
The WasmEdge Runtime wasmedge version 0.13.5 is installed in /home/azureuser/.wasmedge/bin/wasmedge.
[+] Installing Qdrant binary...
* Download Qdrant binary
################################################################################################## 100.0%
* Initialize Qdrant directory
[+] Downloading the rag-api-server.wasm ...
################################################################################################## 100.0%
[+] Downloading dashboard ...
################################################################################################## 100.0%
بشكل افتراضي, يتم التثبيت ب $HOME/gaianet
, يمكنك أيضًا أن تختارَ عنوانًا بديلاً.
curl -sSfL 'https://raw.githubusercontent.com/GaiaNet-AI/gaianet-node/main/install.sh' | bash -s -- --base $HOME/gaianet.alt
gaianet init
يجب أن تبدو النتيجة كما يلي:
[+] Downloading Llama-2-7b-chat-hf-Q5_K_M.gguf ...
############################################################################################################################## 100.0%############################################################################################################################## 100.0%
[+] Downloading all-MiniLM-L6-v2-ggml-model-f16.gguf ...
############################################################################################################################## 100.0%############################################################################################################################## 100.0%
[+] Creating 'default' collection in the Qdrant instance ...
* Start a Qdrant instance ...
* Remove the existed 'default' Qdrant collection ...
* Download Qdrant collection snapshot ...
############################################################################################################################## 100.0%############################################################################################################################## 100.0%
* Import the Qdrant collection snapshot ...
* Recovery is done successfully
يعمل أمر init
على تهيئة العقدة وفقًا لملف $HOME/gaianet/config.json
. يمكنك استخدام بعض التكوينات المعدة مسبقًا. على سبيل المثال، الأمر أدناه يقوم بتهيئة عقدة باستخدام نموذج llama-3 8B مع دليل لندن كقاعدة معرفية.
gaianet init --config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/llama-3-8b-instruct_london/config.json
لرؤية قائمة تكوينات معدة مسبقًا, بإمكانك تشغيل gaianet init --help
.
بالإضافة إلى التكوينات المعدة مسبقًا مثل gaianet_docs
، يمكنك أيضًا تمرير عنوان URL إلى ملف config.json
الخاص بك ليتم تهيئة العقدة بالحالة التي ترغب فيها.
إذا كنت بحاجة إلى تهيئة-init
- عقدة مثبتة في دليل بديل، قم بذلك على النحو التالي.
gaianet init --base $HOME/gaianet.alt
gaianet start
النتيجة يجب أن تكون كما يلي:
[+] Starting Qdrant instance ...
Qdrant instance started with pid: 39762
[+] Starting LlamaEdge API Server ...
Run the following command to start the LlamaEdge API Server:
wasmedge --dir .:./dashboard --nn-preload default:GGML:AUTO:Llama-2-7b-chat-hf-Q5_K_M.gguf --nn-preload embedding:GGML:AUTO:all-MiniLM-L6-v2-ggml-model-f16.gguf rag-api-server.wasm --model-name Llama-2-7b-chat-hf-Q5_K_M,all-MiniLM-L6-v2-ggml-model-f16 --ctx-size 4096,384 --prompt-template llama-2-chat --qdrant-collection-name default --web-ui ./ --socket-addr 0.0.0.0:8080 --log-prompts --log-stat --rag-prompt "Use the following pieces of context to answer the user's question.\nIf you don't know the answer, just say that you don't know, don't try to make up an answer.\n----------------\n"
LlamaEdge API Server started with pid: 39796
يمكنك بدء العقدة للاستخدام المحلي. ستكون متاحة فقط عبر localhost
ولن تكون متاحة على أي من عناوين URL العامة لنطاقات GaiaNet.
gaianet start --local-only
يمكنك أيضًا بدء عقدة مثبتة في دليل أساسي بديل.
gaianet start --base $HOME/gaianet.alt
gaianet stop
النتيجة يجب أن تبدو كما يلي:
[+] Stopping WasmEdge, Qdrant and frpc ...
إيقاف عقدة مثبتة في دليل أساسي بديل.
gaianet stop --base $HOME/gaianet.alt
باستخدام الأمر الفرعي gaianet config
يمكنك تحديث الحقول الأساسية المحددة في ملف config.json
. يجب عليك تشغيل gaianet init
مرة أخرى بعد تحديث التكوين.
لتحديث حقل chat
، على سبيل المثال، استخدم الأمر التالي:
gaianet config --chat-url "https://huggingface.co/second-state/Llama-2-13B-Chat-GGUF/resolve/main/Llama-2-13b-chat-hf-Q5_K_M.gguf"
لتحديث حقل chat_ctx_size
، على سبيل المثال، استخدم الأمر التالي:
gaianet config --chat-ctx-size 5120
فيما يلي جميع خيارات الأمر الفرعي config
:
$ gaianet config --help
Usage: gaianet config [OPTIONS]
Options:
--chat-url <url> Update the url of chat model.
--chat-ctx-size <val> Update the context size of chat model.
--embedding-url <url> Update the url of embedding model.
--embedding-ctx-size <val> Update the context size of embedding model.
--prompt-template <val> Update the prompt template of chat model.
--port <val> Update the port of LlamaEdge API Server.
--system-prompt <val> Update the system prompt.
--rag-prompt <val> Update the rag prompt.
--rag-policy <val> Update the rag policy [Possible values: system-message, last-user-message].
--reverse-prompt <val> Update the reverse prompt.
--domain <val> Update the domain of GaiaNet node.
--snapshot <url> Update the Qdrant snapshot.
--qdrant-limit <val> Update the max number of result to return.
--qdrant-score-threshold <val> Update the minimal score threshold for the result.
--base <path> The base directory of GaiaNet node.
--help Show this help message
استمتع!