AI (人工智慧): 伺服器

Agent DVR 完全整合了 AI 伺服器，如 DeepStack AI、CodeProject AI、PlateRecognizer.com、Claude、Gemini、OpenAI (ChatGPT) 以及本地 LLM，如 Ollama、vLLM 和 LM Studio，以添加智能警報過濾、物體識別、場景識別和智能事件控制。

除了 DeepStack 和 CodeProject AI，您還可以使用其他支持相同 API 的 AI 伺服器：

物體識別與計算機視覺

• https://codeproject.github.io/ - 跨平台 GPU/CPU 基礎的 AI 處理伺服器
• https://docs.platerecognizer.com/ - 車牌識別伺服器（基於網頁的 API）
• https://github.com/runningman84/docker-coral-rest-server - 在 RPi（或 Linux/Mac）上運行的 Tensorflow-lite 模型，並通過 Coral USB 隨身碟加速
• https://github.com/robmarkcole/coral-pi-rest-server/ - 通過 Flask 應用在 Coral USB 加速器上運行的 Tensorflow-lite 模型
• https://github.com/xnorpx/blue-candle - 超小型物體識別伺服器

雲端 AI 服務

• https://platform.openai.com/ - OpenAI API（ChatGPT、GPT-4 Vision）用於圖像分析和聊天
• https://console.anthropic.com/ - Anthropic Claude API 用於高級推理和圖像理解
• https://ai.google.dev/ - Google Gemini API 用於多模態 AI 功能
• https://docs.anthropic.com/ - Claude API 文檔
• https://platform.openai.com/docs/ - OpenAI API 文檔
• https://ai.google.dev/gemini-api/docs - Gemini API 文檔

本地 AI 伺服器 (LLMs)

• https://ollama.com/ - Ollama：在本地運行大型語言模型
• https://docs.vllm.ai/ - vLLM：高吞吐量的 LLM 推理和服務
• https://lmstudio.ai/ - LM Studio：易於使用的桌面應用程序，用於本地 LLM
• https://github.com/ollama/ollama - Ollama GitHub 倉庫
• https://github.com/vllm-project/vllm - vLLM GitHub 倉庫

設置 OpenAI（"Chat GPT"）以回答有關您的視頻鏈路中發生的事情的問題，請前往伺服器設置 - AI 伺服器，並在 Ask AI 下選擇 "Open AI"。

• URL: 輸入服務的 URL。默認為 "https://api.openai.com/v1/chat/completions"。
• OpenAI API 金鑰: 在註冊 OpenAI 後，前往 API 金鑰頁面 並生成一個新的秘密金鑰。將此金鑰複製並粘貼到指定的字段中。
• 模型: 指定要使用的模型。默認為 gpt-4o。OpenAI 可能會在以後刪除或更改此模型。
• 最大標記: 這將設置每個請求的最大標記使用量。如果遇到問題，請檢查 /logs.html 中的日誌，因為這可能與標記使用有關。

一旦配置了 OpenAI，請參考 Ask AI 以獲取有關如何使用它回答有關您攝像機鏈路中發生的事情的一般問題的說明。

設置Claude AI以回答有關您的視頻鏈路中發生的事情的問題，請前往伺服器設置 - AI伺服器，並在“問AI”下選擇“Claude”。

• 網址: 輸入服務的網址。默認值為"https://api.anthropic.com/v1/messages"。
• Claude API金鑰: 註冊Claude後，訪問API金鑰頁面並創建一個新的秘密金鑰。將此金鑰複製並粘貼到字段中。
• 版本: 指定要使用的版本。默認值為 2023-06-01。這可能會被Anthropic在某些時候移除或更改。
• 模型: 指定要使用的模型。撰寫時的默認值為 claude-3-sonnet-20240229。
• 最大令牌: 這控制每個請求的最大令牌消耗。如果出現問題，請檢查/logs.html中的日誌，因為這可能與令牌消耗有關。

一旦配置了Claude，請查看問AI以了解如何使用它來識別攝像機鏈路中的一般情景。

設置Gemini以回答有關您視頻鏈路中發生情況的問題，請前往伺服器設置 - AI伺服器，並在「問AI」下選擇「Gemini」。

• URL: 輸入服務的URL。默認為"https://generativelanguage.googleapis.com"。
• Gemini API金鑰: 註冊Gemini後，訪問API金鑰頁面並創建一個新的秘密金鑰。將此金鑰複製並粘貼到字段中。
• 版本: 指定要使用的版本。默認為v1beta。這可能會被Google在某些時候移除或更改。
• 模型: 指定要使用的模型。撰寫時的默認值為gemini-1.5-flash。
• 最大令牌: 這控制每個請求的最大令牌花費。如果出現問題，請檢查/logs.html中的日誌，因為這可能與令牌花費有關。

配置Gemini後，請參見問AI以了解如何使用它來識別攝像機鏈路中的一般情景。

從 v6.5.3.0+ 開始，您可以使用自己的本地 LLM 伺服器（如 vLLM、Ollama 和 LM Studio）來描述 Agent DVR 從您的攝影機捕獲的圖像，並在警報事件中回答有關您視頻流中發生的事情的問題。請參見 AI 描述 和 詢問 AI。

要配置本地 AI 伺服器，請轉到伺服器設置 - AI 伺服器，然後單擊您想使用的 LLM 旁邊的配置按鈕（Ollama、vLLM 或 LM Studio）。

• URL: 指定您的 LLM 伺服器運行的端點。默認 URL 為：
  • Ollama: http://localhost:11434/api/chat
  • vLLM: http://localhost:8000/v1/chat/completions
  • LM Studio: http://localhost:1234/v1/chat/completions
• API 金鑰: 如果您的 LLM 伺服器需要身份驗證，請在此輸入 API 金鑰。大多數本地伺服器不需要此項，除非特別配置。
• 模型: 選擇用於圖像分析的視覺能力模型。您必須已經在您的 LLM 伺服器中下載並加載此模型。流行的選擇包括：
  • LLaVA 模型（通用視覺）
  • Qwen2-VL（高性能）
  • Llama 3.2 視覺（Meta 最新）
• 溫度: 控制響應中的創造力與準確性（0.0-1.0）。較低的值（0.3-0.4）會產生更具事實性和一致性的描述。較高的值（0.6-0.8）會生成更多樣化和創造性的響應。建議：安全攝影機分析使用 0.4。
• 最大標記數: AI 響應中的最大單詞/標記數。較高的值允許更詳細的描述，但生成所需時間較長。建議：詳細圖像分析使用 300-500，簡短描述使用 150-250。
• top_p: 通過限制詞彙選擇來控制響應的多樣性（0.0-1.0）。較低的值使用更常見的單詞，較高的值允許更多樣化的詞彙。建議：0.9 以獲得準確性和自然語言的良好平衡。
• top_k: 限制模型從最有可能的 K 個下一個單詞中選擇。較低的值（20-40）會產生更集中化的響應，較高的值（80-100）允許更多變化。建議：50 以獲得可靠的圖像描述。

要在Agent DVR中配置LPR（ANPR或車牌識別），請前往 - AI設置的Server設置，然後在Plate Recognizer下輸入詳細信息。在Plate Recognizer上註冊免費試用。無需信用卡。

• URL: 輸入服務的URL。默認為"https://api.platerecognizer.com/v1/plate-reader/"，或者如果您自己擁有服務器，可以使用自己的服務器。
• Token: 在註冊Plate Recognizer後，訪問帳戶頁面並複製API Token。
• Regions: 保留默認值或輸入地區的CSV列表。
• Config: 如果需要，請輸入文檔中的其他配置值。