小試 AnythingLLM 使用自訂模型爬網查資料回答

Perplexity 到期後沒續約，去年趁著優惠訂的 Google AI Pro 是我目前僅有的網頁介面 AI 訂閱，但Google 不知下了什麼封印導致 Gemini 極度自閉，即便給網址再三要求他讀取或上網查資料提供參考 URL，他就是不想上網，彷彿網路有毒似的 (其實就是)...

記得在保哥 FB 看過一篇文章討論這個 (FB 的搜尋真是一言難盡，我找不到連結了)，當時有網友分享了一個神奇的 Prompt， 是我目前試過唯一可以解除封印的咒語，但也只限於給特定網址要求 Gemini 閱讀。總之，Gemini 像個被爸媽禁止上網的小孩，在應用即時網路資訊能力上遠遠輸給 GPT 跟 Grok。

我想起了包山包海的殺手級 LLM 整合平台 - Anything LLM，2024 年安裝時有研究了一下，兩年時間，以 AI 發展時鐘差不多已歷經過三次冰河期恐龍滅絕棲息物種全換過一輪，AnythingLLM 的能力應不可同日而語，搭配 GPT 5.x 模型說不定能勝任爬網爬網查資料的任務。

這篇是我這次嘗試的筆記。

AnythingLLM 設定畫面有個智慧代理人技能 (Agent Skills) 設定區，在其中可以指定是否啟用 RAG 與長期記憶體、檢視並摘要文件功能、擷取網站、檔案系統存取、文件建立 (PowerPoint、Excel、Word 和 PDF)、產生圖表... 等功能。而網頁搜尋可以選擇要使用的網頁搜尋提供者，包含：

• DuckDuckGo
  免費且注重隱私的網路搜尋引擎
• SerpApi
  可抓取 Google 及其他數個搜尋引擎的資料。每月提供 250 次免費搜尋，超出後需付費。
• SearchApi
  提供來自多個搜尋引擎的結構化資料。前 100 次查詢免費，隨後需付費。
• Serper.dev
  網路搜尋服務。免費帳戶內含 2,500 次呼叫額度，超出後需付費。
• Bing Search
  由 Bing Search API 驅動的網路搜尋 (付費服務)。

付費 API 需申請 API Key，我先用 DuckDuckGo 嚐鮮 (品質無法跟 Google 相比，但強在免申請，零成本無門檻)。另外，有個 SQL 連接器可以串接 DB 查詢回答問題，也能自訂 Skill、連接 MCP，發展出各種進階花式玩法。

要使用這堆 Agent 功能，需在提示最前面加上 @agent，如下圖，我接了 AOAI GPT 5.4 模型，詢問三星罷工的中文新聞，模型會使用 web-browsing 工具跟 DuckDuckGo 查詢新聞，整理成一份總結：

最下的來源可以展開成清單看到原始網址：

我也試了 GPT 5.5，整理的品質看起來比 5.4 好上一截，不過 5.5 的價格是 5.4 的兩倍 (輸入每百萬 Token 5 USD，輸出 30 USD)，如何選擇可自行拿捏：

第二個測試，我給 GPT 一個類別文章網頁，其中有三篇文章連結，請 AI 幫我讀取文章，提供每篇各兩百字的總結，也成功達成任務：

由推理過程記錄可以看到 Agent 先讀取清單頁面，從中找到三篇文章連結，再逐一讀取各文章，符合我們對聰明 AI 模型的期待：

整個測試做完，AnythingLLM 的表現十分出色，內建 Agent 便以滿足一般需要用 AI 模型爬網查資料回答問題的應用情境。

只需架設 AnythingLLM Docker 容器簡單設定，便可在資料受保護前題下用 AOAI 模型實現 ChatGPT 的查詢網路回答能力，若有夠好的地端模型，可以做到資料完全不上雲端且無 Token 費用，是個很值得考慮的 AI 整合選項。

註：蒙上官大人開示，Gemini 被封印讀網頁能力的問題，可改用 AI Studio 開啟 Url Context 功能改善，實測可行。參考