前天在 FB 聊到 OpenAI 前陣子推出"隨心所欲客製生圖"功能，帶給我的震憾不亞於當年 ChatGPT 聊天機器人橫空出世，讓我感嘆繼程式開發人員之後，插畫家跟電繪師也可以大家一起手牽手一起去睡橋下惹。 身為在程式開發這行打滾近三十年的老人，面對這波 AI 浪潮特別有感。 ...

過年期間跟圖書館借了一批課外讀物，推薦其中這本： 優點是淺顯好讀，連我這種資料視覺化門外漢也能順順翻閱完。書裡圖表範例的設計及質感很好，看起來非常舒服。 書裡舉了許多實例，教你何種設計叫好，怎樣算醜，哪種叫糟，以及如何會搞砸，一目了然。 其中我最愛第五章，作者彙整了常用的數據分析圖表，儼然是套資...

進入 AI 紀元，就學著怎麼用 AI 節省繁瑣手工，輕鬆搞定日常瑣事吧~ ChatGPT 從 4o 開始主打多模態(Multimodal)，讓大型語言模型(LLM)不只能處理文字，並且能理影像、聲音，生成影像 (延伸閱讀：OpenAI API 傳送圖檔給 GPT-4o 分析)。在競爭白熱化之下，理解...

OpenAI 的神奇 Whisper 語音轉文字模型，可在地端執行，但需有 GPU 才能順跑。先前測過，即便用 32 核 CPU 跑 Medium 也僅 100 WPM，30 分鐘錄音檔需要轉兩小時；有 GPU 就差很多，入門級 RTX 3050 便可達 1594 WPM，快 15 倍，若有 408...

為了解一個 Windows 剪貼簿問題，我需要檢視剪貼簿原始資料的免費或開源工具。 爬文找到不少選擇，其中 InsideClipboard 顯示的資料最完整，活像開啟工程模式能看透底層。對 InsideClipboard 的開發商 NirSoft 曾有耳聞，有點印象但不太熟(它曾在讀者留言 1 2 ...

照片為老黃在 CES 2025 展示 30 萬的新皮衣(咦?)及 3000 USD 的新一代掌上型超級電腦 - Project DIGITS. Project DIGITS 只有巴掌大小，裡面塞進一顆 GB10 Superchip 核心，GB10 包含 Grace CPU (20 個 Arm 核...

截至目前為止，我整合 ChatGPT API 的應用限於靠預訓練知識校閱文章、彙整文件或翻譯，頂多整合向量資料庫試玩 RAG。有一種重要應用還沒試過 - 提供自訂函式或功能給 ChatGPT 呼叫! 即便最新版 ChatGPT 已具備上網能力，但有很多時侯我們想整合的資料來企業內部或屬於個人隱私，總...

距離上次用 Azure OpenAI SDK 整合 ChatGPT 功能已是一年多前的事。(ChatGPT 聊天程式練習 - 使用 .NET + Azure OpenAI API) 最近的 Side Project 又有整合 ChatGPT 需求，修改過程發現上次用的 .NET 版 Azure.AI...

學會用 Ollama 有一陣子了，受限於迷你工作機只有內顯，至今都是用 CPU 跑模型，據說只要有 GPU，即便是人門款顯卡都能把 CPU 壓在地上摩擦，了解 GPU 並行運算架構就知道這是想當然爾的結果，但沒親手體驗過，總覺得少了點什麼。 趁著週末向小木頭借了他的 RTX 3050 獨顯 11 代...

之前試玩過台灣在地版 13B LLaMA 2 地端模型，我這台沒有獨顯立顯卡的迷你工作機，12 代 i5 CPU 跑起來大約一秒一個字，效能勉強可接受。 Google 在 7 月底釋出了開源模型 Gemma 2 的最迷你版本，參數量只有 2B，號稱在 LMSYS 聊天機器人競技場表現亮眼，打敗 GP...

為防止服務被濫用、伺服器過載及確保公平性，OpenAI 官方及 Azure 的 OpenAI API 都設有速率限制(Rate Limit)，限定每分鐘請求數(RPM)及 Token 數量(TPM)上限。這是用 ChatGPT API 跑批次作業常要面對的問題，上回 PowerShell 整合 Ch...

處理資料時請 ChatGPT 幫忙已成日常，就算是寫 PowerShell 時也不例外。因此，我想要有個函式，希望能做到傳 Prompt 批次呼叫 ChatGPT API 執行翻譯、摘要等的任務，隨時隨地想要 AI 就有 AI。 舉個例子，假設我有個 JSON 檔 demo.json： [ ...

要深入應用 LLM 免不了會涉及自然語言處理(Natural Language Processing)觀念與知識，像是 RAG 前置處理就有可能用到分詞、向量索引比對會用到 TF-IDF、BM25 等演算法。寫程式做出東西很有趣，學理論相對枯燥。 在圖書館找到一本給高中生看的 NLP 介紹，淺顯易懂...

繼上週 OpenAI 發佈 GPT-4o、Google I/O 開發者大會，這幾天輪到微軟 Build 2024 開發者大會 (呃... 開發者會不會太忙了點？)，一如預期，焦點全在 AI，而且火力全開。 我先看了微軟 CEO Satya 的 Keynote，不出意外，滿滿沒學過、不熟的新名詞或關...

最近，愈來愈習慣用 Github Copilot 寫程式，依賴程度高到自己心驚。 現在寫程式遇到 跑迴圈拆解 CSV 對映物件屬性、fetch 某 API 取回結果 之類的情節，別說少打字，我甚至來不及動腦細想邏輯，Copilot 已經把程式生好，眼睛看過檢查一遍(通常沒問題)，這段程式就算寫完了。...

之前試過用 Chatty GPT 打造個人專屬 ChatGPT 聊天室，但受限只能在本機桌面跑，無法多人使用。後來試了自架 Chatbot UI 伺服器因綁了 Supabase 太笨重，想等作者改 SQLite 版再用。 現在看來不用等 Chatbot UI 了! 有個包山包海的殺手級 LLM 整合...