最近玩了自架 ChatGPT 網站的開源專案 Chatbot UI，網站以 React 前端程式為核心，1.0 原以 localStorage 儲存資料，基於安全疑慮、大小限制、無法跨機器共用等因素，改版時將資料改存到後端，用了一個我沒看過的資料庫 - Supabase。 Supabase是一個開源...

.NET 內建的數字型別裡有整數、浮點數，但如果我們計算 -2 * 1/3 + 3/4 想得到 1/12 而不是 0.08333333333，該怎麼做？ 就來寫個可以加減乘除的自訂分數型別吧。就像下面這樣，是不是很酷？ Frac g = -2 * (Frac)"1/3" + ne...

2024 新年第一天，拜年文就由 AI 打頭陣吧! 跟風附上 AI 生成圖，祝大家在新的一年神采飛揚，龍光煥發! 在訓練大型語言模型有多燒錢？一文學到：標榜最有台灣味的 Taiwan-LLM 語言模型，是以 Meta LLaMA 2 為基礎的全參數微調模型，大幅提升繁體中文能力並融入台灣文化。Ta...

PVS-Studio 是一套源碼檢測軟體(小知識：專業術語叫 SCA，(Static Code Analysis 靜態程式分析)，知名度遠不及 Fortify、Checkmarx 或 SonarQube，不過，PVS-Studio 專注於 C、C#、C++、Java 四種語言，且有給學生及開源專案免...

SonarQube 是一套程式碼品質掃瞄工具，可以分析你的程式的寫法是否存在 Bug、漏洞或不好的寫法(Code Smell)。 這篇簡單記錄我如何在 Linux 主機上安裝 SonarQube Docker，並用它在 Linux 掃瞄 .NET 專案。 安裝步驟我主要參考這篇：於 Ubuntu 透...

前天分享完在遠端 Linux 執行 Jupyter Notebook，許多讀者提到用 Remote SSH 能直接開啟在 Linux 上的專案並在 Linux 執行及測試，強力推薦我更方便的做法 - Remote SSH。 透過 Remote SSH，VSCode 可開啟 Linux 主機上的專案，...

前幾天研究電腦沒有獨立顯卡，只靠 CPU 也能跑大型語言模型嗎？學到要跑 LLM 大型語言模型除了 GPU，顯卡記憶體也是關鍵。以 FB 公司 Meta 釋出的 LLaMA 2 模型為例，70B、13B、7B 四種參數規模不同的大小模型，分別需要 320GB、50GB、30GB GPU 記憶體 參考...

最近想試試從 Windows 工作機遠端連上 Linux 伺服器跑 Python，ssh 連上去用終端機跑當然沒問題，但許多學習資源是 Jupyter Notebook，要怎麼從 Windows 在 Linux 跑 Jupyter Notebook 呢？ 啟用 RDP 或 VNC 走遠端桌面是無腦解...

今天踩到的低級錯誤，用以下範例重現。 假設有物件 Foo，建構時傳入字串，透過 List<string> List 與 Dictionary<string, int> Stats 兩個唯讀屬性傳回包含字元清單及出現次數統計： public class Foo { p...

當初覺得自己不玩遊戲，用不到獨立顯卡何必浪費錢浪費電？工作機選了迷你主機，靠 CPU 內顯應付日常開發已綽綽有餘。殊不知這兩年 AI 議題興起，不管 AI 生圖還是ChatGPT ，全靠數以萬計的 GPU 提供算力。想跟上潮流自己在家裡玩玩 LLM 模型，沒有一張夠力的顯卡，寸步難行。 最近研究後有...

先前提到，當代維繫全世界資訊安全的命脈 - RSA、DSA、ECDSA 等非對稱演算法，會在量子電腦達到百萬量子位元等級後變得不堪一擊。雖然量子位元數目前才剛破千(IBM 於去年剛推出 1121 量子位元處理器)，距離百萬等級還要好幾年，但全面換掉演算法預估得花上好幾年，故有必要提早開始評估規劃。 ...

專案上的小需求，公司內網依實體網路架構區分了多個網段，系統有網段清單，已知不同 CIDR (Classless Inter-Domain Routing) 格式(例如：192.168.1.0/24、10.0.0.0/8) 對映的代碼及說明。系統在接收到任一 IP 地址時，需識別出其隸屬哪一個網段。有...

PQC (Post-Quantum Cryptography)，後量子密碼學，意指在量子電腦成熟後，現行的部分密碼學演算法將變得不堪一擊，需要更成換足以抵抗量子電腦破解的密碼學演算法。這些抗量子電腦攻擊的加解密及簽章演算法的相關研究便被稱為後量子密碼學，簡稱 PQC。(註：有個推動雲端安全的組織 C...

使用 ChatGPT API 時，掌握提問內容 Token 數很重要。 ChatGPT API 處理 Prompt 時不是以字元或字詞為單位，而是會把文字拆解為一個個 Token。Token 不一定從單詞 (Word) 開頭或結尾處分割，並可以包括尾隨空格甚至是子詞 (Sub-Words)，Open...

打我進職場以來，接觸過的企業組織，只要稍具規模(一百人以上)清一色都是用 Active Directory 建網域管理電腦及人員帳號。(UNIX/Linux 帳號則自成一格) AD 提供帳號、群組、主機管理，是標準的 IAM (Identity and Access Management，也有人縮寫...

PowerShell 是某些情境跑程式的首選，能省下掏粉自清的麻煩。 我手邊有 PowerShell 存取 SQL/Oracle 的範例，再補上 SQLite。 首先是決定用什麼程式庫，共有 System.Data.SQLite 及 Microsoft.Data.Sqlite 兩種選擇，前者由 SQ...