從桌面端 AI 應用開始:用 Electron 把 LLM 做成隨叫隨到的桌面助理實戰指南

如果你跟著前面十一課,已經用 LLM API 做出會聊天、會查知識庫、會動手做事的 Web 應用,那你大概也遇過同一個遺憾:瀏覽器一關,AI 就斷線了。想在任何畫面上按個快捷鍵就叫出它、讓它幫你讀本地檔案、平常縮在系統托盤待命——這些事網頁做不到,得把 AI「搬出瀏覽器」,做成桌面應用。今天這一課,我們用 Electron,把前面十一課的積木組裝成一個隨叫隨到的桌面助理。

一、為什麼要把 AI 搬出瀏覽器

Web 版 AI 助理有三個天生的天花板:

  • 生命週期跟著標籤頁走:關掉分頁,對話狀態、串流連線全部中斷,更別提常駐背景。
  • 摸不到作業系統:全域快捷鍵、系統通知、托盤選單、任意路徑的本地檔案,瀏覽器沙箱一概拒絕。
  • 金鑰必須依賴後端:Web 前端藏不住 API 金鑰(第五一一課的老規矩),得額外租一台伺服器當代理。

桌面應用剛好逐項破解:程式常駐、系統 API 隨便用,而且主進程本身就是一個 Node 環境,可以直接當「內建後端」保管金鑰,連伺服器都不用租。技術選型上,Electron(Chromium + Node.js,生態最成熟)與 Tauri(Rust 核心,體積小、記憶體占用低)是兩大主流;本文以 Electron 演示,思路完全適用於 Tauri。

二、先搞懂三個角色:主進程、渲染進程、preload

Electron 的安全模型建立在「進程隔離」上,三個角色各司其職:

  • 主進程(main):Node.js 環境,管視窗生命週期、系統 API、檔案讀寫——金鑰與 LLM 請求只允許住在這裡。
  • 渲染進程(renderer):就是你的 Vue3 頁面,只負責 UI,權限最小化。
  • preload 腳本:兩個世界之間唯一的橋,用 contextBridge 把白名單方法暴露給頁面。

重點:金鑰與 LLM 請求只能放主進程,渲染進程永遠不碰金鑰——這是桌面版對第五一一課「金鑰走後端代理」原則的完美替代。

三、實戰:搭一個全域快捷鍵喚起的 AI 助理

步驟 1:初始化專案

npm init -y
npm install electron
# package.json 的 main 欄位指向 main.js

步驟 2:主進程——視窗、快捷鍵與 LLM 代理

// main.js
const { app, BrowserWindow, globalShortcut, ipcMain } = require('electron');
const path = require('path');

const API_KEY = process.env.LLM_API_KEY; // 金鑰從環境變數讀,不寫進程式碼

let win;
function toggleWindow() {
  if (win.isVisible()) { win.hide(); }
  else { win.show(); win.focus(); }
}

app.whenReady().then(() => {
  win = new BrowserWindow({
    width: 420, height: 600, show: false,
    webPreferences: {
      preload: path.join(__dirname, 'preload.js'),
      contextIsolation: true
    }
  });
  win.loadFile('index.html');

  // 全域快捷鍵:在任何畫面按下都能喚起
  globalShortcut.register('Alt+Space', toggleWindow);

  // 渲染進程的請求,由主進程代發(金鑰只在這裡出現)
  ipcMain.handle('ask-ai', async (_e, messages) => {
    const res = await fetch('https://api.example.com/v1/chat/completions', {
      method: 'POST',
      headers: {
        'Content-Type': 'application/json',
        'Authorization': 'Bearer ' + API_KEY
      },
      body: JSON.stringify({ model: 'gpt-4o-mini', messages, stream: true })
    });
    return res.body; // 串流交給渲染進程解析
  });
});

步驟 3:preload——只暴露白名單方法

// preload.js
const { contextBridge, ipcRenderer } = require('electron');
contextBridge.exposeInMainWorld('ai', {
  ask: (messages) => ipcRenderer.invoke('ask-ai', messages)
});

步驟 4:渲染進程——Vue3 頁面只管對話 UI

// 你的 Vue3 元件裡
const reply = await window.ai.ask([
  { role: 'system', content: '你是一個簡潔的中文助理,回答不超過三句。' },
  { role: 'user', content: question.value }
]);

把第五四零課的 SpeechRecognition 接進輸入端,就是一個按快捷鍵叫出、說完話自動回答的語音助理;把第五三零課的記憶管理存到 app.getPath('userData'),重啟後對話偏好照樣記得。桌面殼只是外衣,前面的積木全部原樣復用。

四、三條紀律

  • 金鑰永不進渲染進程:從環境變數或系統鑰匙圈讀取,別圖方便寫進打包設定——asar 其實只是個壓縮包,誰都能解開。
  • 對話狀態要持久化:桌面應用的價值在「常駐」,歷史紀錄務必落地 userData 目錄,別只存在記憶體裡。
  • 打包交付用 electron-builder:Windows/macOS/Linux 一套設定全部產出;追求極致體積與效能,再考慮 Tauri。

至此,大模型應用系列十二課把 AI 從瀏覽器一路帶到了桌面:接模型、餵知識、給工具、組團隊、寫 Prompt、評估上線、記憶管理、並行提速、工作流編排、多模態、語音,最後打包成常駐助理。積木沒有變,變的是 AI 活動的舞台。

互動話題:你最希望桌面 AI 助理幫你自動化哪件每天重複的事?歡迎留言分享!