給對 AI Agent 有興趣的醫師
難的部分
The Hard Part
你今天不會學到任何新東西。
這四件事,你早就會了。
重新框定
Agent 不是助理。
是一個你在設計的系統。
助理是線性的:你問、它答、結束。
系統有元件、有連接,會自己運轉。
Therac-25 · 1985–87
100×
一台放射治療機的軟體 bug,把病人的劑量開到一百倍。有人因此死亡。
舊機型有硬體聯鎖;新機型為了省成本,把它拿掉,只靠軟體。
唯一的安全網如果只是軟體,那就不叫安全網。
一個活系統的四個器官
| 器官 | 主題 | 底下的四 |
|---|
| 調控 | 快思／慢想 | 隨機的本質 · 確定的渴望 · harness · skill |
| 動作 | CRUD → BREW | Bash · Read · Edit · Write |
| 記憶 | 只加不改 | 記錄 · 分岔 · 整合 · 回溯 |
| 回饋 | 看診就是 DevOps | 環境 · 密鑰 · 上線 · 持續盯 |
Stanislav Petrov · 1983
1
電腦說五枚核飛彈正飛來。一個人判斷是誤報。他賭對了。
機器又快、又自信、偶爾致命地錯。
你的價值,是知道什麼時候當那個否決機器的人。
器官一 · 調控
一
快思／慢想
隨機的本質確定的渴望用 harness 收斂用 skill 固化
Apollo 11, 1969 — 登月電腦過載時,丟掉次要任務、保住核心。好的 harness 讓系統優雅降級,而不是整個崩潰。
AI 只有直覺。
你的工作,是幫它外接一套
它天生沒有的紀律。
器官二 · 動作
二
從 CRUD 到 BREW
BashReadEditWrite
CRUD 活在資料庫,BREW 活在檔案系統。Delete 消失了 —— 因為進了「只加不改」的世界。
你需要的是一個資料夾,
和四個動作。
不是寫程式。
你會用資料夾,你就已經給得起 agent 一個家。
器官三 · 記憶
三
只加不改
記錄分岔整合回溯
Git, 2005 — Linus 花兩週寫出全世界的記憶。歷史是一張圖,不是一條線。
郵局 Horizon 冤案
900+
相信「系統不會錯」,冤枉了九百多人。有人入獄、破產、自殺。
檢驗值說有病,但病人明明好好的 —— 你相信數字,還是相信人?
綠勾,不等於真相。
器官四 · 回饋
四
看診就是 DevOps
環境一致密鑰藏好上線才算持續盯
Knight Capital, 2012 — 部署漏一台伺服器沒更新,45 分鐘賠掉四億美金,公司隔天就沒了。環境不一致,就是災難。
你量什麼,
它就給你什麼。
檢驗值正常,不代表病人沒事。你會去看病人。
一根刺
你不是被 AI 取代。
是被自己的產能埋掉。
難的部分,從來不是寫程式。
是把事情想清楚 ——
而那件事,你們已經很擅長了。