跳至主要內容

關於 #LLM 的內容

蒼時弦也蒼時弦也

Kobako:Cold Start 原來能快 100 倍?

Kobako 是近期我針對 Ruby 生態系中,對 Harness Engineering 支援所開發基於 WebAssembly 和 mruby 的沙盒(Sandbox)用來填補 AI 所撰寫的程式碼,沒有可以安全運行的環境。

關於 Kobako 的設計理念,我在 上一篇文章 已經介紹過,這次想聊的是效能。在初期的版本中 Cold Start(冷啟動,通常指初次啟動)大概要花上 500 ms 左右,這遠比最佳實踐通常會抓 200 ms 回應來說慢的不少,即使 AI 通常接受更慢的回應,但這不是等待 LLM 回應,仍該用過去的 API 標準來看待。

蒼時弦也蒼時弦也

當 Claude Code 持續運行數小時

去年流行過的 Ralph Loop(一種讓 AI Coding Agent 自動重複執行的技巧)當時我並不太信任這種做法是否足夠安全,以及能有足夠的穩定性。

前幾個月 Claude Code 的更新加入了 /loop 技能,本質上是利用 Claude Code 內建的 Cron 工具,以固定間隔重複特定的提示詞(Prompt)來做到類似的效果,至少更安全、可控。

然而,事情通常不會這麼單純。

蒼時弦也蒼時弦也

從 Agent 到 Agentic AI

最近因為工作的關係,需要對 AI 代理人(AI Agent)進行評估,也順便做了 Agentic AI(代理式 AI)的比較。如果你也在評估或導入 AI 代理相關技術,這兩者看起來相似卻不太一樣。

蒼時弦也蒼時弦也

身為工程師,我在 2025 年如何用 AI 寫程式

AI(人工智慧)領域的發展非常快速,在二月之前我還不覺得以 AI 來寫程式是有效的,因為我需要複製程式碼到編輯器中,然而 My LLM codegen workflow atm 這篇文章改變了我的看法,因為有一些工具已經足夠成熟能直接編輯檔案。

有非常多額外內容,我會把下半年連載的展示專案跟閒聊另外放在 YouTube 影片 裡面討論。