<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/"><channel><title>LLM on 凱凱的技術筆記</title><link>https://lalio.dpdns.org/tags/llm/</link><description>Recent content in LLM on 凱凱的技術筆記</description><generator>Hugo</generator><language>zh-TW</language><lastBuildDate>Tue, 02 Jun 2026 14:15:43 +0000</lastBuildDate><atom:link href="https://lalio.dpdns.org/tags/llm/index.xml" rel="self" type="application/rss+xml"/><item><title>OpenAI 旗艦模型正式登陸 AWS — 從 API 到基礎設施的戰略一步</title><link>https://lalio.dpdns.org/posts/openai-frontier-models-aws-2026/</link><pubDate>Tue, 02 Jun 2026 14:15:43 +0000</pubDate><guid>https://lalio.dpdns.org/posts/openai-frontier-models-aws-2026/</guid><description>&lt;h2 id="前情提要">前情提要&lt;/h2>
&lt;p>過去幾年，OpenAI 的旗艦模型（GPT-4o、GPT-5 系列、o1/o3 推理模型、Codex 程式生成模型）只能透過 OpenAI 自家 API 呼叫。不管你的公司用什麼雲端，只要想用 OpenAI 最強的模型，就得連到 &lt;code>api.openai.com&lt;/code>。&lt;/p>
&lt;p>現在，這個局面被打破了。&lt;/p>
&lt;p>2026 年 6 月 1 日，OpenAI 正式宣布其 frontier models（包含 GPT-5、o3、Codex 等）以及 Codex CLI 開發工具，全面上架 &lt;a href="https://openai.com/index/openai-frontier-models-and-codex-are-now-available-on-aws/">AWS Marketplace&lt;/a>。&lt;/p>
&lt;p>這聽起來像是「又多了一個呼叫方式」，但實際上，這一步的意義遠比你想像的深。&lt;/p>
&lt;hr>
&lt;h2 id="這次上線了什麼">這次上線了什麼？&lt;/h2>
&lt;p>簡單來說，這次 AWS 上架的包含兩大塊：&lt;/p>
&lt;h3 id="1-openai-模型作為-aws-marketplace-產品">1. OpenAI 模型作為 AWS Marketplace 產品&lt;/h3>
&lt;p>你可以在 AWS Marketplace 直接訂閱 OpenAI 的模型，然後透過 AWS 的 API Gateway、Bedrock 或直連方式呼叫。计费走 AWS 帳單，跟其他 AWS 服務（EC2、S3、Lambda）的帳單合在一起。&lt;/p>
&lt;p>支援的模型包括：&lt;/p>
&lt;ul>
&lt;li>&lt;strong>GPT-5 系列&lt;/strong>（包含不同尺寸與成本效能比的版本）&lt;/li>
&lt;li>&lt;strong>o3 / o4 推理模型&lt;/strong>（高階邏輯推理、數學、程式生成）&lt;/li>
&lt;li>&lt;strong>Codex 模型&lt;/strong>（專為程式碼生成與理解優化）&lt;/li>
&lt;/ul>
&lt;h3 id="2-codex-cli-工具">2. Codex CLI 工具&lt;/h3>
&lt;p>Codex CLI 是 OpenAI 推出的命令列開發助手，可以直接在終端機裡跟 AI 對話、生成程式碼、review PR。現在這個工具也可以透過 AWS 基礎設施運行，對已經深度使用 AWS 生態的開發者來說，整合度更高。&lt;/p></description></item><item><title>Stanford 怎麼教 AI Agent：一份值得開發者參考的 Guidelines</title><link>https://lalio.dpdns.org/posts/ai-agent-guidelines/</link><pubDate>Tue, 02 Jun 2026 11:21:40 +0000</pubDate><guid>https://lalio.dpdns.org/posts/ai-agent-guidelines/</guid><description>&lt;p>前陣子 Hacker News 上有一篇貼文衝上熱門，標題是「AI Agent Guidelines for CS336 at Stanford」，短短時間內拿到了四百多則按讚。&lt;/p>
&lt;p>第一眼看到的時候，我心裡想的是：不過就是一份 prompt 吧？但仔細看完之後，發現這份只有兩千多字的 Markdown 檔案，其實藏著不少值得開發者思考的東西。&lt;/p>
&lt;h2 id="什麼是-cs336">什麼是 CS336？&lt;/h2>
&lt;p>CS336 是史丹佛大學一門叫做「Language Modeling from Scratch」的課程。簡單來說，這門課不教你怎麼呼叫 API，而是從零開始，用 Python 和 PyTorch 實作一個語言模型。&lt;/p>
&lt;p>課程非常硬核——你需要自己寫 tokenizer、transformer block、訓練迴圈，甚至 Triton kernel。正因如此，學生在作業上花的时间非常多。&lt;/p>
&lt;p>於是教授們想了一個辦法：讓學生在寫作業時，可以請 AI 助手幫忙，但有一套明確的「遊戲規則」。&lt;/p>
&lt;h2 id="核心原則agent-是助教不是解答器">核心原則：Agent 是助教，不是解答器&lt;/h2>
&lt;p>這份 Guidelines 的第一句話就點出了核心精神：&lt;/p>
&lt;blockquote>
&lt;p>AI agents should function as teaching aids that help students learn through explanation, guidance, and feedback—not by completing assignments for them.&lt;/p>&lt;/blockquote>
&lt;p>換句話說，AI Agent 的角色是「老師」，不是「代考」。&lt;/p>
&lt;p>接下來，文件列出了 Agent &lt;strong>應該做&lt;/strong>和&lt;strong>不應該做&lt;/strong>的事情。我整理成幾個重點：&lt;/p>
&lt;p>&lt;strong>Agent 應該做的：&lt;/strong>&lt;/p></description></item></channel></rss>