LLM

前情提要 過去幾年，OpenAI 的旗艦模型（GPT-4o、GPT-5 系列、o1/o3 推理模型、Codex 程式生成模型）只能透過 OpenAI 自家 API 呼叫。不管你的公司用什麼雲端，只要想用 OpenAI 最強的模型，就得連到 api.openai.com。 現在，這個局面被打破了。 2026 年 6 月 1 日，OpenAI 正式宣布其 frontier models（包含 GPT-5、o3、Codex 等）以及 Codex CLI 開發工具，全面上架 AWS Marketplace。 這聽起來像是「又多了一個呼叫方式」，但實際上，這一步的意義遠比你想像的深。 這次上線了什麼？ 簡單來說，這次 AWS 上架的包含兩大塊： 1. OpenAI 模型作為 AWS Marketplace 產品 你可以在 AWS Marketplace 直接訂閱 OpenAI 的模型，然後透過 AWS 的 API Gateway、Bedrock 或直連方式呼叫。计费走 AWS 帳單，跟其他 AWS 服務（EC2、S3、Lambda）的帳單合在一起。 支援的模型包括： GPT-5 系列（包含不同尺寸與成本效能比的版本） o3 / o4 推理模型（高階邏輯推理、數學、程式生成） Codex 模型（專為程式碼生成與理解優化） 2. Codex CLI 工具 Codex CLI 是 OpenAI 推出的命令列開發助手，可以直接在終端機裡跟 AI 對話、生成程式碼、review PR。現在這個工具也可以透過 AWS 基礎設施運行，對已經深度使用 AWS 生態的開發者來說，整合度更高。 ...

前陣子 Hacker News 上有一篇貼文衝上熱門，標題是「AI Agent Guidelines for CS336 at Stanford」，短短時間內拿到了四百多則按讚。 第一眼看到的時候，我心裡想的是：不過就是一份 prompt 吧？但仔細看完之後，發現這份只有兩千多字的 Markdown 檔案，其實藏著不少值得開發者思考的東西。 什麼是 CS336？ CS336 是史丹佛大學一門叫做「Language Modeling from Scratch」的課程。簡單來說，這門課不教你怎麼呼叫 API，而是從零開始，用 Python 和 PyTorch 實作一個語言模型。 課程非常硬核——你需要自己寫 tokenizer、transformer block、訓練迴圈，甚至 Triton kernel。正因如此，學生在作業上花的时间非常多。 於是教授們想了一個辦法：讓學生在寫作業時，可以請 AI 助手幫忙，但有一套明確的「遊戲規則」。 核心原則：Agent 是助教，不是解答器 這份 Guidelines 的第一句話就點出了核心精神： AI agents should function as teaching aids that help students learn through explanation, guidance, and feedback—not by completing assignments for them. 換句話說，AI Agent 的角色是「老師」，不是「代考」。 接下來，文件列出了 Agent 應該做和不應該做的事情。我整理成幾個重點： Agent 應該做的： ...