Model Interaction

模型交互是与模型沟通以获得预期输出的过程，也就是向模型发送 prompt 并获取回复。

OpenAI-compatible API

OpenAI-compatible API 实现了与 OpenAI 官方 API 相同的请求和响应格式，使开发者无须修改现有代码即可切换不同模型。

Anthropic-compatible API 仿照 Anthropic 的 Messages API，使基于 Claude 的 client、SDK 和 agent tool 只需极少的代码改动，就能使用其他模型或服务商。

了解 function calling 及其使用场景。

Structured outputs 是采用 JSON 或 XML 等预定义格式的模型回复，使 AI 生成的数据具备可预测性和机器可读性，并且易于集成到应用和工作流中。

了解 Model Context Protocol (MCP) 及其使用场景。

理解 LLM inference 中的 prompt engineering。了解 system prompt 与 user prompt、zero-shot 与 few-shot prompting、对 KV cache 的影响、Token 成本以及生产环境最佳实践。

Agent harness 是围绕模型构建的 runtime，可以将 LLM 转化为 agent。了解 LLM 为什么需要 agent harness、目前有哪些热门选择，以及如何在 open-source model 上运行它们。

LLM inference parameters 是 request-time setting，用于控制随机性、输出长度、重复内容、停止行为、reproducibility 和 structured generation。