Python 做 AI 小工具的几个顺手技巧

2026-05-28 · Python

用 Python 快速搭一个调用大模型的小工具，是件很爽的事。但要让它跑得稳、用得省心， 有几个小地方值得注意。这里记录几个我常用的写法。

一、密钥别写死在代码里

API 密钥硬编码在脚本里，既不安全，也不方便切换。用环境变量管理是更好的做法：

import os

api_key = os.environ.get("API_KEY")
if not api_key:
    raise RuntimeError("请先设置环境变量 API_KEY")

本地开发可以配合 .env 文件和 python-dotenv，注意把 .env 加进 .gitignore。

二、给网络请求加重试

调外部接口难免遇到偶发的超时和限流。加一层简单的重试，能让工具稳定不少：

import time

def call_with_retry(func, retries=3, delay=2):
    for i in range(retries):
        try:
            return func()
        except Exception as e:
            if i == retries - 1:
                raise
            print(f"第 {i+1} 次失败：{e}，{delay}s 后重试")
            time.sleep(delay)

三、需要时用流式输出

如果是做交互式的工具，开启流式（stream）能让结果一个字一个字地冒出来， 体验上比"转圈等半天再一次性弹出"好很多，用户也能更早看到反馈。

四、把结果缓存下来

调试阶段反复对同一个输入发请求，既慢又费钱。把结果按输入做个简单缓存， 能省不少时间。用输入的哈希做 key，存成本地 JSON 文件就够用了。

小结

这些技巧都不复杂，但组合起来，能让一个"能跑"的小工具变成"好用又省心"的小工具。 写工具的乐趣，很多时候就藏在这些细节里。