home/categories/backend/ecnu-icalk-autoskill-skillbank-convskill-chinese-gpt4-8-fastapi-transformers-非阻塞流式响应实现-skill-md
quick start
Installation and usage
在 FastAPI 中使用 Transformers 的 TextIteratorStreamer 实现非阻塞的异步流式响应,避免模型推理阻塞事件循环。
安装
$ install --globalskills.sh
使用
安装后,您可以通过在终端运行以下命令来使用此技能:
skills use fastapi-transformers