home/categories/backend/ecnu-icalk-autoskill-skillbank-convskill-chinese-gpt4-8-fastapi-transformers-非阻塞流式响应实现-skill-md
quick start
Installation and usage
在 FastAPI 中使用 Transformers 的 TextIteratorStreamer 实现非阻塞的异步流式响应,避免模型推理阻塞事件循环。
安裝
$ install --globalskills.sh
使用
安裝後,您可以透過在終端機執行以下指令來使用此技能:
skills use fastapi-transformers