home/categories/backend/ecnu-icalk-autoskill-skillbank-convskill-chinese-gpt4-8-fastapi-transformers-非阻塞流式响应实现-skill-md
quick start
Installation and usage
在 FastAPI 中使用 Transformers 的 TextIteratorStreamer 实现非阻塞的异步流式响应,避免模型推理阻塞事件循环。
설치
$ install --globalskills.sh
사용법
설치 후 터미널에서 다음 명령을 실행하여 이 스킬을 사용할 수 있습니다:
skills use fastapi-transformers