home/categories/llm-ai/eyadsibai-ltk-plugins-ltk-data-skills-huggingface-tokenizers-skill-md
llm-aidata-ai

huggingface-tokenizers

Use when "tokenizers", "HuggingFace tokenizer", "BPE", "WordPiece", or asking about "train tokenizer", "custom vocabulary", "tokenization", "subword", "fast tokenizer", "encode text"

eyadsibai
maintainer
eyadsibai
更新日 1/15/2026
スター
0
フォーク
0
quick start

Installation and usage

Use when "tokenizers", "HuggingFace tokenizer", "BPE", "WordPiece", or asking about "train tokenizer", "custom vocabulary", "tokenization", "subword", "fast tokenizer", "encode text"

インストール
$ install --globalskills.sh
使い方

インストール後、ターミナルで以下のコマンドを実行してこのスキルを使用できます:

skills use huggingface-tokenizers