| 10 | |
| 11 | |
| 12 | def parse_args(): |
| 13 | parser = argparse.ArgumentParser( |
| 14 | description="Regenerate JSONL conversations through OpenAI-compatible sglang servers." |
| 15 | ) |
| 16 | parser.add_argument("--model", required=True) |
| 17 | parser.add_argument("--server-address", nargs="+", required=True) |
| 18 | parser.add_argument("--input-file-path", required=True) |
| 19 | parser.add_argument("--output-file-path", required=True) |
| 20 | parser.add_argument("--concurrency", type=int, default=64) |
| 21 | parser.add_argument("--temperature", type=float, default=0.7) |
| 22 | parser.add_argument("--top-p", type=float, default=None) |
| 23 | parser.add_argument("--top-k", type=int, default=None) |
| 24 | parser.add_argument("--min-p", type=float, default=None) |
| 25 | parser.add_argument("--repetition-penalty", type=float, default=None) |
| 26 | parser.add_argument("--max-tokens", type=int, default=4096) |
| 27 | parser.add_argument("--num-samples", type=int, default=None) |
| 28 | parser.add_argument("--resume", action="store_true") |
| 29 | parser.add_argument("--is-reasoning-model", action="store_true") |
| 30 | parser.add_argument("--is-gpt-oss", action="store_true") |
| 31 | |
| 32 | thinking_group = parser.add_mutually_exclusive_group() |
| 33 | thinking_group.add_argument("--enable-thinking", action="store_true") |
| 34 | thinking_group.add_argument("--disable-thinking", action="store_true") |
| 35 | return parser.parse_args() |
| 36 | |
| 37 | |
| 38 | def validate_args(args): |