| 494 | |
| 495 | |
| 496 | def parse_args() -> argparse.Namespace: |
| 497 | parser = argparse.ArgumentParser(description=__doc__) |
| 498 | parser.add_argument("--model", default="lingbot-depth-pretrain-vitl-14-v0.5.pt") |
| 499 | parser.add_argument("--capture", type=Path, default=None) |
| 500 | parser.add_argument("--width", type=int, default=640) |
| 501 | parser.add_argument("--height", type=int, default=480) |
| 502 | parser.add_argument("--work-dir", type=Path, default=Path("trt_work/lingbot_depth_nt300")) |
| 503 | parser.add_argument("--num-tokens", type=int, default=300) |
| 504 | parser.add_argument("--opset", type=int, default=20) |
| 505 | parser.add_argument("--device", choices=["cuda", "cpu"], default="cuda") |
| 506 | parser.add_argument("--precision", choices=["fp32", "fp16"], default="fp32") |
| 507 | parser.add_argument("--dynamo", action="store_true") |
| 508 | parser.add_argument("--no-external-data", dest="external_data", action="store_false") |
| 509 | parser.add_argument("--skip-export", action="store_true") |
| 510 | parser.add_argument("--skip-ort", action="store_true") |
| 511 | parser.add_argument("--skip-trt-build", action="store_true") |
| 512 | parser.add_argument("--skip-trt-run", action="store_true") |
| 513 | parser.add_argument("--ort-provider", choices=["cuda", "cpu", "tensorrt"], default="cuda") |
| 514 | parser.add_argument("--workspace-gb", type=int, default=6) |
| 515 | parser.add_argument("--tactic-gb", type=int, default=4) |
| 516 | parser.add_argument("--tf32", action="store_true") |
| 517 | parser.add_argument("--verbose-trt", action="store_true") |
| 518 | parser.add_argument("--trt-warmup", type=int, default=3) |
| 519 | parser.add_argument("--trt-runs", type=int, default=20) |
| 520 | return parser.parse_args() |
| 521 | |
| 522 | |
| 523 | def main() -> int: |