| 577 | std::vector<std::string> fill0; |
| 578 | std::vector<std::string> fill1; |
| 579 | void parse(argument_parser& ap) |
| 580 | { |
| 581 | l.parse(ap); |
| 582 | parameters.parse(ap); |
| 583 | ct.parse(ap); |
| 584 | ap(co.offload_copy, |
| 585 | {"--enable-offload-copy"}, |
| 586 | ap.help("Enable implicit offload copying"), |
| 587 | ap.set_value(true)); |
| 588 | ap(co.fast_math, |
| 589 | {"--disable-fast-math"}, |
| 590 | ap.help("Disable fast math optimization"), |
| 591 | ap.set_value(false)); |
| 592 | ap(co.exhaustive_tune, |
| 593 | {"--exhaustive-tune"}, |
| 594 | ap.help("Exhastively search for best tuning parameters for kernels"), |
| 595 | ap.set_value(true)); |
| 596 | ap(to_fp16, {"--fp16"}, ap.help("Quantize for fp16"), ap.set_value(true)); |
| 597 | ap(to_bf16, {"--bf16"}, ap.help("Quantize for bf16"), ap.set_value(true)); |
| 598 | ap(to_int8, {"--int8"}, ap.help("Quantize for int8"), ap.set_value(true)); |
| 599 | ap(to_fp8, {"--fp8"}, ap.help("Quantize for fp8"), ap.set_value(true)); |
| 600 | ap(to_int4, {"--int4-weights"}, ap.help("Quantize weights for int4"), ap.set_value(true)); |
| 601 | } |
| 602 | |
| 603 | auto params(const program& p) |
| 604 | { |