| 53 | |
| 54 | |
| 55 | def parse_args(): |
| 56 | parser = argparse.ArgumentParser('', add_help=False) |
| 57 | parser.add_argument('--ckpt', help='target string for query', |
| 58 | type=str) |
| 59 | parser.add_argument('--delta_ckpt', help='target string for query', default=None, |
| 60 | type=str) |
| 61 | parser.add_argument('--from-file', help='path to prompt file', default='./', |
| 62 | type=str) |
| 63 | parser.add_argument('--prompt', help='prompt to generate', default=None, |
| 64 | type=str) |
| 65 | parser.add_argument("--compress", action='store_true') |
| 66 | parser.add_argument("--batch_size", default=5, type=int) |
| 67 | parser.add_argument('--freeze_model', help='crossattn or crossattn_kv', default='crossattn_kv', |
| 68 | type=str) |
| 69 | return parser.parse_args() |
| 70 | |
| 71 | |
| 72 | if __name__ == "__main__": |