| 9 | } |
| 10 | |
| 11 | void llama_hparams::set_dense_start_swa_pattern(uint32_t n_pattern) { |
| 12 | for (uint32_t il = 0; il < n_layer; ++il) { |
| 13 | swa_layers[il] = n_pattern == 0 || (il % n_pattern != 0); |
| 14 | } |
| 15 | } |
| 16 | |
| 17 | bool llama_hparams::is_swa_any() const { |
| 18 | for (uint32_t il = 0; il < n_layer; ++il) { |