Function gpt2_zero_grad

experimental/kernels/gpt2_webgpu.cpp:455–458

}

void gpt2_zero_grad(GPT2 *model) {
    if(model->grads_memory != NULL) { memset(model->grads_memory, 0, model->num_parameters * sizeof(float)); }
    if(model->grads_acts_memory != NULL) { memset(model->grads_acts_memory, 0, model->num_activations * sizeof(float)); }
}

void gpt2_backward(Context& ctx, GPT2 *model) {
    printf("Backward pass\n");