diff --git a/src/llama-ext.h b/src/llama-ext.h index bf5dc70785..8ce29d217c 100644 --- a/src/llama-ext.h +++ b/src/llama-ext.h @@ -82,9 +82,9 @@ struct llama_device_memory_data { // TODO: convert to C-style data structure using llama_memory_breakdown = std::map; -int32_t llama_model_n_expert (const struct llama_model * model); -int32_t llama_model_n_devices(const struct llama_model * model); +LLAMA_API int32_t llama_model_n_expert (const struct llama_model * model); +LLAMA_API int32_t llama_model_n_devices(const struct llama_model * model); -ggml_backend_dev_t llama_model_get_device(const struct llama_model * model, int i); +LLAMA_API ggml_backend_dev_t llama_model_get_device(const struct llama_model * model, int i); -llama_memory_breakdown llama_get_memory_breakdown(const struct llama_context * ctx); +LLAMA_API llama_memory_breakdown llama_get_memory_breakdown(const struct llama_context * ctx);