llm.h


1
2
3
4
5
6
7
8
9
10
11
12
13

#ifndef LLM_H
#define LLM_H

#include "llama.h"

struct llama_model *llm_init(const char *model_path);

void llm_process_request(struct llama_model *model, 
	const char *user_prompt, FILE *out);

void llm_free(struct llama_model *model);

#endif /* LLM_H */