namespace LLama.Benchmark { public enum ExecutorType { Interactive, Instruct, Stateless } }
C#/.NET上易用的LLM高性能推理框架,支持LLaMA和LLaVA系列模型。