using LLama.Common; namespace LLama.Web.Common { public class ModelOptions : ModelParams { public ModelOptions() : base("", 512, 20, 1337, true, true, false, false, "", "", -1, 512, false, false) { } public string Name { get; set; } public int MaxInstances { get; set; } } }
C#/.NET上易用的LLM高性能推理框架,支持LLaMA和LLaVA系列模型。