using LLama.Web.Models; namespace LLama.Web.Hubs { public interface IInteractiveClient { Task OnStatus(string status); Task OnResponse(ResponseFragment fragment); Task OnError(string error); } }
C#/.NET上易用的LLM高性能推理框架,支持LLaMA和LLaVA系列模型。