Tether的QVAC通过llama.cpp+llama 3.2 1B参数在移动设备上以令人难以置信的速度运行本地推理的演示。 QVAC是一个通用的推理和微调运行时，能够适应从智能手机到笔记本电脑和服务器的任何设备。已经支持了很多模型。更多即将到来。 没有限制。 无限的智慧。 即将到来http://qvac.tether.io