苹果Harbor曝光:把多台Mac变成AI推理服务器?
一台Mac跑大模型不稀奇,把好几台Mac凑成一台私有AI推理服务器,才是苹果正在琢磨的事。一款目前名为 Harbor 的应用,目标就是让这件事变得足够简单。 据Aaronp613在X上的说法,Harbor此前叫Fabric,作用是在Mac上搭出一个私有的AI推理服务器。它能在Mac本机运行开放权重模型,而且用起来相当友好。 友好到什么程度?安装几分钟就能完成,看起来不需要手动配置任何东西,也不用碰命令行。模型的调度和管理由Harbor替用户处理。 这背后是Mac在AI研究里的角色变化。它已经是个有用的工具,但苹果显然想让它在本地跑大语言模型这件事上更进一步——前提是你手上的处理能力和内存足够。 数据留在本地,服务器搭建过程被压缩成几步点击,这套组合指向的是同一件事:让多台Mac协同承担推理任务,不再是一件需要折腾的工程活。 特别