目前 AI 技術(shù)的謀智快速發(fā)展已經(jīng)讓很多用戶日常工作離不開(kāi) AI，不過(guò)現(xiàn)在的基金 AI 多數(shù)都是基于云端運(yùn)行的，也就是計(jì)劃推用戶提交的數(shù)據(jù)有潛在的泄露風(fēng)險(xiǎn)。

這個(gè)時(shí)候關(guān)注隱私的出離謀智基金會(huì)站出來(lái)了，謀智基金會(huì)宣布推出一個(gè)名為 Llamafile 的本地新開(kāi)源計(jì)劃，該開(kāi)源計(jì)劃目標(biāo)是個(gè)人幫助人們?cè)谧约旱挠布线\(yùn)行大型語(yǔ)言模型，不需要專(zhuān)用的私密使用 GPU、CPU 或者 NPU（但有 GPU 的藍(lán)點(diǎn)話可以更好的運(yùn)行）。

Llamafile 的謀智工作原理是將人工智能聊天機(jī)器人的所有復(fù)雜性壓縮為一個(gè)文件，然后該文件可以在 Windows、基金Mac、計(jì)劃推Linux、出離OpenBSD、本地FreeBSD、個(gè)人NetBSD 上運(yùn)行，私密使用并且?guī)缀醪恍枰惭b或者配置，也就是即開(kāi)即用。

這種 LLM 是完全在本地運(yùn)行的，不需要以來(lái)第三方商業(yè)公司提供的云端算力，數(shù)據(jù)也都是保存在本地的，不會(huì)離開(kāi)用戶的設(shè)備，甚至如果用戶愿意的話，可以將自己的日常對(duì)話后的機(jī)器人模型復(fù)制到其他機(jī)器上繼續(xù)使用，這樣不用重新優(yōu)化提示詞。

目前謀智基金會(huì)并不是唯一一家要打造本地 AI 的公司，谷歌最近向 Pixel 8 Pro 提供的 Gemini 變種版本 AiCore 實(shí)際上就是一種本地 AI，利用本地設(shè)備的算力來(lái)執(zhí)行某些操作，不過(guò)目前 AiCore 的公開(kāi)信息還比較少。

謀智基金會(huì)相信開(kāi)源是解決各類(lèi)隱私問(wèn)題最有力的解決方案之一，可以通過(guò)開(kāi)源解決隱私、訪問(wèn)、控制的問(wèn)題，也就是我們的對(duì)話被誰(shuí)聽(tīng)到？我們的數(shù)據(jù)會(huì)被如何處理？誰(shuí)能決定 AI 回答或不回答某些問(wèn)題。

至于 Llamafile 項(xiàng)目，目前謀智基金會(huì)已經(jīng)注意到一些比較有潛力的項(xiàng)目，第一個(gè)是 Llama.cpp 項(xiàng)目，這個(gè)開(kāi)源項(xiàng)目讓普通的消費(fèi)級(jí)設(shè)備也可以運(yùn)行 LLM，而且速度并不算慢；第二個(gè)是 Cosmopolitan 項(xiàng)目，該項(xiàng)目可以一次編譯程序在各種操作系統(tǒng)和硬件上運(yùn)行。

當(dāng)然這個(gè)項(xiàng)目沒(méi)這么快搞定，謀智基金會(huì)希望開(kāi)發(fā)者或者對(duì) LLM 感興趣的用戶一起參與：https://github.com/Mozilla-Ocho/llamafile

(責(zé)任編輯：娛樂(lè))