前言思源3.7后官网已经接入Agent和语义搜索功能语义搜索需要agent embedding实现方式有两种调用商用的agent api比如qwen-embedding3等模型自己搭建。我这里选择的方式是第二种通过ollama部署qwen3-embedding环境Win10ollama0.31.2pythonfastAPI。安装ollam官网链接ollama下载完后在cmd输入ollama server启动服务。再另外打开一个cmd输入下面的命令下载所需要的版本。看自己的显卡显存来# 下载最新版8Bollama pull qwen3-embedding# 系在4B也可以是0.6Bollama pull qwen3-embedding:4b下载qwen3-embedding下载完成后确保ollama已经启动。python脚本由于我的ollama版本是0.31.2已经不支持open api格式需要使用python脚本进行一层转换。创建ollama_openai_proxy.py脚本fromfastapiimportFastAPI,HTTPExceptionfrompydanticimportBaseModelimporthttpximportasyncio appFastAPI()classEmbeddingRequest(BaseModel):input:list[str]|strmodel:strdimensions:int0app.post(/v1/embeddings)asyncdefembeddings(req:EmbeddingRequest):Convert OpenAI embedding API to Ollama API# 标准化输入ifisinstance(req.input,str):texts[req.input]else:textsreq.input# 调用 Ollama APIasyncwithhttpx.AsyncClient()asclient:try:responseawaitclient.post(http://localhost:11434/api/embed,json{model:req.model,input:texts},timeout30.0)response.raise_for_status()ollama_respresponse.json()exceptExceptionase:raiseHTTPException(status_code500,detailstr(e))# 转换为 OpenAI 格式embeddingsollama_resp.get(embeddings,[])return{object:list,model:req.model,data:[{object:embedding,index:i,embedding:emb}fori,embinenumerate(embeddings)]}app.get(/v1/models)asyncdeflist_models():Proxy models endpointasyncwithhttpx.AsyncClient()asclient:responseawaitclient.get(http://localhost:11434/api/tags)response.raise_for_status()ollama_respresponse.json()models[]formodelinollama_resp.get(models,[]):models.append({id:model[name],object:model,created:0,owned_by:ollama})return{object:list,data:models}if__name____main__:importuvicorn uvicorn.run(app,host127.0.0.1,port8000)在脚本的当前路径打开cmd安装fastAPIpip install fastapi uvicon httpx执行该脚本python ollama_openai_proxy.py。思源配置API基础地址http://127.0.0.1:8000/v1模型名称看自己部署的模型qwen3-embedding维度8B最大维度是4096,4B是2560,0.6b是1024。我这里是2560。api keyollama能随便输入但不能为空因为siyuan需要。维度为0也可能导致下方的嵌入索引进度无反应最好手动输入。向量化所耗费的时间很长尤其是笔记和维度越大其时间长。
前言思源3.7后官网已经接入Agent和语义搜索功能语义搜索需要agent embedding实现方式有两种调用商用的agent api比如qwen-embedding3等模型自己搭建。我这里选择的方式是第二种通过ollama部署qwen3-embedding环境Win10ollama0.31.2pythonfastAPI。安装ollam官网链接ollama下载完后在cmd输入ollama server启动服务。再另外打开一个cmd输入下面的命令下载所需要的版本。看自己的显卡显存来# 下载最新版8Bollama pull qwen3-embedding# 系在4B也可以是0.6Bollama pull qwen3-embedding:4b下载qwen3-embedding下载完成后确保ollama已经启动。python脚本由于我的ollama版本是0.31.2已经不支持open api格式需要使用python脚本进行一层转换。创建ollama_openai_proxy.py脚本fromfastapiimportFastAPI,HTTPExceptionfrompydanticimportBaseModelimporthttpximportasyncio appFastAPI()classEmbeddingRequest(BaseModel):input:list[str]|strmodel:strdimensions:int0app.post(/v1/embeddings)asyncdefembeddings(req:EmbeddingRequest):Convert OpenAI embedding API to Ollama API# 标准化输入ifisinstance(req.input,str):texts[req.input]else:textsreq.input# 调用 Ollama APIasyncwithhttpx.AsyncClient()asclient:try:responseawaitclient.post(http://localhost:11434/api/embed,json{model:req.model,input:texts},timeout30.0)response.raise_for_status()ollama_respresponse.json()exceptExceptionase:raiseHTTPException(status_code500,detailstr(e))# 转换为 OpenAI 格式embeddingsollama_resp.get(embeddings,[])return{object:list,model:req.model,data:[{object:embedding,index:i,embedding:emb}fori,embinenumerate(embeddings)]}app.get(/v1/models)asyncdeflist_models():Proxy models endpointasyncwithhttpx.AsyncClient()asclient:responseawaitclient.get(http://localhost:11434/api/tags)response.raise_for_status()ollama_respresponse.json()models[]formodelinollama_resp.get(models,[]):models.append({id:model[name],object:model,created:0,owned_by:ollama})return{object:list,data:models}if__name____main__:importuvicorn uvicorn.run(app,host127.0.0.1,port8000)在脚本的当前路径打开cmd安装fastAPIpip install fastapi uvicon httpx执行该脚本python ollama_openai_proxy.py。思源配置API基础地址http://127.0.0.1:8000/v1模型名称看自己部署的模型qwen3-embedding维度8B最大维度是4096,4B是2560,0.6b是1024。我这里是2560。api keyollama能随便输入但不能为空因为siyuan需要。维度为0也可能导致下方的嵌入索引进度无反应最好手动输入。向量化所耗费的时间很长尤其是笔记和维度越大其时间长。
