在用chainlit的时候老是出现
无法访问服务器。
或者 Could not reach the server.
刚开始以为是代码问题,但是后端代码打log依旧稳定输出,没有问题。
确保后端代码没问题之后,开始DEBUG,最终发现是chainlit本身的timeout的设置问题
相关 iuuse
- https://github.com/Chainlit/chainlit/issues/441
DEBUG
启动脚本:chainlit run chainlit_example.py -w
example 1
import time
import chainlit as cldef sync_func():time.sleep(60)return "Hello!"@cl.on_message
async def main(message: cl.Message):print(message)answer = sync_func()await cl.Message(content=answer,).send()print(answer)
print(answer)可以打印成功,但是前端界面显示超时。
example 2
如果把sleep改成10,则没问题
很显然是60s超时了,并在是对于一个@cl.on_message维度下有个超时的概念
example3
cl提供了这么个方法,可以异步的解决这个问题:cl.make_async
import time
import chainlit as cldef sync_func():time.sleep(60)return "Hello!"@cl.on_message
async def main(message: cl.Message):print(message)answer = await cl.make_async(sync_func)()await cl.Message(content=answer,).send()print(answer)
这样就可以解决了,你甚至可以把sleep调大更多, 10min也是没问题的
example 4
如果本身func就是个sync方法怎么办呢,那就再打包一层!
import timeimport asyncio
import chainlit as clasync def sync_func():time.sleep(60)return "Hello!"def func():return asyncio.run(sync_func())@cl.on_message
async def main(message: cl.Message):print(message)answer = await cl.make_async(func)()await cl.Message(content=answer,).send()print(answer)