企业官网建设流程全解析

建网站要使用哪些软件,昭通网站seo优化,电子商务网站功能需求,互联网金融文章目录【问题解决】ConnectionRefusedError: [Errno 111] Connection refused when accessing http://127.0.0.1:8000/v1/completions问题描述问题原因解决方案方案 1#xff1a;检查服务器是否运行方案 2#xff1a;启动服务器Ollama 服务器vLLM 服务器FastAPI 服务器方案…文章目录【问题解决】ConnectionRefusedError: [Errno 111] Connection refused when accessing http://127.0.0.1:8000/v1/completions问题描述问题原因解决方案方案 1检查服务器是否运行方案 2启动服务器Ollama 服务器vLLM 服务器FastAPI 服务器方案 3检查服务器日志方案 4检查 API 端点方案 5检查防火墙设置方案 6使用不同的端口示例代码完整的连接测试和服务器启动示例常见问题Q: 为什么服务器启动后很快就崩溃了Q: 如何查看服务器的详细日志Q: 端口 8000 被占用怎么办Q: 防火墙阻止了连接怎么办总结【问题解决】ConnectionRefusedError: [Errno 111] Connection refused when accessing http://127.0.0.1:8000/v1/completions问题描述在访问本地服务器 API 时遇到以下错误ConnectionRefusedError: [Errno 111] Connection refused when accessing http://127.0.0.1:8000/v1/completions问题原因这个错误通常由以下原因引起服务器未启动本地服务器如 Ollama、vLLM 或其他模型服务未运行端口错误服务器运行在不同的端口上网络配置问题防火墙或网络设置阻止了连接服务器崩溃服务器进程已崩溃或异常退出路径错误API 端点路径不正确依赖问题服务器缺少必要的依赖项解决方案方案 1检查服务器是否运行# 检查端口 8000 是否被占用lsof-i :8000# 或使用 netstatnetstat-tuln|grep8000# 或使用 ssss -tuln|grep8000# Windows 系统使用netstat-ano|findstr :8000方案 2启动服务器根据使用的服务器类型启动相应的服务Ollama 服务器# 启动 Ollama 服务ollama servevLLM 服务器# 使用 vLLM 启动服务器python -m vllm.entrypoints.api_server --model mistralai/Mistral-7B-v0.1 --port8000FastAPI 服务器# 启动 FastAPI 服务器uvicorn app:app --host0.0.0.0 --port8000方案 3检查服务器日志# 查看服务器日志以 Ollama 为例journalctl -u ollama# 或查看最近的日志journalctl -u ollama -n50方案 4检查 API 端点确保使用正确的 API 端点importrequests# 测试 API 连接try:responserequests.post(http://localhost:8000/v1/completions,json{model:mistral,prompt:Hello, ,max_tokens:50})print(fStatus code:{response.status_code})print(fResponse:{response.json()})exceptExceptionase:print(fError:{e})方案 5检查防火墙设置# 检查防火墙状态Linuxsudoufw status# 允许端口 8000Linuxsudoufw allow8000# Windows 防火墙设置# 控制面板 - 系统和安全 - Windows Defender 防火墙 - 高级设置 - 入站规则 - 新建规则方案 6使用不同的端口如果端口 8000 被占用使用其他端口# 使用端口 8080 启动服务器python -m vllm.entrypoints.api_server --model mistralai/Mistral-7B-v0.1 --port8080然后更新客户端代码responserequests.post(http://localhost:8080/v1/completions,# 其他参数不变)示例代码完整的连接测试和服务器启动示例importrequestsimportsubprocessimporttimeimportosdefcheck_server_running(port8000):检查服务器是否在指定端口运行try:responserequests.get(fhttp://localhost:{port}/v1/models)returnresponse.status_code200except:returnFalsedefstart_server(modelmistralai/Mistral-7B-v0.1,port8000):启动 vLLM 服务器print(fStarting server with model{model}on port{port}...)# 启动服务器进程processsubprocess.Popen([python,-m,vllm.entrypoints.api_server,--model,model,--port,str(port)],stdoutsubprocess.PIPE,stderrsubprocess.PIPE,textTrue)# 等待服务器启动time.sleep(10)# 检查服务器是否成功启动ifcheck_server_running(port):print(fServer started successfully on port{port})returnprocesselse:print(Failed to start server)# 打印错误信息stderrprocess.stderr.read()print(fError:{stderr})process.terminate()returnNonedeftest_completion(port8000):测试文本生成 APIprint(Testing completion API...)try:responserequests.post(fhttp://localhost:{port}/v1/completions,json{model:mistralai/Mistral-7B-v0.1,prompt:Hello, how are you?,max_tokens:50,temperature:0.7})ifresponse.status_code200:resultresponse.json()print(fSuccess! Generated text:{result[choices][0][text]})returnTrueelse:print(fError:{response.status_code}-{response.text})returnFalseexceptExceptionase:print(fConnection error:{e})returnFalse# 使用示例if__name____main__:port8000# 检查服务器是否已运行ifnotcheck_server_running(port):print(Server not running. Starting server...)server_processstart_server(portport)ifnotserver_process:print(Exiting...)exit(1)# 测试 APItest_completion(portport)# 注意这里服务器会继续运行# 要停止服务器使用 server_process.terminate()else:print(Server already running. Testing API...)test_completion(portport)常见问题Q: 为什么服务器启动后很快就崩溃了A: 可能是因为内存不足、缺少依赖项或模型文件损坏。检查服务器日志获取详细错误信息。Q: 如何查看服务器的详细日志A: 启动服务器时不要使用后台运行或查看系统日志文件。对于 vLLM可以添加--debug参数获取更详细的日志。Q: 端口 8000 被占用怎么办A: 使用lsof -i :8000查看占用端口的进程然后决定是停止该进程还是使用其他端口。Q: 防火墙阻止了连接怎么办A: 在防火墙设置中允许端口 8000 的入站连接或临时关闭防火墙进行测试。总结遇到ConnectionRefusedError: [Errno 111] Connection refused错误时主要需要确认服务器是否正在运行检查服务器端口是否正确验证 API 端点路径是否正确查看服务器日志获取详细错误信息检查网络和防火墙设置确保服务器有足够的资源内存、GPU 等通过以上解决方案应该能够成功连接到本地服务器 API 并进行文本生成。