找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 文档 工具 设计
查看: 32|回复: 0

本地部署的DeepSeek R1通过Apache前置机调用API

[复制链接]

2万

主题

1357

回帖

3万

积分

超级版主

教育辅助界扛把子

附加身份标识
精华
1
热心
10
听众
1
威望
8
贡献
15329
违规
0
书币
50992
注册时间
2020-4-8

论坛元老灌水之王

发表于 2025-2-16 11:24 | 显示全部楼层 |阅读模式
一、本地部署DeepSeek R1(基于Ollama),网上有大量的Ollama下本地部署deepseek的教程,这里就简单带过

1. 安装Ollama


    •下载安装包:访问 Ollama官网 ,根据操作系统(Windows/macOS/Linux)下载对应版本。

    •安装与验证:
      # 安装后验证版本(Windows通过命令提示符,macOS/Linux通过终端)
      ollama --version
     –若安装成功,任务栏会出现Ollama的小羊驼图标(Windows)或服务自动启动(macOS/Linux)。

2. 下载DeepSeek R1模型

    根据硬件配置选择模型版本(参考搜索结果[6][7]):
    •低配置(4GB内存以下):ollama run deepseek-r1:1.5b
    •中配置(8-12GB内存):ollama run deepseek-r1:8b
    •高配置(16GB+内存):ollama run deepseek-r1:14b

3. 测试本地API

    Ollama默认在http://localhost:11434提供API服务,验证接口可用性:
    curl http://localhost:11434/api/generate -d '{

       "prompt": "你好",
       "stream": false
     }'

二、安装与配置Apache前置机

1. 安装Apache HTTP Server
    •Ubuntu/Debian:

    sudo apt update && sudo apt install apache2
    sudo a2enmod proxy proxy_http rewrite
    sudo systemctl restart apache2


    •Windows:通过 Apache Lounge 下载二进制包安装。

2. 配置反向代{过}{滤}理与时间戳验证

    编辑Apache配置文件(如/etc/apache2/sites-available/000-default.conf):

    <VirtualHost *:80>

        ServerName your-domain.com
        # 启用反向代{过}{滤}理

        ProxyPass /api/ http://localhost:11434/api/

        ProxyPassReverse /api/ http://localhost:11434/api/

        # 时间戳验证(防止重放攻击)

        RewriteEngine On

        RewriteCond %{QUERY_STRING} !timestamp=[0-9]{10}

        RewriteRule ^api/ - [F,L]

        # 允许时间误差±5分钟(300秒)

        RewriteCond expr "abs(%{TIME_UNIX} - %{QUERY_STRING}|timestamp=([^&]+).*) > 300"

        RewriteRule ^api/ - [F,L]

    </VirtualHost>


3. 重启Apache服务

     sudo systemctl restart apache2


三、客户端调用API(含时间戳)

1. 生成时间戳

    客户端需在请求中添加timestamp参数,值为当前时间戳(10位秒级),例如:

    import time
    timestamp = int(time.time())  # 输出如1675843200

2. 发送请求至Apache前置机

    curl http://your-domain.com/api/generate?timestamp=1675843200 -d '{
      "prompt": "如何部署大模型?",
      "stream": false
    }'

3. 安全增强(可选)

    启用HTTPS:使用Let’s Encrypt免费证书配置SSL。
    IP白名单:通过Apache限制仅允许特定IP访问。
    <Location "/api/">

         Require ip 192.168.1.0/24
    </Location>

四、验证与调试

    验证时间戳机制
    发送不带timestamp的请求:应返回403 Forbidden。
    发送过期时间戳(如超过当前时间5分钟):应拒绝请求。
    查看日志
    日志路径(默认/var/log/apache2/access.log)可监控请求状态:

     -f /var/log/apache2/access.log

五、扩展:集成Dify或其他应用

    若需将DeepSeek R1集成到Dify等平台,可在Dify的模型配置中填写Apache前置机地址:

    模型供应商:Ollama  
    模型名称:deepseek-r1:8b  
    基础URL:http://your-domain.com/api

关键注意事项

硬件要求:根据模型版本选择合适配置,避免内存不足导致服务崩溃 。
安全性:
    时间戳机制:需客户端与服务端时间同步(建议使用NTP服务)。
    防火墙规则:仅开放Apache的80/443端口,禁止直接访问Ollama的11434端口。
性能优化:
    启用Apache缓存模块(如mod_cache)提升高频请求响应速度。
    使用GPU加速(需Ollama支持CUDA)提升推理效率 。
Great works are not done by strength, but by persistence! 历尽艰辛的飞升者,成了围剿孙悟空的十万天兵之一。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则 需要先绑定手机号


免责声明:
本站所发布的第三方软件及资源(包括但不仅限于文字/图片/音频/视频等仅限用于学习和研究目的;不得将上述内容用于商业或者非法用途,否则,一切后果请用户自负。本站信息来自网络,版权争议与本站无关。您必须在下载后的24个小时之内,从您的电脑中彻底删除上述内容。如果您喜欢某程序或某个资源,请支持正版软件及版权方利益,注册或购买,得到更好的正版服务。如有侵权请邮件与我们联系处理。

Mail To: admin@cdsy.xyz

QQ|Archiver|手机版|小黑屋|城东书院 ( 湘ICP备19021508号-1|湘公网安备 43102202000103号 )

GMT+8, 2025-2-22 16:28 , Processed in 0.033837 second(s), 27 queries .

Powered by Discuz! CDSY.XYZ

Copyright © 2019-2023, Tencent Cloud.

快速回复 返回顶部 返回列表