你的浏览器版本过低,可能导致网站不能正常访问!
为了你能正常使用网站功能,请使用这些浏览器。

【STM32F769】创建deepseek本地服务,并实现http请求

[复制链接]
flyingstar 发布时间:2025-2-26 08:37
【前言】
. f' t5 A) [8 K* w! p4 ?想要实现stm32f769实现对本地模型deepseek的请求,就需要先在本地创建服务。并用python对模型进行请求测试。现在将创建过程分享如下:
1 m6 Q. G) ^. F
. }2 w- k( |: d3 w9 e5 E5 `

, n' c* i3 A3 I5 \1、安装ollama【教程非常多此处略过】
% }" [  ~1 b1 o6 Y2、安装deepseek模型 网址:deepseek-r1:1.5b
$ b9 i) @4 A% X  i' K; o3、打开cmd执行:
' I( B( O9 T* B9 h& N7 L( qollama run deepseek-r1:1.5b0 }0 f' `5 I$ s! C& j$ s
4、安装后可以使用localhost:11434打开网页,但是使用网址打来打,会提示打不开网址。按需要添加环境变量:新建系统环境变量:`    `在 系统变量 部分,点击 新建。`    `在 变量名 输入框中,输入 OLLAMA_HOST。`    `在 变量值 输入框中,输入 0.0.0.0,然后点击 确定。
: ?3 D9 U- {' R6 c( a/ G 1740493253385192.png
: Q) g% B7 a1 A" r
6 ?/ x7 R4 I- {$ j5、这样输入网址+11434就可以打开网址了。, Q+ d- j1 J, r& o2 n- P; ?8 E
1740493275473133.png 5 o: f7 m! \; O; q& J, I* m

- e+ q2 D( l$ p* |1 {$ m6、由于需要网络进行请救,所以编写python程序进行测试,代码如下:
6 n0 q  F9 F2 k
& O1 S1 B9 \* T5 ? 微信图片_20250226083444.png
# c0 \- O! n: t1 W
. C, w* b- u! x0 c! e6 l$ c0 b" ]/ f3 k) A; ^

6 O2 |. Y8 }/ z+ l9 yimport requestsimport jsonurl = "http://192.168.3.231:11434/api/generate"headers = {    "Content-Type": "application/json"}data = {    "model": "deepseek-r1:1.5b",    "prompt": "hello"}try:    response = requests.post(url, headers=headers, json=data, timeout=10)    print("原始响应内容逐行输出:")    # for line in response.text.splitlines():    #     print(line)    if response.status_code == 200:        results = []        for line in response.text.splitlines():            try:                result = json.loads(line)                results.append(result)            except json.JSONDecodeError:                continue        if results:            print("请求成功,解析到的 JSON 对象如下:")            for res in results:                print(res.get("response", "未找到响应内容"))        else:            print("未解析到有效的 JSON 对象。")    else:        print(f"请求失败,状态码: {response.status_code},错误信息: {response.text}")except requests.Timeout:    print("请求超时,请检查网络连接或增加超时时间。")except requests.RequestException as e:    print(f"请求发生异常: {e}")
! e- y) E( D  S/ l6 G
【注意的是】model 在网上的教程都写deepseek,需要写自己自己安装的deepseek-r1:1.5b,可以在自己的电脑上看:
微信图片_20250226083422.png
C:\Users\liujianhua>ollama listNAME                ID              SIZE      MODIFIEDdeepseek-r1:1.5b    a42b25d8c10a    1.1 GB    34 minutes ago
执行后,运行测试程序就可以看到请救返回了参数:
1740493363868798.png
8 k; @! l8 G& h4 j; H& |, g! S7 _* i, p+ u* j
这样,我们下一步,就可以通过stm32F769通过http来请求了。
+ q2 `' i3 I: n
1 收藏 评论0 发布时间:2025-2-26 08:37

举报

0个回答
关于
我们是谁
投资者关系
意法半导体可持续发展举措
创新与技术
意法半导体官网
联系我们
联系ST分支机构
寻找销售人员和分销渠道
社区
媒体中心
活动与培训
隐私策略
隐私策略
Cookies管理
行使您的权利
官方最新发布
STM32N6 AI生态系统
STM32MCU,MPU高性能GUI
ST ACEPACK电源模块
意法半导体生物传感器
STM32Cube扩展软件包
关注我们
st-img 微信公众号
st-img 手机版