目录:
* 板卡说明
* ChatGPT Web说明
* 搭建操作


板卡说明:
RK3576 是瑞芯微一款面向 AI 市场推出的高性能处理器,它配备了四核 Cortex-A72 和四
核 Cortex-A53 的 CPU,集成了 6TOPS 的 NPU 和 3D GPU,支持 4K 视频编解码;具有丰富多
媒体接口 HDMI/eDP/DP/MIPI-DSI/Parallel RGB/MIPI CSI,支持多屏异显;处理器还支持双千
兆以太网接口、PCIE2.1、USB3.2、SATA3、DSMC/Flexbus 高速接口、CAN FD、UART 等。适
用于工业、AIoT、边缘计算、智能移动终端以及其他多种数字多媒体等场景
基于此,想到如此强算力的板卡,如果拿来搭建大模型,应该效果很不错,于是说干就干
image.png

ChatGPT Web说明
ChatGPT 是一款由 OpenAI 开发的聊天机器人,可以用自然语言与用户进行交互。它基于 GPT 模型,拥有非常强大的语言生成能力,可以在许多场景中被广泛应用,例如客服、智能助手等。本文将介绍如何使用 node快速搭建一个 ChatGPT 服务,并通过 Web 界面与之交互。

chatgpt支持双模型,提供了两种非官方 ChatGPT API 方法
方式免费?可靠性质量
ChatGPTAPI(gpt-3.5-turbo-0301)可靠相对较笨
ChatGPTUnofficialProxyAPI(网页 accessToken)相对不可靠聪明

  • ChatGPTAPI 使用 gpt-3.5-turbo 通过 OpenAI 官方 API 调用 ChatGPT
  • ChatGPTUnofficialProxyAPI 使用非官方代理服务器访问 ChatGPT 的后端API,绕过Cloudflare(依赖于第三方服务器,并且有速率限制)
  源码连接:https://github.com/Chanzhaoyu/chatgpt-web?tab=readme-ov-file
image.png
搭建操作:
本次使用手动部署方式
1. node安装
# sudo apt-get update
# sudo apt-get install nodejs
image.png
查看版本信息:
image.png
2. 安装pnpm
# npm install pnpm -g
image.png
不过通常安装不成功,需要切换镜像源,网上可以搜到一些可用的镜像源。安装ok后查看版本信息如下
image.png
3. 拉取源码
# git clone https://github.com/Chanzhaoyu/chatgpt-web.git
板卡上如没有安装git可以先下载电脑再使用adb 或者 ssh拷贝进去,代码结构如下
image.png

4. 进入仓库后安装
# cd chatgpt-web
# pnpm install
image.png
5. 启动前端项目
# pnpm dev
image.png
6. 启动后端
进入到service/中
# pnpm install
image.png
pnpm start启动失败,需要从 https://chat.openai.com/api/auth/session 注册获取acckey
image.png

浏览器中输入 http://localhost:1002/ 可进入网页版对话页面

参考文章:
https://blog.csdn.net/zhouzongxin94/article/details/144021130
https://blog.csdn.net/as604049322/article/details/133892621
https://blog.csdn.net/weixin_47772411/article/details/130521154