* 板卡说明
* ChatGPT Web说明
* 搭建操作
板卡说明:
RK3576 是瑞芯微一款面向 AI 市场推出的高性能处理器,它配备了四核 Cortex-A72 和四
核 Cortex-A53 的 CPU,集成了 6TOPS 的 NPU 和 3D GPU,支持 4K 视频编解码;具有丰富多
媒体接口 HDMI/eDP/DP/MIPI-DSI/Parallel RGB/MIPI CSI,支持多屏异显;处理器还支持双千
兆以太网接口、PCIE2.1、USB3.2、SATA3、DSMC/Flexbus 高速接口、CAN FD、UART 等。适
用于工业、AIoT、边缘计算、智能移动终端以及其他多种数字多媒体等场景
基于此,想到如此强算力的板卡,如果拿来搭建大模型,应该效果很不错,于是说干就干

ChatGPT Web说明
ChatGPT 是一款由 OpenAI 开发的聊天机器人,可以用自然语言与用户进行交互。它基于 GPT 模型,拥有非常强大的语言生成能力,可以在许多场景中被广泛应用,例如客服、智能助手等。本文将介绍如何使用 node快速搭建一个 ChatGPT 服务,并通过 Web 界面与之交互。
chatgpt支持双模型,提供了两种非官方 ChatGPT API 方法
方式 | 免费? | 可靠性 | 质量 |
ChatGPTAPI(gpt-3.5-turbo-0301) | 否 | 可靠 | 相对较笨 |
ChatGPTUnofficialProxyAPI(网页 accessToken) | 是 | 相对不可靠 | 聪明 |
- ChatGPTAPI 使用 gpt-3.5-turbo 通过 OpenAI 官方 API 调用 ChatGPT
- ChatGPTUnofficialProxyAPI 使用非官方代理服务器访问 ChatGPT 的后端API,绕过Cloudflare(依赖于第三方服务器,并且有速率限制)

搭建操作:
本次使用手动部署方式
1. node安装
# sudo apt-get update
# sudo apt-get install nodejs

查看版本信息:

2. 安装pnpm
# npm install pnpm -g

不过通常安装不成功,需要切换镜像源,网上可以搜到一些可用的镜像源。安装ok后查看版本信息如下

3. 拉取源码
# git clone https://github.com/Chanzhaoyu/chatgpt-web.git
板卡上如没有安装git可以先下载电脑再使用adb 或者 ssh拷贝进去,代码结构如下

4. 进入仓库后安装
# cd chatgpt-web
# pnpm install

5. 启动前端项目
# pnpm dev

6. 启动后端
进入到service/中
# pnpm install

pnpm start启动失败,需要从 https://chat.openai.com/api/auth/session 注册获取acckey

浏览器中输入 http://localhost:1002/ 可进入网页版对话页面
参考文章:
https://blog.csdn.net/zhouzongxin94/article/details/144021130
https://blog.csdn.net/as604049322/article/details/133892621
https://blog.csdn.net/weixin_47772411/article/details/130521154