下午又有一个想法,硅基流动的api其实很适合同时跟多个bot聊天,密钥设置一次就可以了,并且不同的对话只需要改一下模型就可以了。并且真的很快。
晚上哄完娃又搞了一会儿。搞到半夜,弄了个简单的移动端出来。效果也还算满意。
在线地址:
chat.kwok.ink ,感谢vercel,部署太丝滑了。
今天晚上也还是走了弯路,开始尝试用现成的框架,折腾了挺久,还是还是自己写了。
1. vercel ai sdk 只支持配合服务端使用,尝试hack useChat最后发现有一个点没法处理。而我想走纯前端直接请求(国内网络直接请求硅基流动api会快点,另外就是纯前端后续也方便改造成其他软件形式)
2. axios请求浏览器端不支持流式响应,还是要自己基于fetch封装。不过这个在kimi帮助下倒是很快完成了。(kimi赢在网址真好输入)
后续计划:
1. PC端多窗口、有兴趣的话可能再做一个浏览器扩展
2. 把自己的密钥下掉,现在写死的自己的密钥,赌一个没啥人用🤓
3. UI优化,看看响应展示怎么搞好看点。比如markdown、图表啥的
4. 研究其他玩法,比如完善自己想要的功能、或者是让AI互相打分🤓
另外今天用的时候也想到一些关于系统的优化点,跟袁老师
@袁进辉 反馈一下,后续有空闲资源了可以考虑一下:
1. 模型列表接口完善,现在返回的数据感觉太少了。最好加个分类、中文名、厂商、图标、描述,如果可以加上价格信息之类的就更好了。
2. 现在的密钥不受限。我在想如果密钥可以加一些限制功能,比如每天最大多少的额度、或者单个密钥能分配多少额度、可以用哪些模型之类的。这样如果是做一些通用工具,可以设置一个默认的密钥,放心给朋友或者用户体验用。
最后还是广告时间,硅基流动提供多款免费大模型,并且注册就提供14元的付费额度。也欢迎使用我的邀请链接注册,这样我可以另外获得14元额度:
cloud.siliconflow.cn 睡😴