工程师的日常

为新app调了几天的后端工作流和prompt，终于把AI数据请求和处理时间减少了一半，并且AI回复达到了让我满意的水平。
现在接入了GPT、Claude、Moonshot、MiniMax，都试了一圈，感觉Claude和Moonshot是效果最好的，速度快内容贴题。
客户端核心功能demo已经做完了，该开始卷设计了@BJC_韬 ，争取早日推出MVP版本！

自己一个人把前后端都写了问题倒是不大，就是手指头敲得累…………

目前的最后一个bug终于解决啦！不得不说，敲代码的时候还蛮聪明的，打麻将也有这么聪明就好了

用llama.cpp把刚刚微调的llama3的f16精度的模型压成了q8_0，模型小了一半，在Macbook m1上面可以顺畅跑了。遇到问题，真的还是要多动手。

cd llama.cpp
./quantize /path/to/model-f16.gguf /path/to/output/model-q8.gguf q8_0

Llama 3 8B 在树莓派 Pi 5 上运行速度达到 1.89 个 token/s，也就是达到了普通人说话的语速。非常疯狂。如果文明衰落、互联网消亡，每家每户都需要这样的东西。

微调了一下Llama3 8B，丹炼好了，下载下来，发现电脑带不动😅

关于怎么建（知识）库这件事，尝试了好些，还是不得不回到了Excel。于是，我有一系列Excel表格，它们的基本结构是：时间-事件/观点（观点是有待验证的事件）-信息来源（/原始信源）；不过第一步是用画布，软件是obsidian，用来map一些关联有待发掘的信息点，培育intuition。
目的是服务于研究，但似乎在任何方面试图形成判断，都可以这样来。有时候在心里嘀咕，重要的是判断和执行，脑筋活络的重要性，一般般吧！

真好啊，在用ChatGPT 开发App 。
他们读懂图片之后真的爽死了，终于不用描述我看不懂的问题了！直接截图就搞定了！！😭
他还能读懂你设计的界面。

感谢掘金和鸿蒙举办的动手实验室~
如果哪位有兴趣，可以和我一同实现这个想法

上周对一批服务器进行GLIBC更新升级，然后有服务器重启后网卡掉了，昨天把网卡驱动都打上去后也起不来，今天上班一看，服务器自己好了，网卡可以识别了
我怀疑这些机器是工作多年，常年007，想给自己休个假🤨