记录自己折腾服务器、知识库问答和大模型的过程。写给以后的自己,也给遇到同样问题的人。
不装额外软件,用系统自带的 ssh 建一条能自动重连的隧道,并把隧道密钥的权限收到最小。
48 道题、按要点自动打分,比较回答质量、出第一个字的时间和总耗时。
一台 8G 内存的虚拟机、一个开源知识库软件、云端的模型接口,以及中间踩过的几个坑。