[2023/04/15]
[2023/04/12]
knowledge_based_chatglm.py
中的 prompt 模版,避免出现因 prompt 模版包含中英双语导致 chatglm 返回内容错乱的问题。[2023/04/11]
README.md
中增加常见问题(感谢 @calcitem 和 @bolongliu);cuda
、mps
、cpu
的自动判断。knowledge_based_chatglm.py
中增加对filepath
的判断,在之前支持单个文件导入的基础上,现支持单个文件夹路径作为输入,输入后将会遍历文件夹中各个文件,并在命令行中显示每个文件是否成功加载。[2023/04/09]
langchain
中的RetrievalQA
替代之前选用的ChatVectorDBChain
,替换后可以有效减少提问 2-3 次后因显存不足而停止运行的问题;knowledge_based_chatglm.py
中增加EMBEDDING_MODEL
、VECTOR_SEARCH_TOP_K
、LLM_MODEL
、LLM_HISTORY_LEN
、REPLY_WITH_SOURCE
参数值设置;chatglm-6b-int4
、chatglm-6b-int4-qe
作为 LLM 模型备选项;README.md
中的代码错误(感谢 @calcitem)。[2023/04/07]