This repository has been archived by the owner on Sep 25, 2024. It is now read-only.
使用基于本地计算的实现 #77
Labels
enhancement
New feature or request
help wanted
Extra attention is needed
need more discussion
refactor
动机
当前使用 ChatGPT 的实现存在诸多问题,典型的问题如下:
综上所述,使用基于本地推理的实现变得很合理,能极大的提升体验,和用户群。
挑战
基于本地推理计算的实现也存在一些挑战,例如,训练难度,成本,数据集等问题,本地推理带来的性能开销,以及做为一个浏览器插件本身的桎梏,我本人是一个客户端和后端开发者,对机器学习了解不深,做了简单地调研之后,可能 Bert 等是个可行的选择,欢迎继续讨论其他方案,仅做抛砖引玉。
The text was updated successfully, but these errors were encountered: