GZXS 发表于 前天 12:01

Gchatai已经支持流式传输,2.0版本即将发布!

在一系列研究后发现之前的程序没有任何性能问题,在请求的时候没有响应的主要原因是
响应时间=http请求时间+ai思考时间

最让我担心的JSON解析大量文本在事实上根本没有占用多久 由于当时我还不了解流式传输,所以这个过程显得异常的漫长。

这几天经过我的研究已经完成了流式传输,目前在我的NokiaE63上运行良好,也没有任何的卡顿。

更新的东西
1.添加对话设置:可以设置ai的对话前提条件,比如限制多少字,以及禁止AI输出Markdown符号(在jiehuan大佬的提醒下,我发现我目前根本实现不了在这里解析Markdown的符号)

2.流式传输(8192bit大佬的提醒):我一直以为是JSON的解析会消耗时间,没想到是ai的线性输出,所以现在改成流式传输后会让程序在视觉上反应迅速!

目前想要改进的
由于textbox并不支持动态更改我还不知道怎么解决这个,只能替换为stringitem
本来想着输出到textbox可以复制这类文本操作,现在的解决办法应该是先输出到stringitem后增加以后按钮可以打开textbox然后进行复制。

附上软件网址
https://www.dospy.wang/thread-27247-1-1.html

快乐小牛 发表于 前天 22:33

牛哇,支持{:7_207:}

acaibing 发表于 前天 23:40

大佬牛逼!

GZXS 发表于 前天 23:45

快乐小牛 发表于 2025-4-29 22:33
牛哇,支持

多谢支持,哈哈!下次更新打算弄上下文链接和对话储存了

GZXS 发表于 前天 23:45

acaibing 发表于 2025-4-29 23:40
大佬牛逼!

多谢支持,下次更新打算弄上下文链接和对话储存了
页: [1]
查看完整版本: Gchatai已经支持流式传输,2.0版本即将发布!