本周工作思考
Com环境部署及问题联调解决
uShow的COM的部署主要解决了几问题:
Go uShow 服务,Pyhon服务等服务代码版本对齐
EN语言使用的功能上版本,CN,CO上目前使用的是V2版本,EN上使用的是V1版本,V1和V2的差异是在评分维度上差异,V2版除了代码架构的不同,在评分维度上增加了逻辑的承上启下关系的识别,开场白中关于号召类语句的识别,正文中关于打比方,FAB特征的识别,总体而言V2中的评分维度比V1多,所以评分也更客观,更有说服性。
帮助Devos的伙伴们解决了推理服务的部署的问题。
甄别了EN语言中实际需要的各类小模型和缺失小模型的具体情况。这个在之前的交付中没有遇到过此类问题,研究的也不够清楚,这次摸透高清了。
关于Prompt和Agent的思考
上周整体阅读了东朔老师的ATD文字稿,仅仅阅读不认为是学习,对于我认为重要的资料我一般采用多次阅读和思考的精读方式,直到我想不出别的问题了或者我认为理解了其内核思想或者找到行动的点才算学习的结束。学习完整个文档,里面关于Prompt的论述启发了我对AI原生的应用的很多思考,我想也很能是未来应用开发的迭代方向之一。
1 基于AI的应用在架构上增加了一层Agent及Agent控制决策层,这一层负责控制工作流及完成功能调度,比如Dify,AgentGPT都是这一类的框架,但是未来的迭代中,类似的框架中的能力会和业务框架深度融合,形成垂直业务架构的一部分,也可能会和DDD这样的领域思想和框架整合起来
2 在应用层上面向Agent的Funcion Tools会替代现有的功能开发,与现在功能模块比较起来,这类功能是垂直业务的,更容易被Agent调用,同时,很多较大的模块本身被一个Agent包裹,提供特定的能力,供Agent调度层调用。
3 Prompt在开发中的使用用途上会分成三类:
1 系统层面的Prommpt,比如系统能力的角色,调度计划,分拆任务,评估类的Prompt。
2 应用层面的Prompt,解决具体的业务问题和业务流程的Prompt
3 用户层的Prompt, 1,2类Prompt很好理解,我们现在也在使用, 用户层的Prompt是指和用户可以输出的Prompt,因为用户解决的问题不同,使用Prompt的方式不同,结果也就不同。比如A讲师和B讲师负责的培训业务不同,在生成一个文档时,他所使用的Prompt就是不同的,在未来的迭代中我们可以在系统中把讲师的Prompt管理起来,在不同的小节,讲师们可以直接调用或者可以通过AI力,调整其中的参数,这一层,我们构建了基于UMU 所有Tools的可以自定义Prompt的Agent系统,它不同于Dify,AgentGPT类Agent框架,他是基于UMU现有功能集合之上的Agent,并且用户可以自定义Prompt及其参数,这可以成就每个个体对Prompt的大模型的应用能力。