本周工作思考
CO部署Shionogi失败问题的反思
按照UTJ伙伴的计划在周二下午14点部署新脚本,结果在部署时出现新问题。解决问题用了近20分钟,约定的时间晚了20分支。事后我想如果这个事是个重要的事件,如果是客户高层需要这这个时间点审查这个功能,那这个就是非常严重的事故。如果我提前一晚在数据库上走一遍再回滚回来就能发现这个问题,是没有时间,还是没有重视,还是意识到可能会出问题,表面上这些因素都有, 究其根本我认为是平时工作时“成事”的意识薄弱了,工作不仅仅是按部就班的完成,走完过程,而要确定得到最终的有效结果。
基于模型使用的架构思路思考
最近一段时间在跟进和学习各类模型在工程的设计模式和实践应用,初步的体会是没有一个大模型是完美的,但是各类模型的组合使用能够满足较高的商业级质量要求。Langchain的核心思想之一就是 Chain,就是连接和融合不同的模型。在实际工程中,典型的应用就是模型路由+业务规则模式,举个例子,如果学习平台的入口放在chatbot中,那整个架构就是路由模式:用户的输入Query通过语音统一转到Router层,该层是通用大模型,目标是理解意图,将语义意图翻译成指令意图,分发到其他专业层,每个专业都是专有小模型,如用户说,创建一门讲授企业中沟通协作的课程,首先语音进入路由层,通用大模型会理解意图,解析成多个意图点,创建相关,课程相关,由此转到课程创建的专有模型,而不是学习任务专有模型,也不是学习项目专有模型,此处会利用业务规则生成不同的小节,不同小节内容则有沟通协作相关的专有模型生成,生成的内容再由业务规则层处理,最后输出准确合理的课程结构及学习内容。当然这里的技术工程细节还有非常多的困难和挑战,但是此时我想我们和大多数企业站在差不多同样起跑线上,或参与、或观望,或摸索,或旁观,或追随,或领跑,都是来源与自我的认知,目前还看不出谁是赢家,我想赢家一定积极追随的那些,就像长跑一样,领跑要克服风阻要有足够的实力