随笔
-
再聊Prompt提示词
概述 Prompt 设计是大语言模型互动的关键,它可以显著影响模型的输出结果质量。一个合理设计的 Prompt 应当包含以下四个部分: 1.指令(Instruction):这是 P…
-
聊聊PaddleNLP库与层次多标签文本分类任务
概述 背景 目前在实际的业务中,需要对原始数据做数据标注,标注后的数据格式整理为JSON如下: [ { “tex…
-
软考高项:最新8大绩效领域要点解析
8大绩效域是项目管理的重要组成部分,涵盖了项目管理的核心目标和实际执行过程中的绩效评估。以下是8大绩效域的详细介绍: 干系人绩效域:涉及与干系人相关的活动和职能,目的是建立高效的工…
-
软考案例题:12个高频考点、考题和答案分享
🚀 想要在信息系统项目管理师考试中脱颖而出,夺得高分吗?这36个高频考点和12个精选案例考题及参考答案,绝对是你不可或缺的备考利器!🎯 这些题目以实际工作中可能遇到的问题为背景,涵…
-
聊聊实际业务下大模型另一种架构的实现思考
思考了下实际业务下的大模型落地实现的另一种架构,从微调、推理两阶段分析下。 微调阶段 微调阶段其实就是构建合适的Prompt数据格式,做模型的微调训练;使得模型具备领域知识,先验知…
-
聊聊vLLM并行推理框架的设计
背景 实现并行/批量 推理需要解决如下三个问题: 对Early-finished Requests的处理。不同请求所生成的文本长度不一致,可能差别很大,并且不易预测。如果没有一个将…
-
简单聊聊vLLM并行推理加速框架
大模型常见推理框架:vLLM、Tensorrt-LLM、DeepSpeed、Text Generation Inference(TGI)、原生LLM。 ❝ 对相关技术与理论的了解有…
-
软考进度管理:计算题关键路径法(CPM)和项目进度网络图的分析
在软考高项的进度管理部分,计算题主要涉及关键路径法(CPM)和项目进度网络图的分析。以下是一些可能会在考试中出现的计算方法: 关键路径法(Critical Path Method,…
-
软考进度管理7个子过程的定义、作用、ITO汇总
进度管理包含多个子过程,每个子过程都有其特定的目的和作用,以及相应的输入、工具和技术以及输出。以下是进度管理所有子过程的定义、作用和ITO的汇总: 规划进度管理 📜 输入:项目章程…
-
进度管理论文撰写指南:紧扣这6个进度管理子题目要点
进度管理作为信息系统项目管理师考试中的一个重要部分,通常会考察以下几个子题目: 项目进度管理的过程 这部分会要求考生描述项目进度管理的整个流程,包括定义活动、排列活动顺序、估算活动…
-
软考案例题:风险、成本、资源类题型解答和总结
软考高项必背:计算题公式合集 ❝ 此次分享高项必背知识:计算题公式,该公式是收集于互联网,仅供参考! 案例题一:项目成本与进度控制 子题目一:某项目原计划成本为100万元,预计在3…
-
软考案例计算题全攻略,助你轻松过关!
案例题及子题目 工期压缩:如何根据项目实际情况调整工期,以及在压缩工期时如何保证项目质量和资源的有效利用。 成本计算:如何通过CPI、CV等指标来评估项目的成本绩效,并在成本超出预…
-
聊聊个人声音定制的开源模型试用
概述 语音合成(Text-to-Speech, TTS) 是指将输入文字合成为对应语音信号的功能,输出音频文件,最终由相关设备朗读出来。 SamBERT是达摩院语音实验室设计的一种…
-
软考案例题研究:寻找规律总结
对于刚开始复习且缺乏项目经验的朋友来说,学习的过程实际上是大同小异的。通过模仿可以顺利入门。为了帮助大家培养找茬的直觉,特别准备了一系列实用的案例找茬技巧和句式: 若看到技术人员转…
-
聊聊ShareGPT格式的微调数据集
概述 ShareGPT格式的数据集中,一般是如下格式: [ { “conversations”: [ { “from”: “human”, “value”: “I saw a dr…
-
阿里云服务器Nginx配置SSL证书,实现HTTPS访问
Hello,大家好呀! 今天跟大家分享的是一篇实战教程,手把手一步一步教你怎么在阿里云服务器上申请免费的SSL证书,并将证书配置到阿里云服务器的Nginx上,实现HTTPS加密访问…