ZBX Blog

热爱生活,健康工作

## Loss Function 损失函数 用于量化模型预测值与真实值之间差异的函数,其核心目标是通过最小化该差异来优化模型参数。 评估性能:衡量模型预测的准确性,值越小表示预测越接近真实值。 指导优化:通过梯度下降等算法调整模型参数,使损失最小化。 问题类型:回归选MSE/MAE,分类选交叉熵/Hinge损失。 通过合理选择损失函数,可显著提升模型性...

Transformer实践中的小例子

Transformer实践中的小例子

词嵌入矩阵V 假设我们正在进行一个机器翻译任务,输入的是英文句子,输出是翻译成法文的句子。为了简单起见,假设我们使用了一个非常小的模型。 batch_size:一次性处理的样本数量,假设是 2,表示我们有 2 个英文句子要翻译。 seq_len:每个句子的最大长度。假设每个句子有 4 个词。 d_model:每个词的表示维度。假设我...

Transformer原理

Transformer原理

Transformer结构 1. Input Embedding 对于输入文本序列,先通过Input Embedding 将每个单词转换为其相对应的向量表示。 在送入编码器端建模其上下文语义之前,在词嵌入中加入位置编码(Positional Encoding)。 Positional Encoding(位置编码) 来显式地为输入的词向量添加位置信息,使得模型能够利用这些信息来区分...

Apache Kylin调研

Apache Kylin调研

概念 介绍 model design 模型设计指的是建立数据表之间的关系,以便从多维数据中快速提取关键信息。模型设计的核心元素包括计算列、维度、度量值和连接关系。 Index design 索引设计指的是在模型中创建索引(CUBEs),以预计算查询结果,从而减少查询响应时间。精心设计的索引不仅可以提高查询性能,还有助于...

SkyWalking初探&浅析

SkyWalking初探&浅析

APM系统概述 什么是APM系统? 目前主流的产品借助Google的Dapper论文实现的,一下是Dapper的翻译版本: Dapper,大规模分布式系统的跟踪系统 日志Logs 指标 Metrics 链路追踪 Traces 主流的APM系统 日志 ELK Stack 指标 Prometheus 链路追踪 SkyWalking OpenTraci...

本体论&digitalbuilding使用

本体论&digitalbuilding使用

Digital Buildings Project 数字建筑项目是一个开放源代码、Apache许可证的项目,旨在创建一个统一的模式和工具集,用于表示建筑物及其安装设备的结构化信息。目前,数字建筑本体论和工具集的一个版本正在被谷歌用于管理其投资组合中的建筑物。数字建筑项目起源于以可扩展的方式管理大量且异构建筑物组合的需要。该项目旨在实现在建筑物...

LangChain

LangChain使用

Adapter Agent Agent提示词模板样例 请尽你所能回答一下问题,但要像xx那样说话。你可以使用一下工具: search: 当你需要回答当前事件问题时很有用。 请使用以下格式: 问题:你必须回答的输入问题 思考:你应该总是思考要做什么 行动:要采取的行动,应该是[search]之一 行动输入:行动的输入 观察:行动的结果......(这个思考/行动/行动输入/观察可以...

知识图谱

知识图谱

什么时候使用图数据库 高性能关系查询 需要快速遍历许多复杂关系的任何用例。这实际上包含欺诈检测,社交网络分析,网络和数据库基础设施等。 模型的灵活性 任何依赖于添加新数据而不会中断现有查询的用例,模型灵活性包括链接元数据,版本控制数据和不断添加新关系。 快速和复杂的分析规则 当必...

Redis

Redis的一些问题

Redis缓存一致性 双删机制的具体步骤 第一次删除缓存: 先删除缓存中的数据,以防止接下来的数据库更新操作读取到旧数据。 更新数据库: 进行数据库的更新操作,将数据更新到最新状态。 延迟一定时间后再次删除缓存: 第二次删除缓存是在数据库更新操作完成后进行的,并且通常会引入一个...

Java单元测试之道

Java单元测试之道

FIRST Properties of Good Tests following problems with your tests: • Tests that make little sense to someone following them • Tests that fail sporadically • “Tests” that don’t prove anything wo...