最新文章
DeepSeek的崛起,其实并不意外
颠覆理论预测了DeepSeek及其同类产品的出现和发展。事实上,未来几个月内其他颠覆者的出现并不会令人意外。特别是小型语言模型(SLM),它们使用的数据更少、资源更少,可能会在未来几个月内成为挑战美国和中国LLM的另一种技术。 中国人工智能初创公司DeepSeek近期引发了广泛关注。1月20日,该公...
DeepSeek创新点:多头潜在注意力
深度求索(DeepSeek)提出的 多头潜在注意力(Multi-Head Latent Attention, MLA) 是一种改进的注意力机制,旨在提升传统 Transformer 中多头注意力(MHA)的效率与表达能力。其核心思想是通过引入潜在空间和分组机制,在减少计算复杂度的同时,捕捉更丰富的语...
一文通透DeepSeek V2——通俗理解多头潜在注意力MLA:改进MHA,从而压缩KV缓存,提高推理速度
前言 成就本文有以下三个因素 24年5.17日,我在我司一课程「大模型与多模态论文100篇」里问道:大家希望我们还讲哪些论文 一学员朋友小栗说:幻方旗下公司深度求索于24年5.7日 发布的deepseek-v2 24年5.24日,我司一课程「大模型项目开发线上营1」里的一学员朋友问我:校长最近开始搞...
DeepSeek底层揭秘——多头潜在注意力MLA
目录 1. 多头潜在注意力(MLA) (1) 定义 “多头潜在注意力(Multi-Head Latent Attention, MLA)”是一种基于注意力机制的深度学习方法,旨在通过多个注意力头(Multi-Head Attention)对潜在空间(Latent Space)中的特征进行建模和捕获。...
防火墙知识普及详解,使用TOR Router把TOR作为默认网关,增加隐私/匿名性
防火墙知识普及详解,使用TOR Router把TOR作为默认网关,增加隐私/匿名性 最新推荐文章于 2024-11-28 00:38:45 发布 代码讲故事 最新推荐文章于 2024-11-28 00:38:45 发布 阅读量319 收藏 点赞数 2 分类专栏: Hacker技术提升基地 文章...
【隐私保护】Presidio简化了PII匿名化
自我介绍 匿名化的背景和如何构建匿名器 随着GDPR在欧洲实施后的各种法规,正确处理敏感信息,特别是个人身份信息(PII)成为许多公司的要求。在本文中,我们将讨论什么是PII,以及如何在非结构化数据(尤其是文本)中匿名化PII。我们还将演示使用Microsoft Presidio的文本匿名器的示例实...
传统数据隐私保护技术介绍
传统数据隐私保护技术 数据的隐私保护问题最早由统计学家Dalenius 在20世纪70年代末提出 。他认为保护数据库中的隐私信息,就是要使任何用户 (包括合法用户和潜在的攻击者)在访问数据库的过程中无法获取关于任意个体的确切信息。 一、K-匿名性(K-anonymity)[1] 是一种用于保护隐私的...
9.3 匿名性和隐私性
加密货币经常被宣传的优点之一就是匿名性(anonymity),实际情况是怎样的呢?我们以比特币为例子分析一下。 1.不具备真正的匿名性 用户是通过地址来使用比特币的,账本中的交易只记录了地址和比特币数量,从交易中无法直接得到用户的真实信息,这就是 人们常说的比特币匿名性。如果比特币仅仅是在虚拟数字世...
匿名和去识别化在数据隐私保护方面的重要性
匿名化是为了确保数据的隐私性,公司用它来保护敏感数据。这类数据包括: 私人数据 业务信息,如财务信息或商业秘密 机密信息,如军事机密或政府信息 匿名化为遵循个人数据相关隐私条例提供了范例,个人数据和业务数据的重合之处就是客户信息所在。但并非所有的业务数据都受监管,本文将重点讨论个人数据的保护...
李姝卉:数字时代隐私权保护的立法因应
数字时代隐私权保护的立法因应 李姝卉 (西北政法大学法治学院讲师) [摘 要] 数字技术在为人类生活带来便利、促进数字经济发展和数字服务能力及效率提升的同时,使自然人隐私权面临以保障安全和发展经济为名的潜在威胁、数字伦理缺失等多重消解风险。当下中国形成了以《数据安全法》保障数据安全、以《个人信息保护...
