41 天前 / openio
机器之心报道 参与：张倩、杜伟BERT 等大模型性能强大，但很难部署到算力、内存有限的设备中。为此，来自华中科技大学、华为诺亚方舟实验室的研究者提出了 TinyBERT，这是一种为基于 transformer 的模型专门设计的知识蒸馏方法，模型大小还不到 BERT 的 1/7，但速度是 BERT 的 9 倍还要多，而且性能没有出现明显下降。目前，该论文已经提交机器学习顶会 ICLR 2020。 论文：https://arxiv.org/abs/1909.10351 在自然语言处理（NLP）领域，BERT 等预训练语言模型极大地提升了诸多 NLP 任务的性能。但是，这类预训练语言模型通常计算开销大......
71 天前 / Thinkgamer
TransFM结合了FM和TransRec的思想，将其应用在序列推荐中，使用简单的模型对复杂的交互之间进行建模并能取得不错的效果。 ——文章概要 序列推荐模型TransRec，参考：点击阅读 该文的授权版本：TransFM【此文文末有留言送书活动】 概述论文是由Rajiv Pasricha和Julian McAuley两位大佬提出的发表在RecSys18 上的，是TransRec和FM的结合版本（论文下载地址：https://cseweb.ucsd.edu/~jmcauley/pdfs/recsys18a.pdf）。在下面会简单介绍TransRec和FM。 对于电商网站（如亚马逊），媒体网站（如Netflix，Youtube）等而言，推荐系统是其......
155 天前 / 玲珑南书
原创：加多（某大型互联网公司资深 Java 开发工程师） 编辑：小君君（才云） 来源：技术原始积累 计算、网络、存储、安全一直是 Kubernetes 绕不开的话题。今天，我们就详细了解一下，Kubernetes 网络模型的那些事。 *注：万字长文，建议收藏后阅读！ Kubernetes 对 Pod 之间如何进行组网通信提出了要求，Kubernetes 对集群网络有以下要求： 所有的 Pod 之间可以在不使用 NAT 网络地址转换的情况下相互通信； 所有的 Node 之间可以在不使用 NAT 网络地址转换的情况下相互通信； 每个 Pod 看到的自己的 IP 和其他 Pod 看到的一致。 Kuber......
157 天前 / mr7
导语：本系列文章一共有三篇，分别是 《科普篇 |推荐系统之矩阵分解模型》 《原理篇 |推荐系统之矩阵分解模型》 《实践篇 |推荐系统之矩阵分解模型》 第一篇用一个具体的例子介绍了MF是如何做推荐的。第二篇讲的是MF的数学原理，包括MF模型的目标函数和求解公式的推导等。第三篇回归现实，讲述MF算法在图文推荐中的应用实践。下文是第三篇——《实践篇 |推荐系统之矩阵分解模型》，敬请阅读。 本文是MF系列文章中的最后一篇，主要讲的是MF算法在图文推荐中的应用实践。无论是在召回层还是精排层，MF都有发挥作用。在召回层......
158 天前 / 马蜂窝技术
点击上方“马蜂窝技术”，关注订阅更多优质内容 在用户个性化时代，垂直化、精细化的运营，被看作企业重要的竞争力。完整、清晰的用户画像体系，可以帮助企业从海量的用户信息中发掘每个用户的行为特性、潜在能力及兴趣等信息，从而为用户提供具有针对性的服务。 马蜂窝拥有海量的用户出行体验数据，在成长和发展的过程中一直在探索如何通过基于海量 UGC 的数据挖掘出每个用户的基本特征、对旅游主题、目的地的偏好和潜在兴趣，从而精准地定位和标记用户，将优质的内容、商品和服务与用户进行连接。 今天这篇文章，主要围绕马蜂窝用......
160 天前 / mr7
导语：本系列文章一共有三篇，分别是 《科普篇 |推荐系统之矩阵分解模型》 《原理篇 |推荐系统之矩阵分解模型》 《实践篇 |推荐系统之矩阵分解模型》 第一篇用一个具体的例子介绍了MF是如何做推荐的。第二篇讲的是MF的数学原理，包括MF模型的目标函数和求解公式的推导等。第三篇回归现实，讲述MF算法在图文推荐中的应用实践（将于后续发布）。下文是第二篇——《原理篇 | 推荐系统之矩阵分解模型》，敬请阅读。 上一篇我们用一个简单的例子讲述了矩阵分解(Matrix Factorization, MF)是如何做推荐的，但没有深入到算法......
168 天前 / 云水木石
题图 由Gerd Altmann在Pixabay上发布 在前面一篇文章《从人工智能鉴黄模型，尝试TensorRT优化》我谈到了TensorFlow模型的优化，这是针对服务器端的优化，实际上优化结果并不理想。这篇文章我将谈谈将TensorFlow模型部署到Android系统上需要注意的几点。 TensorFlow针对移动和IoT设备推出了TensorFlow Lite，根据TensorFlow Lite的官方文档，TensorFlow Lite应用的开发步骤如下： 第一步，我们选择的是open_nsfw鉴黄模型的tensorflow版本，不用多说。 接下来第二步将TensorFlow模型转化为TensorFlow Lite模型，借助于TensorFlow提供的编程接......
185 天前 / sjf0115
最近，社区提交了一个新的Proposal: 《Change threading-model in StreamTask to a mailbox-based approach》(来自Ververica的Stefan Richter, Piotr Nowojski)，用于改进当前StreamTask这一核心类的线程模型。这个Proposal可谓是千呼万唤始出来，从去年就开始讨论，之前一直迟迟没有太大的动静，最近终于给出了概要设计。接下来，我们就来简单地介绍一下这个Proposal。 动机改进的动机肯定来自于先前实现的不足或缺陷。StreamTask现有的线程模型存在着一些缺陷，它可能导致多个潜在的线程去并发访问其内部状态，比如事件处理以及检查点的触发线程......
201 天前 / 浪淘沙
背景对于现在的微服务架构的应用来说，对大量并发的及时响应是一项制胜能力。据用户行为分析平台统计，随行付的某一款APP产品每日请求就达到上千万次用户请求、加解密服务3000万次/日等等。这些微服务每时每刻在处理如此高强度的请求，对数据层的应对能力要求极高。如果我们把对速度的需求放在复杂的分布式数据架构背景下，是很难想象如何让应用应对如此巨大的数据访问量的。但很幸运，我们有方法做到。即立方体模型。 立方体模型可扩展的分布式系统架构设计有一个朴素的理念，就是：通过加机器就可以解决容量和可用性的问题。 对于一个迅速增长......
206 天前 / 琥珀川
写文章事件驱动模型 Handler 与 Flutter future琥珀川成为不了巨人，那就站在巨人的脑瓜顶上呀3 人赞同了该文章业界相关资讯4月11日华为在P30的发布会上，华为消费者终端业务CEO余承东公布了方舟编译器，并宣布开源，称可提升app性能。表示开发者将开发好的APK用该编译器编译一下，即可大大提升App性能。从图中可以看出原理和Android系统的Ahead of Time与Just in Time类似。有网友猜想apk通过编译器会编译成机器码。让我们拭目以待吧。 事件驱动以操作系统为例，我们每次的鼠标点击，键盘按下都会发出一个事件，然后加入操作系统的消息队列中，处......
234 天前 / 兜里有辣条
首发于Java后端火箭班写文章线程池运行模型源码全解析兜里有辣条资深Java后端开发工程师4 人赞同了该文章在上一篇文章《从0到1玩转线程池》中，我们了解了线程池的使用方法，以及向线程池中提交任务的完整流程和ThreadPoolExecutor.execute方法的源代码。在这篇文章中，我们将会从头阅读线程池ThreadPoolExecutor类的源代码，深入剖析线程池从提交任务到执行任务的完整流程，从而建立起完整的线程池运行模型。 查看JDK源码的方式在IDE中，例如IDEA里，我们可以点击我们样例代码里的ThreadPoolExecutor类跳转到JDK中ThreadPoolExecutor类的源代码。......