4 天前 / 计算机与AI
在本文中，我们将仔细研究一个名为 CatBoost 的梯度增强库。 在梯度提升中，预测是由一群弱学习者做出的。与为每个样本创建决策树的随机森林不同，在梯度增强中，树是一个接一个地创建的。模型中的先前树不会更改。前一棵树的结果用于改进下一棵树。在本文中，我们将仔细研究一个名为 CatBoost 的梯度增强库。 CatBoost是 Yandex 开发的深度方向梯度增强库。它使用遗忘的决策树来生成平衡树。相同的功能用于对树的每个级别进行左右拆分。 （CatBoost 官方链接：https://github.com/catboost） 与经典树相比，遗忘树在 CPU 上实现效率更高，并且易于安装。
6 天前 / Ryan众乐
首发于 NLPCAB 写文章谷歌 pQRNN：轻量级文本分类模型 rumor 微信公号：NLPCAB，一起在 AI 时代旋转跳跃叭 118 人赞同了该文章大家好，我是在算法前沿旋转跳跃的焦燥女青年 rumor。 文本分类是 NLP 最常见的应用之一，有了 BERT 之后更是可以通过小批量数据精调达到不错的效果。但在对速度要求高、没有钱买 GPU、移动设备部署的场景下，还是得用浅层网络。 今天就跟大家介绍 Google 最近新出的一个模型——pQRNN，只利用监督数据（无蒸馏），以约 1/300 的参数量达到了接近 BERT 的效果。
18 天前 / hyper0x
↑↑↑关注后"星标"Datawhale 每日干货&每月组队学习，不错过Datawhale 干货 作者：太子长琴，Datawhale 优秀学习者本文对机器学习模型评估指标进行了完整总结。机器学习的数据集一般被划分为训练集和测试集，训练集用于训练模型，测试集则用于评估模型。针对不同的机器学习问题（分类、排序、回归、序列预测等），评估指标决定了我们如何衡量模型的好坏。 一、Accuracy 准确率是最简单的评价指标，公式如下： 但是存在明显的缺陷： 当样本分布不均匀时，指标的结果由占比大的类别决定。
19 天前 / hyper0x
Datawhale 干货 来源：Scott Lundberg，来源：数据派 THU 本文长度为 4300 字，建议阅读 8 分钟本文为大家介绍用 XGBoost 解释机器学习。 这是一个故事，关于错误地解释机器学习模型的危险以及正确解释所带来的价值。如果你发现梯度提升或随机森林之类的集成树模型具有很稳定的准确率，但还是需要对其进行解释，那我希望你能从这篇文章有所收获。假定我们的任务是预测某人的银行财务状况。模型越准确，银行就越赚钱，但由于该预测要用于贷款申请，所以我们必须要提供预测背后的原因解释。
20 天前 / Ryan众乐
首发于算法修炼之路写文章梳理常见机器学习面试题大鱼推荐算法工程师 524 人赞同了该文章 逐渐更新完善中。.....本文主要分三部分： 1.手推公式部分 2.机器学习通用问题部分 3.常见机器学习、深度学习算法部分 一。常见手推公式部分 1.1 LR 手推、求导、梯度更新 1.2 SVM 原形式、对偶形式 1.3 FM 公式推导 1.4 GBDT 手推 1.5 XGB 推导 1.6 AUC 计算 1.7 神经网络的反向传播 pytorch 写简单 DNN 二。
31 天前 / u539609
本文整理自华为云容器批量计算资深工程师金喆 9 月 9 日在 Volcano 系列直播课的分享——机器学习场景下 Volcano 集成调度能力实践。 大家好，我叫金喆，目前在华为云容器技术架构部工作，主要从事 Volcano 相关的开发工作。今天主要给大家分享如何使用 Volcano 调度器运行一个 TF Job。 今天的分享主要包括 3 个部分的内容： Kubeflow 简介 Kubeflow on Volcano 演示（运行一个简单的机器学习作业） 01 Kubeflow 简介 Kubeflow 是 Kubernetes 的机器学习工具包，是运行在 K8s 之上的一套技术栈，包括很多个组件，这些组件可以单独使用...
33 天前 / 计算机与AI
您可以整天训练有监督的机器学习模型，但是除非您评估其性能，否则您永远无法知道模型是否有用。这个详细的讨论回顾了您必须考虑的各种性能指标，并对它们的含义和工作方式提供了直观的解释。 为什么需要评估？ 让我从一个非常简单的例子开始。 罗宾和山姆都开始为工科大学准备入学考试。他们俩共享一个房间，并在解决数字问题时付出了相同的努力。他们俩全年学习了几乎相同的时间，并参加了期末考试。令人惊讶的是，罗宾清除了，但萨姆没有清除。当被问到时，我们知道他们的准备策略有一个区别，即“测试系列”。
35 天前 / 博文视点Broadview
当前的 IT 界有两大“高速列车”， 一个是以 Kubernetes 为标杆技术的云计算，另一个是以 TensorFlow、PyTorch 等为代表的机器学习， 二者相辅相成、相互促进，共同引领 IT 技术飞速发展。 如何使机器学习更好地在基于 Kubernetes 的云平台上运行，成了近年 IT 行业的热点话题，也是各大 IT 公司试图解决的重要问题。在这样的背景下 Kubeflow 横空出世！ Kubeflow 的诞生为 Kubernetes 生态系统画上了绚丽的一笔，对机器学习工程师来说，可谓雪中送炭。
41 天前 / hyper0x
HMM 模型，韩梅梅的中文拼音的缩写，所以又叫韩梅梅模型，由于这个模型的作者是韩梅梅的粉丝，所以给这个模型取名为 HMM。开玩笑！ HMM 模型，也叫做隐马尔科夫模型，是一种经典的机器学习序列模型，实现简单，计算快速，广泛用于语音识别，中文分词等序列标注领域。 公众号后台回复关键字：源码，获取本文包含全部公式和插图的 md 源文件。 下面通过一个村民看病的故事理解什么是 HMM 模型。 想象一个乡村诊所，村民的身体状况要么健康要么发烧，他们只有问诊所的医生才能知道是否发烧。 医生通过询问村民的感觉去诊断他们是否发烧。
43 天前 / sjf0115
在线机器学习与离线相比，在模型更新的时效性，模型的迭代周期，业务实验效果等方面有更好的表现。所以将机器学习从离线迁移到在线已经成为提升业务指标的一个有效的手段。 在线机器学习中，样本是关键的一环。本文将给大家详细的介绍微博是如何用 Flink 来实现在线样本生成的。 为何选择 Flink 来做在线的样本生成？ 在线样本生成对样本的时效性和准确性都有极高的要求。同样对作业的稳定性及是否容灾也都有严格的指标要求。
54 天前 / 美团技术团队
总第 408 篇 2020 年 第 32 篇 ACM SIGKDD （国际数据挖掘与知识发现大会，简称 KDD）是数据挖掘领域的国际顶级会议。 美团到店广告平台搜索广告算法团队基于自身的业务场景，一直在不断进行前沿技术的深入优化与算法创新。团队的坚强、胡可、漆毅、曲檀、明健、博航、雷军与中科院大学唐兴元共同组建参赛队伍 Aister，参加了 Debiasing、AutoGraph、Multimodalities Recall 三道赛题，最终在 Debiasing 赛道中获得冠军（1/1895），在 AutoGraph 赛道中也获得了冠军（1/149），并在 Multimodalities Recall 赛道中获得了季军（3/1433）。
69 天前 / figo
这是 github 上的计算机基础、算法、机器学习、深度学习的面试算法指南的汇总，非常值得收藏。 1、leetcode 题解，记录自己的 leetcode 解题之路 github 上 35 万星 https://github.com/azl397985856/leetcode 2、收录常见面试算法题，包括剑指 offer和LeetCode https://github.com/YaxeZhang/Just-Code 3、作者将 LeetCode 上所有的题目都用动画的形式演示出来 github 上 57 万星 https://github.com/MisterBooo/LeetCodeAnimation 4、从零开始学算法...
80 天前 / sjf0115
分享嘉宾：于茜 微博高级算法工程师 编辑整理：王洪达 内容来源：Flink Forward 导读：微博作为国内比较主流的社交媒体平台，目前拥有 2.22 亿日活用户和 5.16 亿月活用户。如何为用户实时推荐优质内容，背后离不开微博的大规模机器学习平台。本文由微博机器学习研发中心高级算法工程师于茜老师分享，主要内容包含以下四部分： 关于微博 微博机器学习平台 ( WML ) 总览 Flink 在 WML 中的应用 使用 Flink 的下一步计划 01 关于微博 微博 2008 年上线，是目前国内比较主流的社交媒体平台，拥有 2.22 亿日活用户和 5.16 亿月活用户...
84 天前 / Thinkgamer
点击标题下「搜索与推荐 Wiki」可快速关注▼精彩推荐▼1、特征工程｜数据的分类、特征工程的定义、意义和应用 2、特征工程｜特征设计、特征可用性评估 3、关于推荐算法工程师大家比较关注的几个问题 4、传统机器学习和前沿深度学习推荐模型演化关系 5、独孤九剑：算法模型训练的一般流程 6、CTR 预估模型中的正负样本问题基础数据是特征的基石，因此在考虑特征构建的时候一定要注意基础数据的完备性，同时获取特征之后特征的命名一定要规范，特征的存储设计也一定要符合自己的业务需求。
88 天前 / 奶糖猫
↑"奶糖猫"一个值得星标的公众号 本文约 2500 字，阅读大概需要 8 分钟 二元分问题会是我们生活中比较常见的一类问题，比如邮件可以分为垃圾邮件和非垃圾邮件、一个人患病或者不患病，但除此之外也会遇到一些多元分类问题，比如天气可以分为晴、阴、雨、雪等等。 我们通过算法构建的分类器就以分为二元分类器和多元分类器，前者可以区分两个类别标签，后者则可以区分两个以上的类别标签。对于算法而言，像 SVM、逻辑回归等是严格的二元分类算法，而像朴素贝叶斯、随机森林这类算法则可以直接处理多元分类问题。