12 天前 / KeyLiu刘奇
编辑：我是小将 很多深度模型采用 BN 层（Batch Normalization）被很多深度模型来提升泛化能力。在模型推理时，BN 层要从训练状态切换到测试状态，此时采用模型训练中近似的均值和方差。BN 层最酷的地方是它可以用一个 1x1 卷积等效替换，更进一步地，我们可以将 BN 层合并到前面的卷积层中。 Batch Normalization 这里假定是网络的某一激活层特征，我们要对其进行归一化。若模型训练 batch 中共有个样例，其特征分别是 ，我们采用下列公式进行归一化： 这里和为这个 batch 上计算得到的均值和方差（在 B,H,W 维度上计算，每个 channel 单独计算）...
21 天前 / 张铁蕾
关于机器学习，有一个古老的笑话： Machine learning is like highschool sex. Everyone says they do it, nobody really does, and no one knows what it actually is. [1] 翻译过来意思大概是： 机器学习就像高中生的性爱。每个人都说他们做了，但其实没有人真的做了，也没有人真正知道它到底是什么。 总之，在某种程度上，机器学习确实有很多晦涩难懂的部分。虽然借助 TensorFlow、sklearn 等工具，机器学习模型以及神经网络通常能被快速地运行起来，但真正弄清背后发生了什么，仍然不是一件容易的事。
22 天前 / KeyLiu刘奇
作者：石文华 编辑：晟 沚 目录 一、前言 二、方法 1、问题表述： 2、语义类别（Semantic Category） 3、实例掩码（Instance Mask） 4、构建实例分割 三、网络结构 1、Vanilla SOLO( 对应的 mask 预测分支输出通道为 S^2) 2、Decoupled SOLO 四、SOLO 训练 1、 Label Assignment 2、损失函数 五、推理 六、实验结果 参考 前 言 与其他许多密集预测任务（语义分割）相比，任意数量的实例使得实例分割更具挑战性。
23 天前 / 奶糖猫
↑点击上方蓝字"奶糖猫",加个关注如何 何为回归 回归的目的是预测数值型的目标值，最直接的办法是依据输入写出一个目标值的计算公式，比如要计算一个男生可以找到女朋友的概率： 财产长相身高 这意味着要综合财产、长相、身高三个因素来判断概率，其中财产也是最重要的因素。 这个式子就可以被称作回归方程，其中 0.4 和 0.3 也被称作回归系数，一般来说回归系数都是未知的，我们通过输入数据求得回归系数的过程就是回归，得到回归系数之后，就可以通过公式得到最后的预测值。
31 天前 / 奶糖猫
↑点击上方蓝字"奶糖猫",加个关注如何 性能度量 本文参考《机器学习》和《机器学习实战》 在之前讲述的所有分类介绍中，我们都是假设所有类别的分类代价是一样的，由于主要探讨的是二分类问题，所以可看作 1 和 0 的分类代价相同。 而对于分类代价相同的问题，我们通常利用正确率或错误率来评价所构建分类器性能的好坏。比如手写数字识别系统，对于测试数据集，它的准确率可以达到 98%，就可以说这个模型比较不错。
35 天前 / 深度学习与先进智能决策
点击上方“深度学习与先进智能决策”进入以爱与青春为名，陪你一路成长 什么是模仿学习？模仿学习 (Imitation Learning)：Learns from expert demonstrations 。也就是基于这些专家经验数据进行学习。Given only the trajectories from expert，The reward function is not available。 难点就是没有 reward 如果人为构建 reward 的话，它很难精确的描述出来。比如像开车时的油门，当前状态给多少？对应的 reward 又是多少？ Imitation Learning vs.Supervise learningThe solution may have important structural properties including constraints (for ...
35 天前 / 街道-书记撸代码
文 / Google Research 软件工程师 Pablo Barrera 和 DeepMind 研究工程师 Florian Stimberg 在线通话帮助人们简化工作，与所爱的人保持联系，这种方式现已成为数百万人日常生活的一部分。为在互联网上完成通话传输，通话中的数据通常被拆分为许多叫做 数据包 (Packets) 的简短区块。这些数据包通过网络从发送方传输到接收方，并在接收方重新组合，以生成连续的视频和音频流。 然而，当数据包到达另一端时，经常会出现顺序错误或时间错误的问题，这种问题通常被称为 抖动 (Jitter)。有时，个别数据包甚至会完全丢失。
36 天前 / OPPO互联网技术
点击关注“OPPO 互联网技术”，阅读更多技术干货 有的人可以徒手推导机器学习算法公式，可以深入源码了解算法的实现，又或者在 Kaggle 比赛中获得不错的名次，但在实际的项目中却走得“步履蹒跚”，究其根本原因是机器学习知识体系还不完善。 例如 OPPO 的用户兴趣标签生产系统中，需要考虑的问题有：如何做好特征工程、如何获取高质量的正负样本、怎样处理不平衡数据集、确定怎样的评估方式、选择什么算法、如何调参、解释模型。
41 天前 / 奶糖猫
↑点击上方蓝字"奶糖猫",加个关注如何 线性支持向量机 上一篇文章对支持向量机的间隔、对偶和 KKT 条件做了详细推导，但前文的基础是原始问题为线性可分问题，所以对线性不可分训练数据是不适用的，这时需要引入一个新定义：软间隔。 假如训练数据中有一些特异点，也就是分类会出错的样本点，将这些特异点除去后，剩下的大部分样本点组成的集合是线性可分的，训练数据线性可分时所对应的间隔也被称为硬间隔。
42 天前 / openio
首发于人工瞎学写文章从谷歌到阿里，谈谈工业界推荐系统多目标预估的两种范式鱼罐头啊阿里淘系推荐算法持续招人，有意私聊 196 人赞同了该文章清明节的第一天，宅家里闲着也是闲着，开始更新知乎专栏~ 列了一些话题，第一篇是关于工业界的多目标预估。今年在组内的一个场景上线了多目标预估模型，算是有了一些经验，结项后在组内也做了一个分享，这篇文章是之前分享的一个文字版，增删了一些内容。
42 天前 / mr7
经过这几个月的居家隔离，想必大多数同学都开始习惯通过线上的方式开展学习了，在线教育领域也因此迎来了一波爆发，竞争异常激烈，既有知名平台如 MOOC、学堂在线、网易云课堂等，也有不少初创新星。但要说最受年轻人欢迎的学习资源网站，应该非 B 站莫属。该平台资源之丰富不用多说，并且全程无广告，很多网友都表示自己通过 B 站学会了很多技能，比如 Python、数据库、Photoshop、英语考级、日语考级等。总之，一个 B 站就足够解决绝大多数问题。
48 天前 / hyper0x
本文主要内容概览： 1. CatBoost 简介 CatBoost 是俄罗斯的搜索巨头 Yandex 在 2017 年开源的机器学习库，是 Boosting 族算法的一种。CatBoost 和 XGBoost、LightGBM 并称为 GBDT 的三大主流神器，都是在 GBDT 算法框架下的一种改进实现。XGBoost 被广泛的应用于工业界，LightGBM 有效的提升了 GBDT 的计算效率，而 Yandex 的 CatBoost 号称是比 XGBoost 和 LightGBM 在算法准确率等方面表现更为优秀的算法。
51 天前 / DTeam
本 PPT 是 2019 年 9 月 TFUG 西安上的分享，简单分享了一下 Julia 的知识。 对于 Julia 是否值得投入，我个人的看法是： Julia 的性能是一个亮点，这个在实际过程中必须考虑。 Julia 的活跃度还不错，而且资料越来越多，包的生态问题解决是一个时间问题。 Julia 有良好的互操作性可以对其自身所缺进行弥补 无缝调用 Fortran 或 C ，这对于某些公司或研究机构是一个旧资产盘活的好事 有类似 scikit-learn、pandas、tensorflow 等包装器，可以直接利用 Python 的生态。或许你想不到，它都有对于 ECharts 的包装器。
52 天前 / 奶糖猫
↑点击上方蓝字"奶糖猫",加个关注如何 前言概述上一篇文章对逻辑回归的原理和基本思想做了一些简要介绍，并通过引入 Sigmoid 函数和梯度公式成功推导出了梯度上升和梯度下降公式，上文分类实例是依据全批量提升上升法，而本文会介绍全批量梯度上升的一种优化算法——随机梯度上升，如果还未懂得逻辑回归和推理公式原理，还请观看上一篇文章：机器学习笔记 ( 七)——初识逻辑回归、两种方法推导梯度公式。随机梯度上升区别对比在讲解全批量梯度上升和随机梯度上升的区别之前，先看一下二者的公式之间的对比，有助于之后的理解。
52 天前 / kbsc13
点击上方“算法猿的成长“，关注公众号，选择加“星标“或“置顶” 总第 126 篇文章，本文大约 2500 字，阅读大约需要 10分钟 原文：https://medium.com/modern-nlp/10-great-ml-practices-for-python-developers-b089eefc18fc 作者：Pratik Bhavsar 导语有时候作为一名数据科学家，我们可能会忘记自己的主要职责。我们首先是开发者，接着是研究者，最后还可能是数学家。因此，我们最重要的责任就是快速开发出一个没有错误的解决方案。 只因为我们能创建模型，并不意味着我们就是神，这不会带给我们可以写出糟糕的代码的自由。