3 天前 / 云水木石
然而，这并不是一篇广告。如果你也打算配一台深度学习主机，可以参考一下。 跑完了杭马，结束了杭州之旅，再无法为中断的深度学习找借口了，所以，我又回来了。研究深度学习，计算机硬件是一个门槛，虽然现在有免费的GPU云计算平台可使用，我之前也写过几篇薅资本主义羊毛的文章： 巧用Kaggle进行模型训练 谷歌GPU云计算平台，免费又好用 但是，作为免费的云计算平台，或多或少有这样或那样的限制，练练手可以，但对于严肃的软件开发，远远不够。如果付费购买云计算服务，费用也很高。在咬了几次牙之后，决定还是配置一台深度学习主机。关......
8 天前 / 叶锦鲤
小白深度学习入门系列 1. 直观理解深度学习基本概念 2. 白话详解ROC和AUC 3. 什么是交叉熵 4. 神经网络的构成、训练和算法 5. 深度学习的兴起：从NN到DNN 6. 异军突起的激活函数：ReLU 7.CNN，RNN，LSTM都是什么？ 8. 什么是Transformer 9. 什么是生成对抗网络（GAN） 什么胶囊网络 胶囊网络（CapNet） 胶囊网络（CapsNet）于2011年在Geoffrey Hinton的一篇名为《Transforming Autoencoders》的论文中首次出现。 2017年底，Geoffrey Hinton等人又发表了一篇名为《Dynamic Routing between Ca......
13 天前 / KeyLiu刘奇
贝叶斯分类器在早期的自然语言处理任务中有着较多实际的应用，例如大部分的垃圾邮件处理都是用的贝叶斯分类器。贝叶斯分类器的理论对于理解后续的NLP模型有很大的进益，感兴趣的小伙伴一定要好好看看，本文会详细的讲述贝叶斯分类器的原理。 本文会是我们NLP基础系列最后一篇机器学习模型的讲解，后面会进入深度学习相关的内容。 作者&编辑 | 小Dream哥 1 贝叶斯决策论 贝叶斯决策论是在统计概率框架下进行分类决策的基本方法。对于分类任务来说，在所有相关概率都已知的情况下，贝叶斯决策论考虑如何基于这些概率和误判损失来预......
16 天前 / 叶锦鲤
小白深度学习入门系列 1. 直观理解深度学习基本概念 2. 白话详解ROC和AUC 3. 什么是交叉熵 4. 神经网络的构成、训练和算法 5. 深度学习的兴起：从NN到DNN 6. 异军突起的激活函数：ReLU 7.CNN，RNN，LSTM都是什么？ 8. 什么是Transformer？ 生成模型(Generative Model)vs 判别模型(Discriminant Model) 在讨论生成对抗网络之前，我们需要先明确两个概念：生成模型和判别模型。 所谓生成网络，指构建生成模型的神经网络；同理判别网络则是构建判别模型的神经网络。 机器学习/深度学习模型所的一个主要任......
17 天前 / waterdrop
AI 科技评论按：2018 年度 EMNLP 大会上，微软小冰首席科学家武威和北京大学助理教授严睿就聊天机器人近年来的研究成果作了全面总结，并对未来聊天机器人的研究趋势进行了展望。 近日，在雷锋网(公众号：雷锋网)AI 研习社公开课上，微软小冰首席科学家武威就为大家带来了其在 EMNLP 大会上分享的精华部分。公开课回放视频网址： http://www.mooc.ai/open/course/606？=wuwei 分享嘉宾： 武威，微软小冰首席科学家，主要研究方向为自然人机对话、自然语言处理、机器学习以及信息检索；为微软小冰第二代到第六代对话引擎贡献了核心算法，并带领......
18 天前 / openio
今天，是1024程序员节。在这个“攻城狮”自带光芒的日子里，阿里妹请来AI大神贾扬清，作为一位开发者，聊一聊他自己的开发者经历，希望对你有所启发。 贾扬清阿里巴巴集团副总裁、高级研究员阿里巴巴计算平台事业部总裁 深度学习框架Caffe 作者，TensorFlow 作者之一，曾任 Facebook AI 架构部门总监，负责前沿 AI 平台的开发，Facebook 各产品部门 AI 平台的支持以及前沿机器学习系统研究。加州大学伯克利分校计算机科学博士学位、清华大学硕士学位和学士学位。01 人生经历 当我觉得正在做的事情有意思， 我就觉得投时间在里头是......
20 天前 / 刘奇1993
微信公众号：Jerry的算法和NLP 作者：陈志远 之前面试过程中被问到过两个问题： （1）深度学习中batch size的大小对训练过程的影响是什么样的？ （2）有些时候不可避免地要用超大batch，比如人脸识别，可能每个batch要有几万甚至几十万张人脸图像，训练过程中超大batch有什么优缺点，如何尽可能地避免超大batch带来的负面影响？ 面试版回答在不考虑Batch Normalization的情况下（这种情况我们之后会在bn的文章里专门探讨），先给个自己当时回答的答案吧（相对来说学究一点）： (1) 不考虑bn的情况下，batch size的大小决定了深度学习训......
24 天前 / hyper0x
作者 | Derrick Mwiti 编译 | 栗峰 排版 | 唐里 来源 | AI科技评论 本文讲述Transformers的最新研究进展，由数据科学家 Derrick Mwiti写作。原文标题：Research Guide for Transformers。AI科技评论编译如下： Transformers是神经机器翻译中使用的一种神经网络，它主要涉及将输入序列转换为输出序列的任务。这些任务包括语音识别和文本转换语音，接下来举几个详细的例子说明。 这类任务需要「记忆」，下一个句子必须与前一个句的上下文相关联（这是相当关键的），以免丢失重要的信息。 直到最近，还主要在使用递归神经网络(RNNs......
24 天前 / 叶锦鲤
小白深度学习入门系列 1. 直观理解深度学习基本概念 2. 白话详解ROC和AUC 3. 什么是交叉熵 4. 神经网络的构成、训练和算法 5. 深度学习的兴起：从NN到DNN 6. 异军突起的激活函数：ReLU CNN，RNN，LSTM都是什么？ 卷积神经网络（Convolutional Neural Network, CNN） CNN 是一种前馈神经网络，通常由一个或多个卷积层（Convolutional Layer）和全连接层（Fully Connected Layer，对应经典的 NN）组成，此外也会包括池化层（Pooling Layer）。 CNN 的结构使得它易于利用输入数据的二维结构。 注意：前馈神经网络（F......
25 天前 / hyper0x
导读：今天分享一下 facebook 新发的深度学习推荐系统的论文： Deep Learning Recommendation Model for Personalization and Recommendation Systems https://arxiv.org/pdf/1906.00091.pdf 这篇文章概述了当前推荐系统实现的主要思路，提出了一种通用的模型结构 DLRM，与其他常见的 paper 不同，该篇有着浓浓的工业界风格，不仅和其他模型进行效果对比，还讲述了常见的特征如何处理，内在思维逻辑如何，在大规模的现实场景中会面临哪些问题。像大规模稀疏特征如何解决，比如用数据并行与模型并行相结合。以及 CPU 和 GPU 在实践中的性能如何，......
27 天前 / gongyouliu
点击上方“大数据与人工智能”，“星标或置顶公众号”第一时间获取好内容作者丨gongyouliu编辑丨zandy这是作者的第20篇文章，约2.4万字，阅读需180分钟2016年DeepMind开发的AlphaGo在围棋对决中战胜了韩国九段选手李世石，一时成为轰动全球的重大新闻，被全球多家媒体大肆报道。AlphaGo之所以取得这么大的成功，这其中最重要的技术之一是深度学习技术。经过这几年的发展，深度学习技术已经在图像分类、语音识别、自然语言处理等领域取得突破性进展，甚至在某些方面(如图像分类等)超越了人类专家的水平。深度学习技术驱动了第三次人工智能浪潮的到来......
33 天前 / NebulaGraph
写文章Nebula Graph 技术总监陈恒：图数据库怎么和深度学习框架进行结合？NebulaGraph已认证的官方帐号3 人赞同了该文章Nebula Graph 技术总监陈恒：图数据库怎么和深度学习框架进行结合？Nebula Graph 的技术总监在 09.24 - 09.30 期间同开源中国·高手问答的小伙伴们以「图数据库的设计和实践」为切入点展开讨论，包括：「图数据库的存储设计」、「图数据库的计算设计」、「图数据库的架构设计」等方面内容，本文整理于他和开源中国小伙伴对图数据库的讨论内容~ 嘉宾·陈恒介绍陈恒，开源的分布式图数据库 Nebula Graph 技术总监，图数据库领域......
33 天前 / 叶锦鲤
小白深度学习入门系列 1. 直观理解深度学习基本概念 2. 白话详解ROC和AUC 3. 什么是交叉熵 4. 神经网络的构成、训练和算法 深度学习的兴起：从NN到DNN神经网络的历史沿革 缘起1943年，神经生理学家和神经元解剖学家 Warren McCulloch 和数学家 Walter Pitts 提出了神经元的数学描述和结构，并且证明了只要有足够的简单神经元，在它们互相连接并同步运行的情况下，可以模拟任何计算函数。 这样开创性的工作被认为是 NN 的起点。 几度兴衰1958年，计算机学家 Frank Rosenblatt 提出了一种具有三级结构的 NN，称为“感知机”（Pe......
33 天前 / 美团技术团队
总第361篇 2019年 第39篇 在本文中，我们介绍了交付时间预估迭代的三个版本，分别为基于地址结构的树模型、向量召回方案以及轻量级的End-to-End的深度学习网络。同时介绍了如何在性能和指标之间取舍，以及模型策略迭代的中间历程，希望能给从事相关工作的同学们有所启发和帮助。1. 背景 可能很多同学都不知道，从打开美团App点一份外卖开始，然后在半小时内就可以从骑手小哥手中拿到温热的饭菜，这中间涉及的环节有多么复杂。而美团配送技术团队的核心任务，就是将每天来自祖国各地的数千万份订单，迅速调度几十万骑手小哥按照最优......
36 天前 / 读芯术
全文共2702字，预计学习时长5分钟 人类的表达是复杂多面的。例如，说话者不仅通过语言进行交流，还会用到韵律、语调、面部表情和肢体语言。这就是我们更喜欢举行现场的商务会议而不是电话会议，以及在选择电话会议或发短信时会优先考虑电话会议的原因。人们离得越近，通信带宽就越大。 语音识别软件近年来得到快速发展。这项技术现在可以很好地识别语音，并将它们拼接在一起来重现口语单词和句子。但是，简单地将语音翻译成文本，并不能完全概括说话者的信息。除面部表情和肢体语言外，与音频相比，文本捕捉情感意图的能......