Deep-Bayes 2018 Summer Camp的习题 填不动了，就到这吧

记录Variational Inference、Expectation Maximization、Markov Chain Monte Carlo等用于概率机器学习中未知变量推断的算法的原理、推导。 很多内容和推导、图片来自悉尼科技大学徐亦达教授的在线课程及其讲义，徐老师讲非参贝叶斯的一系列视频非常好，可以直接在b站或者优酷搜索他的名字找到视频。 徐老师的课程讲义地址：roboticcam/machine-learning-notes，如果不额外说明，一些截图和代码均来自徐老师的讲义。 其他一些内容来自各种书或者tutorial，引用出处我会在文中说明。

把统计学习方法十大算法精简了一些手写了出来（虽然我觉得书本身已经很精简了） 现在只有算法本身的流程，以后如果有什么新的理解再补充 字太丑，自己都看不下去，发上来纯粹做个备份

Latent Dirichlet Allocation 文档主题生成模型学习笔记 本文主要归纳自《LDA数学八卦》，原文写的非常精彩（建议先阅读原文），有许多抛砖引玉之处，本文梳理了其一步一步推出LDA的脉络，删除了不相关的一些扩展，比较大白话的总结一下LDA。

本科毕业设计是做一个基于seq2seq的短句文摘模型，并设计了一种情感融合机制 现在对整个模型做一个简单的总结

• 分散注意力机制
• 外部信息注意力
• 指针复制网络PGNet
• 基于RNN的抽取式摘要
• Transformer
• 选择门机制

• attention开山作（机器翻译）
• Luong attention，全局与局部注意力、
• attention开山作（自动文摘）
• 生成式摘要技巧集合：LVT，开关网络，层次注意力
• 对话系统，端到端的层次RNN
• 微博摘要，补充micropoints
• disan，有向的transformer，注意力掩码
• 注意力抽取器
• 基于强化学习的生成式摘要
• w2v，负采样
  Read more »

记录入门NLP中seq2seq模型时学习到的一些深度学习基础知识。

论文翻译： - A Neural Attention Model for Abstractive Sentence Summarization

作者： - Alexander M. Rush(Facebook AI Research / Harvard SEAS) - Sumit Chopra(Facebook AI Research) - Jason Weston(Facebook AI Research)

• 大创项目的服务器端，大创以及客户端介绍见Melodia客户端
• 我们大创项目的服务器承担的功能比较少，只与android设备收发文件，用Python写了一个简单的服务器端

在Python中有字典这一数据结构，因此用Python实现字典树很方便

Python的一些特性和语法 总结一些自己跳过的坑 Python3.5

算法刷题目录，方便自己查找回忆复习 之后(2018.9.27)只更新leetcode上的题了，也懒得整理源码了，leetcode上都存了，只记录思路吧

介绍拉格朗日乘子法及其推广KKT条件，以及它们在PCA和SVM中的应用

• 以简单的Iris数据集做测试，实现了K-means++聚类算法，并与sklearn中自带的KNN算法进行比较
• 标题本来是K-Means&KNN，把&改成了和，因为标题中出现特殊符号&会导致我的sitemap生成错误...... ***

学校大创项目简单的app 实现功能，录制声音存为wav，利用json与服务器通信，上传wav到服务器，服务器转为midi文件，从服务器下载midi和乐谱并播放，同时电子琴改装后也可以与服务器通信，由手机给电子琴辅助参数，电子琴通过arduino从服务器上读取乐曲中间键值文件播放。

记录机器学习中关于一些概念和算法的笔记，来源于: - 选修课模式识别(大三北邮选修课，模式识别，教材是张学工编著的《模式识别》，清华大学出版社) - 西瓜书 - 《统计学习方法》 - 《深度学习》（感谢中文翻译：exacity/deeplearningbook-chinese）

更新： - 2017-02-12 更新概论 - 2017-03-01 更新k近邻 - 2017-03-08 更新SVM - 2018-01-04 更新《深度学习》一书中的机器学习基础知识和数学知识 - 2018-08-09 统计学习方法的内容已经贴在另一篇《统计学习方法手写版笔记》里了，估计不会更新了，之后可能更新《深度学习》里一些剩下的内容

简介

2016年11月的时候决定开始入坑机器学习 首先照着Kaggle上第一个题目《泰坦尼克号生还者分析》的官方示例敲了一遍。

以泰坦尼克号的数据为例介绍一下前期对数据的基础操作。

Cookbook网址：Numpy Cookbook Numpy的一些语法查询和总结 持续更新

第十七讲：行列式及其性质

行列式

• 矩阵A的行列式是与矩阵相关的一个数，记作\(detA或者|A|\)
• 行列式的性质
• \(detI=1\)
• 交换行，行列式的值的符号会相反
• 一个置换矩阵的行列式是1或-1，取决于交换行次数的奇偶
• 两行相等使得行列式为0(由性质二可以直接推出)
• 矩阵消元不改变其行列式(证明见下)
• 某一行为0，行列式为0(与0相乘等价于某一行为0，结果为0)
• \(detA=0\)当且仅当A是奇异矩阵
• \(det(A+B) \neq detA+detB \\ detAB=(detA)(detB)\)
• \(detA^{-1}detA=1\)
• \(detA^2=(detA)^2\)
• \(det2A=2^n detA\)
• \(detA^T=detA\)(证明见下)
  Read more »

第九讲：线性相关性、基、维数

线性相关性

• 背景知识:假设一个矩阵A，m<n，即未知数个数大于方程数，因此在零空间内除了零向量之外还有别的向量，最多m个主元，存在n-m个自由向量，整个方程存在非零解。
• 什么条件下，\(x_1,x_2,x_3...x_n\)线性无关?存在一个系数不全为零的组合，使得线性相加结果为0,则为线性相关，反之为线性无关。
• 如果向量组里存在一个零向量，则这个向量组不可能线性无关。
• 假如在二维空间内随意画三个向量，则他们一定线性相关，为什么？由背景知识可得。
• 对一个矩阵A，我们关心各列是否线性相关，如果零空间内存在非零向量，则各列相关。
• 换一种方式解释：当\(v_1,v_2...v_n\)是A的各列，如果他们是无关的，那么A的零空间是怎样的？只有零向量。如果他们是相关的呢？那么零空间内除了零向量还存在一个非零向量。
• 列向量无关时，所有的列向量都是主向量，秩为n。列向量相关时，秩小于n。

第一讲：方程组的几何解释

• 从3个角度看待方程组：行图形，列图像，矩阵

一直想建一个自己的博客，之前想用wordpress，但是苦于自己懒癌，不想折腾服务器 后来偶尔发现了GitHub Pages,上传js项目自动生成网站，全部由GitHub托管 而且本来官方说明也推荐用这个写博客，于是就开始试试 大体框架应该是GitHubPages由你在GitHub的github.io项目生成网站 Hexo由你的博客内容和自定义设置生成静态网页项目并上传到你的repository 为了备份，我们将在repository中建立两个branch 一个master用于让hexo上传静态网页文件 一个hexo用于保存本地hexo项目 下面分享一些经验和踩到的坑 - 2017.2.8更新md写作软件 - 2017.2.10更新mathjax cdn，加入长廊，更新域名,国内外访问分流(blog2.0) - 2017.2.13更新优化插件，更新置顶说明,优化长廊，加宽文章宽度(blog3.0) - 2017.3.30更新置顶说明原文地址 - 2017.12.27更新异地恢复 - 2018.7.6更新一个比较全面的参考网址

简介

写了一个查询学校空闲教室的APP 拉取学校教务处网站的信息，分类显示,还加了一些杂七杂八的 毕竟第一次写android，什么都想尝试一下 点这下载：BuptRoom repository地址:一个简单的北邮自习室查询系统 完成第一个版本大概是3个周末 之后花了1个月陆陆续续更新了杂七杂八的 很多东西写的不规范，也是临时查到了就用上 总结一下这次写App的经过: