也谈softmax(施工中)

Written by 韩光 in 数学天地 on 三 22 二月 2017. Tags: 数学,

引言

随着机器学习的异常火爆,学习它的人也如雨后春笋一般冒了出来,作为时刻保持在时代前沿的Ghost自然也没能免俗跟着一起跳进了大坑,今天不说别的,就着青梅煮酒,我胡扯一点关于机器学习中极为重要的一个函数:softmax

softmax是什么?

softmax是一个函数,它的定义域为$\mathbb{R}^d$,值域为$(0,1)$,d个输入是数据源的自变量,输入是多个自变量的值,输出是当前输入值应该归到哪一分类的概率。我们先来和它混个脸熟: $$ P(y=i|\vec …

Continue reading »


caculus of variations(施工中)

Written by 韩光 in 数学天地 on 四 12 一月 2017. Tags: 数学,

泛函是个啥?

泛函就是函数的函数,还记得我们当初学函数的时候,把函数比作一部机器,它的入料是一个变量,输出是一个函数值;而泛函这部“机器”,输入本身就是一部“机器”也就是函数,输出是泛函求值。用数学的语言讲,函数是一个映射: $$ x_0\mapsto f(x_0) $$ 其中x_0叫做自变量,而泛函则是一个如下映射: $$ f\mapsto f(x_0) $$ 其中 …

Continue reading »



有朋自远方来,不亦乐乎

Written by 韩光 in 释卷有怀 on 一 26 十二月 2016. Tags: 哲学, 科学方法论, 读书笔记, 杂感,

又是好久不见的一篇文章,之前居然有半年时间没有写新的东西,在感叹自己procrastination如此之强的同时,也暗暗下了决心想要重新捡起写文章这样一个好习惯,只不过不清楚本次还会被什么理由打断吧(笑)。

由于最近几天主观客观的原因,又颓废了整整一天半,今晚趁着状态好,赶紧拜读了周志华老师主编的《机器学习》(的序言部分),本来是带着扫盲的目的来对自己的只是查缺补漏,所以在读书的时候,把所有感兴趣的或者不明白的全都一点点捋清楚,比如又深化了SDM(Sparce Distributed Memory,稀疏分布式记忆)模型(这个在以后的文章里面应该也会说到)和BP算法 …

Continue reading »


4.8偶记

Written by 韩光 in 结绳刻石 on 三 08 四月 2015. Tags: 日记,

长长的,长长的寒假就此结束了,明天就迎来SS2015的第一天,说是一个课,但其实就是对学期开始做一下交代之类的,而且明天内容的重点好像还在交换生身上。不过正好也是一个调整正常生物钟的契机。

在整个所谓的寒假里面,帮邻居的萌妹子报名了DSH还帮她做了下考前心理辅导,接待了德累的相佐大神和本地的覃总一起去cebit吃了一……不对……参观展会,完成了报道保险延签等一系列乱七八糟的事情,经历了愚人节(虽然没人愚我好寂寞),还接了一个萌萌哒后辈,和几位萌萌哒学长谈天说地谝闲传……不过大部分时间还都是在这个城市继续发现,或者就仅仅是闷在家里学习:就成果来说,理论物理第一章所有习题完成,犯罪学、社会学各看了三章,开始学js、angularJS …

Continue reading »


“衡中现象”之我见

Written by 韩光 in 风吹飘絮 on 四 19 三月 2015. Tags: 杂文,

数日前,现任衡水中学校长张文茂作客崔永元主持的《新闻眼》栏目,并在其中为其所属中学的教育模式“衡中模式”进行辩护。所谓“衡中模式”实际上是以高强度,长时间,的反复学习,以期在考试中得到更好成绩一种“填鸭式”的教育方式。在本期栏目中,对于这种模式支持与批判者展开了激烈交锋,虽然由于激动的情绪或者不推崇辩论的社会风气的缘故,两方并没有将自己的观点完全表达清楚,但这场节目无疑把早就因为其超高升学率与集中营式的管理而声名鹊起(或者说臭名远扬)的“衡中模式”再一次推到舆论的风口浪尖。 对这次 …

Continue reading »