首页 农药资讯 医疗资讯 健康资讯 明星资讯 育儿资讯 女性话题 时尚资讯 航空资讯 财经理财 范文论文 大数据 音乐资讯 软件资讯 新能源 站长资讯 it资讯
您当前的位置 :大数据 >  正文
盘点机器学习过程中的弯路,带你避坑!
http://chenyaoqiang2.cn2020-09-12
一位转型AI的朋友,最近对我抱怨,“走过的最远的路,就是机器学习过程中的弯路”,然后开始各种blablabla,从论文的坑,到模型的坑,再到培训的坑...一路吐槽。

尤其是论文,他骂道:“最讨厌的就是那种,高高在上、假装清高、站着说话不腰疼、戳不到痛点的论文。比如那一堆只能在理论中刷存在感,实际落地中只能‘呵呵哒’的论文,根本就是浪费时间。”

的确,对于现在刚刚入行的机器学习新人来说,不怕吃苦,但最怕走弯路,最怕白白浪费时间。

那么,总结起来,都有怎样的弯路呢?来看几位点赞量颇高的知乎答主的总结:

那些年,他们在机器学习中走过的弯路...

在知乎答主张馨宇(就职于百度地图)看来,机器学习的弯路有以下四个:

最大的弯路就是自己xjb学xjb试,和加入一个真正能做出东西的团队或跟随真正的牛人一起学习相比,速度要慢十倍都不止。学是要学,但不要以为自己xjb学就够了,差得远呢。

第二大的弯路就是成天xjb看论文,以为这样就能打通任督二脉,从来不复现论文或者尝试自己做出一些东西,这都是〇。

第三大弯路浅尝辄止,有些东西不往死里怼屁都做不出来。

第四大弯路迷信复杂的东西和新技术,以为新东西怼上去肯定就效果爆棚。其实都是不存在的。

个人主页:https://www.zhihu.com/people/diegozhang/activities

还有一位知乎答主ycszen,在他看来,最大弯路,就是迷信论文,不去实验。

DL\ML其实是一门实践性的学科,只有通过实验才能把握到其中的细节与真谛。虽说也是在写程序,但是DL的程序基本上无法直观地debug,所以非得自己去复现一下,实践一下,用performance来说话,才知道有没有出错。

尤其是DL,研究发展到现在,论文和实际做的东西脱节已经是心照不宣的事了。正因为NN+GD的鲁棒性,你xjb搞好像也能搞上去,所以写论文很多纯粹在编故事(好论文除外)

所以,我们最好不要一味相信论文所说,尤其是各种解释(经典算法,优秀论文除外)。NN就是个黑盒,谁也别说谁。而我们能做的,更重要的是,去实践去复现,去去伪存真,去发现其中真正的本质所在。

专栏地址:https://www.zhihu.com/people/yu-chang-qian/columns

而知乎答主:YukiRain(CV/ML方向研究生在读)则认为,非科班出身,刚转型AI的程序员最大的弯路是:没学好数学。

而对于数学基础好,科班出生的AI程序员来说,则应注意以下几个问题:

1.一开始没人带的时候,看论文喜欢看最新的,很大程度上忽视了很多比较老比较基础的论文,嫌弃以前的方法performance不好什么的......感觉我身边一些人也走进过这个误区......

2.永远不要迷信某个特定的模型,不要因为random forest在某个任务上效果好,就以后遇到什么任务都上random forest;也不要觉得深度学习就是万能的,什么都可以套神经网络解决;不要看到比赛里面大家整天用xgboost就整人云亦云地复制。学各种算法的时候,书上一般会告诉你这个算法有balabala优点一堆,但是一般不会告诉你这个算法也有balabala一堆缺点,我花了蛮长时间在这个坑里,慢慢摸索各种不同模型的特性。

3. 不要迷信一些理论性很强的论文,我一开始的时候,经常看到一大堆公式就下意识会觉得这个模型可能效果不错。事实上很多论文的理论推导和它的代码毫无关联(参见已经彻底回归炼丹的WGAN GP),还有很多论文的推导需要很强的assumption支持(参见每年都会出现在顶会的一些给模型加riemannian geometry的论文),等等。

个人主页:https://www.zhihu.com/people/yukio-2/activities

那么面对这些弯路,又应该如何解决呢

机器学习新人应该注意的5个问题

知乎用户a88i99(微信公众号:yiqixue_ai)对此提供了非常接地气的论述。他曾是写后台的码农,此后又做了两三年数据挖掘工作,最近一年多正在学深度学习、强化学习。以下为他对于如何少走弯路这个话题的经验分享,也许能对你有帮助。(一起学AI专栏地址:https://zhuanlan.zhihu.com/yiqixue-ai)

首先,这个圈子里有价值的工作无非就三块:

发明牛逼的模型、算法、理论 底层系统搭建,如各种框架 学懂1中大神的部分发明,再会使用2中大神搭建的框架,来解决实际业务中的问题,产生商业价值。大部分人属于这里吧!!!

对于1与2,我读过理论物理博士,虽由于某种原因中途退学,也还是能说两句。那就是走正统的教育路线,能出国的出国,毕业后能去好公司的去好公司。但这里只强调一点:你跟的人是真正做事情的人,做的业务是真正有价值的业务,否则也是浪费青春。

我想大部分都是转行过来的吧,你看机器学习/深度学习的关注人数快100万了,科班出身能占10%,我觉得都高估了。下面只针对这群人来简单说下,莫怕,你们才是主流人群,就像三四线的用户是快手/头条的主流用户一样。

1. 不要求快,没有捷径。自己首先有个心理预期,数学好的入门也得一年半载的,数学需要补基础的估计要1-2年。可以去上培训班,交点钱,但也就跟机器学习混个脸熟。想入门还得花时间慢慢磨,真的没捷径,真的没捷径,真的没捷径!

2. 模型不求多,精通几个常见的,把机器学习的套路摸透就可以了。比如LR,朴素贝叶斯,决策树,基于SVD相关的简单模型,如推荐系统等。

把机器学习的套路摸透什么意思呢?比如LR为什么用logloss,而不是平方损失?为什么logloss 是凸函数,而平方的不是?优化算法啥时候用一阶mini-batch sgd,啥时候用二阶方法,为什么?这还只是说了损失函数与优化算法,还有模型结构,模型的效果评估指标,如何利用欠拟合/过拟合来分析指导优化模型等等。

因为简单的模型容易理解,有时数学上的证明也是可行的。这样,以它们为例子更容易理解机器学习这套东西,建立自己的直觉,自己的直觉,自己的直觉,几何的或物理的。

3. 选择规模中等的公开数据集,实战。一般有两个目的,首先是验证或纠正你前面学习的理解,其次是尝试解决实际问题。实际应用中的流程大概是:

根据业务选择合适的线下与线上评估指标。 线下的指标可以辅助快速迭代,因为线上测试流程较长。线下指标缺点是过于片面。所以,一般利用线下指标来迭代,找到觉得不错的特征与模型,再搬到线上去测。 快速构建基线模型与线上测试系统。 调试系统,迭代想法。

对工程师来讲,理解业务与线上系统真的很重要!因为你既没能力发明牛逼的算法模型,也没本事写框架,你若只会乱调包,那你的价值在哪里呢?所以,不深刻理解业务而是去瞎换模型算法,真得不合适,效果分分钟打脸。

4. 结伴而行,尽量不要放弃。只是觉得没有个讨论具体技术问题的社区,知乎说的东西太泛了,不系统。大家也不爱答具体的技术问题。

5. 这条专门送给码农转行过来的。

机器学习这套系统与传统技术系统有个非常大的差别。搭建个web/app系统难度不大,且做的好与坏,短期内不好区分与评价。垃圾系统在用户量不大的时候也能表现得不错。只有在用户量变得较大时,才会掉链子而遭打脸。 机器学习的系统不是这样,它是分分钟打脸。也就是我们常说的,这个系统不确定性较大,驾驭它的门槛略高。

掌握了以上几个要点,那么新人应该如何系统地学习机器学习呢


莒县水泥管 http://www.sdguili.com/

相关报道
盘点机器学习过程中的弯路,带你避坑!
云安全服务:Web应用防火墙和DDoS攻击预防服务
机器学习在热门微博推荐系统的应用
云计算联合实验室在北京建立
如果VC被公司套牢?后续将如何进行解套?
服务器租用中常见的磁盘类型
当大数据分析遇见云技术 如何双剑合璧?
航班管家接入华米OV“负一屏” 不止流量和服务那么简单
Niutrans.VIP——全球化进程中的利器
手机QQ能靠山寨微信逆袭吗
 
 
 热门新闻
· 当大数据分析遇见云技术 如何双剑合璧?
· 又入手一枚好米,单拼域名被戴跃收购!
· DevOps和云计算在数据中心的应用
· 科大讯飞iFLYOS推AI定制新模式 全域赋能成就“头号玩家”
· 企业上云第一步,优刻得以产品抓手加速产业互联网布局
· 腾讯自8月28日以来已回购2.209亿港元的股票
· 八大机器人“圈粉”无数
· App Annie:2019年全球移动游戏市场报告
· 视频会议云存储提高企业竞争力
· 巴菲特自述:25岁时,我做了一个价值500亿美元的决定
 推荐
· 云安全服务:Web应用防火墙和DDoS攻击预防服务
· 云计算联合实验室在北京建立
· 如果VC被公司套牢?后续将如何进行解套?
· 服务器租用中常见的磁盘类型
· Niutrans.VIP——全球化进程中的利器
· 当AI+教育出现,冷冰冰的机器真的能代替人类灵
· 买“拍卖”送“洋葱”:双拼域名paimai.vip大五位成交!
· 传统企业管理软件该如何面对云计算
· 劳氏公司旗下品牌ATG Stores更名升级!域名TheMine.com超中五位美元收购?
· 蓝凌智慧化学习培训解决方案
康明E网