无贡献无创新无思路，ML领域准博士求助：论文到底要怎么创新？

博雯发自凹非寺
量子位报道|公众号QbitAI
机器学习领域水写论文日常：

文章图片
△图源推特：AIMemesforArtificiallyIntelligentTeens
明明想得很美：要提出一个更好的新架构、新损失函数、新优化器或激活函数……
而实际正在做的呢？
在一个数据集上应用现有的东西（如架构，优化器，损失功能），尝试不同的组合以找到该数据集上的最优解。

文章图片
这就是Reddit上的一位准博士现阶段的烦恼：

文章图片
他并不满意目前的工作，也不知道自己都做了哪些贡献。
所以帖子标题非常直接：
如何在机器学习领域写论文时保证创新性？
关注现实问题和细分领域
而对于这一问题，下方讨论的网友们基本分为了两类。
第一类认为，不要刻意去追求“创新” ，而是先尝试从解决现实问题出发：
一个新想法的出现，通常是为了试图解释一些以前没有解决的问题。
或是这一问题已有方法（但你找到了更好的解决方案）。

文章图片
【无贡献无创新无思路，ML领域准博士求助：论文到底要怎么创新？】现实中确实有很多这样的例子。
比如强化学习领域的很多论文都是集中在游戏上的。
造成这种现象的原因之一，就是大家在一开始都是用较低的成本让模拟器快速运行的。
但慢慢地，这种传统方法就让游戏暴露出了不少问题：
比如，只有在执行了一长串的正确行动（actions）后，你的（强化学习）模型才能得到奖励信号（rewardsignals）。
像这种实际应用中的困难，很容易就能引申到“要如何解决”或“怎么让现有方法变得更好”上。
那创新点不就来了？
而第二类网友则直接从问题根源入手：
别再在ML大领域里浪了，赶紧选个利基领域（nichearea）上吧。

文章图片
什么是利基领域？
这是指一个大领域下尚未被其他人所占领的某个专业的小领域，也叫细分领域。
这一类网友觉得，你要在机器学习领域内创新，那就意味着要跟成千上万的科研人竞争，这谈何容易？
所以还不如去一些“过气”的分支领域去试试。
比如30年前在AI领域中流行过的归纳逻辑程序设计（ILP）：

文章图片
当然，这种方法更适用于当你的目标是“获得博士学位就算成功”的时候。
毕竟这样做很可能导致你的引用数常年在个位数打转……
最后就是JustTryit的保留节目了：
就算最后失败了，你也会对相关问题有更深的理解，或产生新的思考。

文章图片
同时，这也能侧面印证你选择的课题是不是真的有价值：
毕竟对于牛逼的课题，即使失败也是成功的垫脚石。
但如果你完全无法从这次失败中收获新的东西的话——
那还是赶紧跑路另择idea吧。
永恒的难题：idea
其实今天开贴的这位题主所说的“保证论文创新性” ，说到底还是一个idea的问题。
而对于广大科研人来说，这是个永恒的话题。
比如说19年时，就有这种“发现自己的idea已经被人发表了该怎么办？”的讨论帖了：