您现在的位置是:首页 > 人工智能人工智能

为了不曾忘却的纪念:孙剑专题

查看 cc博主 的更多文章cc博主2022-06-24【人工智能】330人已围观

为了不曾忘却的纪念:孙剑专题 第1张

“16年前,黄煦涛去香港过圣诞,无意间发现一同聚会的几位计算机视觉的领军人物均相差10岁,分别是:1936年出生的黄煦涛、1946年出生的马颂德、1956年出生的高文、1966年出生的沈向洋。大家便讨论下一次聚会,是否能再找到另一位再年轻10岁的计算机视觉领军人物,讨论迅速指向同一个人,那便是沈向洋的学生、1976年出生的孙剑。”

2020年夏天,陈长汶教授在全球人工智能与机器人大会(GAIR) “Thomas S. Huang纪念专场—中国计算机视觉的40年传承”环节,讲述了“40年传承”的由来。

作为40年传承故事的主人公,孙剑也连续三个夏天(2017-2019)来到雷峰网GAIR大会的讲台,带着上百页幻灯片,毫无保留地为千名后辈们传承布道。

然而就在一个星期前的6月14日,孙剑却因病离世,这怎不让人扼腕叹息。



1
生平与贡献

孙剑博士一生专注于科研工作,是人工智能计算机视觉及深度学习领域的知名学者。他的研究成果极大的推动了人工智能技术的发展和应用。孙剑博士的主要研究方向是计算机视觉和计算摄影学。自2002年以来在CVPR、ICCV、ECCV、SIGGRAPH、PAMI五个顶级学术会议和期刊上发表学术论文100余篇,Google Scholar引用数超过28万次,H-index 121,两次获得CVPR Best Paper Award(2009,2016)。

2016年7月,孙剑博士加入旷视,任首席科学家、旷视研究院院长。在孙剑博士的带领下,旷视研究院从十几人的小团队发展成为行业领先的计算机视觉研究院,研发了包括移动端高效卷积神经网络ShuffleNet、开源深度学习框架旷视天元MegEngine、 AI生产力平台Brain++等多项创新技术,引领前沿人工智能应用。孙剑博士一手创造了研究院开放、平等、自由的文化和工作氛围并奠定了研究院的使命:持续创新拓展认知边界;非凡科技成就产品价值。



2
代表作ResNet

根据Google Scholar统计,孙剑的论文引用数高达28万6千余次,引用量排名第一的,正是“深度残差网络(ResNet)”。ResNet是世界上第一个超过百层的深度神经网络,也是深度学习领域最重要的研究之一。

为了不曾忘却的纪念:孙剑专题 第2张

在GAIR 2017上,孙剑曾经介绍ResNet研究的背景:曾经人们不相信深度学习网络是可以被训练的,从2012年8层的AlexNet之后,一切就都变了。但受各种条件的限制,在这种范式下,网络在20层左右的表现最好;直至ResNet的出现,则是让神经网络的研究开始起飞,进入了一个新的阶段。

这一切缘由于神经网络研究一向的“The Deeper,The Better”(越深越好)的信念:网络层数的加深会让网络的表达能力和抽象能力也会提高;而另一方面,层数的加深也大幅提高了可供调整的参数的数量,调整的自由度也越大。换言之,神经网络的层数的增加可以在一定程度上弥补网络结构精巧性的不足,这也使得“调参侠”和“炼丹师”的队伍进一步扩大——正如李沐所说,假设你在使用卷积神经网络,有一半的可能性就是在使用ResNet 或它的变种。

但神经网络复杂性的增加的同时也随之带来一系列的问题,如梯度消失/梯度爆炸、过拟合问题、退化问题等。ResNet所解决的正是深度神经网络训练的“退化问题”,使得训练深度神经网络成为可能。

如果做个类比,在神经网络中加入隐藏层,解决了著名的“单层神经网络为啥拟合不了XOR函数”是神经网络从0到1的突破,AlexNet是从1到10的突破,ResNet则是从10到100或者1000,甚至更多的突破。

此外,孙剑的Faster RCNN、Spatial pyramid pooling、Single Image Haze Removal Using Dark Channel Prior、ShuffleNet等代表性研究也在计算机视觉的诸多领域做出了杰出的贡献。



3
为了不曾忘却的纪念

我们始终相信一句话:纪念,是为了不曾忘却。

在今天凌晨的CVPR 2022开幕式上,我们欣慰地看到大会增加了一个简短的纪念孙剑博士的环节。孙剑是CVPR社区的活跃者,并曾两次获得CVPR的最佳论文。或许个人的痕迹或许终会被时间抚平,但他的智慧将成为世界的一部分。

为了不曾忘却的纪念:孙剑专题 第3张

子曰:君子疾没世而名不称焉。传名于后世,是对于人生的激励;在历史浩瀚的长河中,唯有推动了历史进步、给世界留下了痕迹的那些东西,才会真正的存在下去。

今天,我们推出孙剑博士的纪念专题,追思孙剑博士的生平,缅怀孙剑博士的贡献,追思人生点滴,学习其学术思想,并将其发扬。

本期纪念专题分为四个部分:

  • 生平与贡献。在本文中我们已经做了简要的总结,若有不当之处,敬请原谅。

  • 研究解读。对于无数人工智能研究者来说,孙剑是他们成长路上的良师益友;我们选取了孙剑博士最具代表性的研究解读,也希望更多人如同孙剑的学生张祥雨在纪念孙剑时所说的,接过衣钵,砥砺前行。

  • 怀念文章。我们最初曾考虑向孙剑的亲朋好友们进行约稿,回忆与孙剑博士的点滴片段。但综合考虑后,我们还是决定改为将亲朋好友们已写好或发布的缅怀文章进行汇总;

  • 演讲整理。包含孙剑的研究理念、前沿研究成果及学术与产业化的思考等。

作为文字工作者,我们相信文字的力量。将孙剑博士的研究解读、怀念文章和演讲整理汇总于此,是我们能想到的对孙剑博士最好的纪念;也希望后来者以此对照自己,见贤,思齐;并沿着前人开拓的道路,既往,开来。



4
研究与解读

残差网络解决了什么,为什么有效?


5
怀念与追忆

R.I.P, Jian. We already miss you.

忆孙剑

Rest In Peace!ResNet In Use!| 学术人生

孙剑亲自撰文:我在 Face++ 的这半年


6
演讲整理

2016 孙剑:登上“人工智能之月”,我们爬树还是造火箭?

2017 孙剑:如何在大公司和创业公司做好计算机视觉研究

GAIR 2017|孙剑:计算视觉的革命与挑战 

CVPR 2018 旷视「盐城湖AI之夜」|孙剑致辞  

GAIR 2018|孙剑:如何打造云、端、芯上的视觉计算

2018 孙剑:物体检测中很难用函数逼近去解决的几大问题  

孙剑:“吾将上下而求索” | 二十一世纪计算

GAIR 2019|孙剑:深度学习视觉变革视觉计算

2019 新一代人工智能院士高峰论坛|孙剑:视觉计算的前沿进展

2020 孙剑 :视觉计算的前沿进展

雷峰网(公众号:雷峰网)

雷峰网版权文章,未经授权禁止转载。详情见转载须知。

Tags:ssr订阅地址

文章评论

猜你喜欢

  • “中原氢城”濮阳与优必选科技达成战略合作,发布全球首款氢动力人形机器人

    业界“中原氢城”濮阳与优必选科技达成战略合作,发布全球首款氢动力人形机器人

    2022年9月28日,氢生活、AI未来——全球首款氢动力人形机器人发布暨濮阳“两能”融合战略签约仪式在“中原氢城”濮阳举行。在全球首款氢动力人形机器人“一行”发布的同时,濮阳与优必选科技就人工智能与氢能“两能”融合达成战略合作,积极探索和实施以人工智能驱动新能...

    查看 cc博客 的更多文章2022-09-29282人已围观

    阅读更多
  • 关于财报中阿里云业绩的几项分析

    业界关于财报中阿里云业绩的几项分析

    4日晚,阿里巴巴发布2023财年第一财季的最新业绩,其中关于阿里云的业绩部分,包括以下几个重点:1、 阿里云营收继续增长,在抵销跨分部交易前营收达到239.38亿元,抵销后为176.85亿元,财报显示,这主要由金融、公共服务、电信行业增长所驱动。2、 本季...

    查看 cc博客 的更多文章2022-08-05319人已围观

    阅读更多
  • seo技术之301重定向怎么进行URL标准化设置?

    站长动态seo技术之301重定向怎么进行URL标准化设置?

    seo技术之301重定向怎么进行URL标准化设置?经常会碰到这样的情况,其他网站链接你的站点时,会用下面的链接:www.example.comexample.com/www.example.com/index.htmlexample.com/index.p...

    查看 cc博客 的更多文章2022-04-18419人已围观

    阅读更多
  • 如何治疗性功能障碍

    健康问答如何治疗性功能障碍

    如何治疗性功能障碍比较好呢,性功能的维持依赖于神经系统、内分泌系统、生殖系统,以及心血管系统等多个系统的协作,此外,还需要有良好的生理状态和精神状态,是一个复杂的生理过程,某一系统发生异常时,就会影响正常的性生活,表现出性功能障碍,下面我们就一起来看看该怎么治...

    查看 cc博客 的更多文章2022-03-09358人已围观

    阅读更多
  • 我们需要什么样的企业家

    业界我们需要什么样的企业家

    低垂的果实吃完了,现在怎么办?一、市场需要能赚钱的企业家先说结论:企业必须要能赚钱,不然市场只有灭亡一途。不看互联网公司的话,现在的很多著名企业家其实都发迹于,上个世纪90年代那场MBO热潮。MBO这个词太难懂,这里说通俗点,就是管理层收购,也就是公...

    查看 cc博客 的更多文章2022-02-07356人已围观

    阅读更多

   有免费节点资源,我们会通知你!  加入纸飞机订阅群  

×
天气预报查看日历分享网页电报扫码留言评论电报频道链接