大神回归学界:何恺明宣告退出 MIT

 人参与 | 时间:2024-10-31 01:36:33

何恺明的大神目的是 :探究面向重大天下的智能 。

「作为一位 FAIR 钻研迷信家,回归何恺我将于 2024 年退出麻省理工学院(MIT)电气工程与合计机迷信系 EECS 负责教职 。学界

AI 规模的明宣驰名学者 ,ResNet 缔造人何恺明 ,告退最近在总体网站上宣告即将回归学界了 。大神

恺明致使换上了全新的回归何恺头像。恺明致使换上了全新的学界头像。

在最近科技公司相助大模子 、明宣AIGC 新削减点的告退布景下 ,何恺明抉择投身钻研 ,大神做出了一个有引领性的回归何恺抉择。

对于这人们纷纭展现招待 ,学界「他的明宣学生该有福了」:

不知道未来是否会康年迈一代学会何恺明小道至简的钻研气焰。

也有人展现,告退愿望他在退出 MIT 之后仍可能以及 Meta 坚持详尽分割,由于纵然贵如 MIT 也不业界试验室那样丰硕的 GPU 算力资源。

感慨之外,人们纷纭开始预料何恺明未来的科研倾向 。从他总体网站上的叙述来看 :「经由合计机视觉下场的视角,我的目的是开拓适用于各个规模的通用措施。我当初的钻研重点是构建可能学习重大天下展现的合计机模子,并探究面向重大天下的智能 。我钻研的临时目的是经由更强盛的家养智能来增强人类智能。」

这可能象征着与事实天下互动的 AI,是机械人  ?

众人聚焦的转会

何恺明的去向在四个月前成为了 AI 规模巨匠关注的话题 。

往年 3 月,良多人发现 MIT 的网站上泛起了一条特意演讲预告 。

在 MIT 的 EECS ,此类「特殊钻研会」艰深为前来恳求地位的学者妨碍的「面试」 ,其内容次若是揭示求职者的钻研下场。没想到作为学术明星的何恺明的一场小行动成为了大型追星现场,行动当天团聚室爆满之后 MIT 不患上不临时加开投屏房间,服从短途旁不雅的房间依然爆满。

图片来自知乎图片来自知乎

可见人们对于这位大神的招供度 。

据退出行动的同砚泄露,在这场演讲历程中何恺明主要介绍了 ResNet 、Faster R-CNN 、Mask R-CNN 、MoCo、MAE 等以前他实现的钻研 。此外还对于未来妨碍了确定水平的展望,其中搜罗 AI 作为一个通用工具辅助各个迷信规模睁开钻研 ,以及自把守学习的更普遍运用 。

在 MIT 之行停止后  ,何恺明近期还曾经在纽约大学 、普林斯顿妨碍过演讲。

从高考状元到顶尖 AI 迷信家

何恺明是咱们耳熟能详的 AI 迷信家之一,在合计机视觉规模不人不知道他的台甫 。

2003 年 ,何恺明以尺度分 900 分取患上广东省高考总分第一  ,被清华大学物理系根基迷信班落选  。在清华物理系根基迷信班结业后,他进入香港中文大学多媒体试验室攻读博士学位,师从汤晓鸥。何恺明曾经于 2007 年进入微软亚洲钻研院视觉合计组实习,实习导师为孙剑博士 。

2011 年博士结业后,何恺明退出微软亚洲钻研院使命任钻研员。2016 年 ,何恺明退出 Facebook 家养智能试验室,任钻研迷信家至今。

何恺明的钻研曾经数次患上奖 。2009 年 ,汤晓鸥教授 、孙剑博士以及当时博士钻研生在读的何恺明配合实现的论文《基于暗原色的繁多图像去雾技术》拿到了国内合计机视觉顶会 CVPR 的最佳论文奖,也是该团聚停办二十五年来初次有亚洲学者取患上最高奖项 。

汤晓鸥与何恺明汤晓鸥与何恺明

2016 年 ,何恺明凭仗 ResNet 再获 CVPR 最佳论文奖 ,此外 ,他尚有一篇论文进入了 CVPR2021 最佳论文的候选。何恺明还由于 Mask R-CNN 取患上过 ICCV 2017 的最佳论文(Marr Prize),同时也退出了昔时最佳学生论文的钻研。

凭证 Google Scholar 的统计 ,何恺明一共宣告了 73 篇论文,H Index 数据为 67。妨碍 2023 年 7 月,何恺明的钻研援用次数逾越 46 万次 ,而且每一年以逾越 10 万次的速率削减 。

这是个甚么量级呢  ?简而言之,他退出 MIT 之后会赶快成为该校论文援用量最高的学者,不限学科,不之一。

那些年,恺明宣告过的「神作」

提及恺明大神的作品 ,最驰名的便是 ResNet 了。这篇论文宣告于七年前,迄今援用已经逾越十七万  。

《Deep Residual Learning for Image Recognition》在 2016 年拿下了合计机视觉顶级团聚 CVPR 的最佳论文奖。该论文的四位作者何恺明、张祥雨 、任少卿以及孙剑如今在家养智能规模里都是响铛铛的名字 ,当时他们都是微软亚洲钻研院的一员  。

同样是大神级此外学者李沐已经说过 ,假如你在运用卷积神经收集 ,有一半的可能性便是在运用 ResNet 或者它的变种 。

何恺明无关残差收集(ResNet)的论文处置了深度收集的梯度传递下场 。这篇论文是 2019 年 、2020 年以及 2021 年 Google Scholar Metrics 中所有钻研规模被援用次数至多的论文 ,并建树了今世深度学习模子的根基组成部份(好比在 Transformers 、AlphaGo Zero 、AlphaFold 中) ) 。

如今大模子都在运用的 transformer 的编码器息争码器 ,概况都有源自 ResNet 的残差链接。

「在 ResNet 之后就能实用地磨炼逾越百层的深度神经收集 ,把收集打患上颇为深,」在 2023 天下家养智能大会的演讲中,汤晓鸥对于何恺明的学术贡献不惜表彰:「何恺明把神经收集做深了,google把神经收集的进口拉大了,又深又大 ,才成为明天的大模子 。」

2021 年 11 月,何恺明以一作身份宣告论文《Masked Autoencoders Are Scalable Vision Learners》 ,提出了一种泛化功能精采的合计机视觉识别模子 ,同样是适才宣告就成为了合计机视觉圈的热门话题 。

一个初入 AI 规模的新人 ,在探究的历程中看到良多紧张钻研主要作者都是何恺明,每一每一会禁不住感应惊惶。何恺明尽管临时身处业界 ,但科研态度不断被视为标杆 —— 他每一年只产出大批一作文章,但确定会是份量级的 ,简直不破例。

咱们也每一每一歌颂于何恺明使命的气焰:纵然是具备独创性的论文,其内容每一每一也是扼要易读的,他会运用最直不雅的方式批注自己「重大」的想法,不运用 trick ,也不不用要的证实,有的只是详尽的直觉 。

如今回归学界 ,期待恺明能带来更多惊艳之作  。

参考内容:

https://www.csail.mit.edu/event/eecs-special-seminar-kaiming-he-pursuit-visual-intelligence

https://www.zhihu.com/question/588205714

顶: 24踩: 1