• Claude团队喜提清华物理学霸姚顺宇!两个Yao Shunyu王人投身大模子

  • 发布日期:2024-11-19 07:07    点击次数:64

    Claude团队喜提清华物理学霸姚顺宇!两个Yao Shunyu王人投身大模子

    金磊 梦晨 发自 凹非寺

    量子位 | 公众号 QbitAI

    清华物理系传奇特奖得主Yao Shunyu,稳当投身大模子,加入Anthropic的Claude团队。

    有有趣的是,另一位Yao Shunyu,本年刚刚加入隔邻OpenAI。

    防护别搞混哦,前者是学物理的姚顺宇,后者是学计较机的姚顺雨。(手动狗头)

    此次加入Anthropic的姚顺宇,此前就可谓是名声大噪,本科期间就在凝合态物理界限作念出打破性孝敬。

    具体而言,他初度在国外上给出了对于非厄米系统的拓扑能带表面,并准确瞻望了关联风景。

    此外,他还界说了两个新的物理成见,这些责任王人发表在了全国物理顶级期刊Phys. Rev. Lett.上。

    其盘考的含金量之高,致使有位211大学副拔擢给出过这么的评价:

    咱们这边即使是拔擢,也莫得能跨越姚顺宇同学咫尺本科期间的物理水平的。

    在清华本科毕业之后,姚顺宇便去斯坦福攻读博士。

    从领英的经验来看,他在本年毕业之后有2个动态的变化,一个是到加州伯克利作念了几个月博士后,再之后就稳当加入了Anthropic。

    而在本年8月加入OpenAI的姚顺雨,雷同亦然来自清华,是姚班学霸+联席会主席(如故个Rapper)。

    和搞物理的姚顺宇一样,姚班的姚顺雨在科研上的设置亦然具备不小的影响力:

    念念维树(Tree of Thoughts):让LLM反复念念考,大幅进步推聪慧商。SWE-bench:一个大模子智商评估数据集。SWE-agent:一个开源AI法子员。

    绝不夸张的说,简直每项盘考王人在圈里产生了不小的震动;何况相配彰着的少许是,它们王人是深深围绕着大模子而张开。

    而现如今,两位同为清华缔造,同叫Yao Shunyu的东谈主,在AI大模子上相汇了。

    那么除了这两位Yao Shunyu,清华后生一代还有哪些东谈主才投身大模子?

    清华搞大模子的还有谁?

    说到这个话题,不得不提的还有马腾宇和陈丹琦。

    俩东谈主曩昔是同班同学,清华姚班2008级学友,何况之后王人拿了具有“诺奖风向标”之称的斯隆奖。

    马腾宇博士就读于普林斯顿大学,导师是表面计较机科学家、两届哥德尔奖得主Sanjeev Arora拔擢。

    博士毕业后,MIT、哈佛、斯坦福等顶尖高校王人给了他助理拔擢的Offer,马腾宇最终选拔了斯坦福。

    前年年底,马腾宇还稳当晓谕大模子创业了——创立Voyage AI,暴露将带队打造咫尺最佳的镶嵌模子,还会提供专注于某个界限或企业的定制化模子。

    斯坦福东谈主工智能履行室主任Christopher Manning、AI界限着名华东谈主学者李飞飞等三名拔擢担任Voyage AI的学术防守人。

    陈丹琦这边,清华姚班完本钱科学业后,2018年又在斯坦福大学拿下博士学位,主攻NLP,最终成为普林斯顿大学计较机科学系助理拔擢、普林斯顿话语与智能名目副主任,共同指令普林斯顿NLP小组。

    其个东谈主主页夸耀,“这些上帝要被建造大模子迷惑”,正在盘考主题包括:

    检索怎样鄙人一代模子中发达难题作用,进步果真性、合乎性、可施展性和果真度。大模子的低本钱锻真金不怕火和部署,改换锻真金不怕火行径、数据照料、模子压缩和卑劣任务合乎优化。还对信得过增进对刻下大模子功能和局限性融会的责任感有趣,无论在训导上如故表面上。

    除了这两位,业界、学术界姚班学友在搞大模子的还有许多。

    之前火爆全网的大模子原生诳骗《完蛋!我被大模子包围了》过甚续作《我把大模子玩坏了》,便是由姚班学霸带队建造的。

    游戏作家范浩强,旷视6号职工。曩昔以IOI金牌、保送清华姚班、高二实习等传奇干事被誉为天才少年。如今他已是旷视科技盘考总司理,谷歌学术h-index 32的行业大佬。

    马斯克xAI首个盘考效能——Tensor Programs VI,共归拢作中也有姚班学友的身影。

    Tensor Programs VI是xAI创举成员、丘成桐弟子杨格(Greg Yang)之前Tensor Programs系列责任的不绝,论文要点筹商了“怎样锻真金不怕火无穷深度网罗”。

    外传Tensor Programs关联效能,在GPT-4中已有诳骗。为解读论文,杨格本东谈主其时还特意在X上进行了一场直播共享。

    共归拢作Dingli Yu,本科毕业于清华姚班,咫尺Dingli Yu也将近在普林斯顿计较机科学系博士毕业了。

    还有许多许多…………

    那么回到此次搞物理的姚顺宇加入Anthropic,还有一个话题值得说谈说谈——Why change。

    Anthropic创举东谈主:物理学家学AI便是快

    学物理转行AI,其实依然是学术界的一个“传统艺能”。

    毕竟被誉为“东谈主工智能教母”的李飞飞,便是从物理转向盘考计较机视觉的一个显著例子。

    她在普林斯王人盘考物理的经由心仪志到,寰宇的根蒂问题不仅仅物理,还不错是对于人命与智能的。

    此次姚顺宇加入的Anthrophic AI,内部物理缔造的盘考员尤其不少。

    创举东谈主Dario Amodei我便捷是物理学家,本科斯坦福物理专科,博士普林斯顿生物物理专科,不错算是李飞飞的师弟。

    回荡点在博士毕业第三年,Dario Amodei加入百度,曾与吴恩达一谈责任,惩办语音识别和当然话语处理中的问题,其后就在AI这条路上一齐走到今天了。

    Anthrophic AI招东谈主也对物理布景的东谈主才确乎也有偏好,创举东谈主前年8月还在一档节目中施展过情理:

    ……部分原因是物理学家学东西相配快。若是咱们雇一个领有物理博士学位的东谈主,他们中的大部分不错快速学习机器学习并作念出孝敬。

    咱们的几位创举东谈主,Jared Kaplan、Sam McCandlish,包括我我方,王人是物理学家。咫尺团队里可能有30-40个物理学家。

    机器学习仍然不是一个相配有深度的界限(a field that has an enourmous amount of depth),是以他们粗略很快上手。

    隔邻OpenAI也不乏物理专科缔造的东谈主才,如Sora团队中就有北大物理系学友靖礼。

    Sora这类视频生成模子,也被界说为“物理全国的模拟器”。其背后的扩散模子,灵感更是从物理中的热力学鉴戒而来。

    ……

    不外要说本年“物理”和“东谈主工智能”两个词联系最良好的一次,莫过于刚刚颁发的诺贝尔物理奖了。

    在受奖行径中,诺奖组委会至极提到:

    物理学为机器学习的发展孝敬了器用,相应的,咫尺机器学习也惠及了物理盘考。

    举例,机器学习长久诳骗于希格斯粒子发现等诺奖界限,用于处理海量数据;它还可用于减少引力波测量中的噪声,或搜寻系生人星。

    比年来,这项技能还运行被用于计较和瞻望分子及材料的性质,如计较决定卵白质功能的分子结构,或盘算性能更佳、可用于高效太阳能电板的新式材料。

    只可说以后,科学发展到今天,学科之间的和会趋势会越来越彰着了。

    往好了想,独一有智商,学什么王人不迟误跟上期间的潮水。

    往坏了想,其他学科的东谈主才不错随时跨界来卷你。

    临了,附上英伟达科学家Jim Fan顾忌的“AI技能与关联物理旨趣对应表”。

    参考聚拢:

    [1]https://www.linkedin.com/in/shunyu-yao-204158285/[2]https://www.youtube.com/watch?v=Nlkk3glap_U

    — 完 —

    量子位 QbitAI · 头条号签约

    关怀咱们,第一时分获知前沿科xtt