汪诘杂谈:刚刚,华人科学家发明 KAN 网络算法,业界炸雷,或将洗牌AI

汪诘杂谈:刚刚,华人科学家发明 KAN 网络算法,业界炸雷,或将洗牌AI

00:00
19:48
以上内容来自专辑
用户评论
  • 花语诗径

    小知识:KAN网络算法是一种新型的神经网络架构,其设计来源于Kolmogorov-Arnold表示定理(KART),即每个多元连续函数都可以表示为单变量连续函数的两层嵌套叠加1。KAN网络的核心在于找到合适的单变量函数,包括外部函数和内部函数,并使用B-spline(B样条)来构建这些函数1。 在KAN网络中,节点执行简单的加法运算,并不包含非线性激活函数,而激活函数被放置在边缘上1。此外,为了增强KAN网络的实用性,还引入了一些关键优化,包括使用残差激活函数,该函数是一个基础函数和样条函数的和1。 KAN网络的训练过程包括正向学习和反向传递来更新参数,并监控损失函数的变化2。由于其特殊的架构

    花语诗径 回复 @花语诗径:

  • 史诗级吃瓜群众

    你和2049不得不说的故事

  • 漠北倚天

    科研狗很激动,仿佛看到了未来五年的论文,可惜还在解决爆显存的问题

  • 69064252

    关键是现在能否证明这个KAN网络对算力节约到底能够达到什么层级,一个还是几个数量级?

    AI小书童 回复 @69064252: 对于这个问题小书童也很好奇呀,技术水平到底提高了多少呢,期待后续的论文数据公开,让我们一起来见证吧~

  • 君子量大小人气大_0n

    主播,现在能谈谈中医吗?

    请修改昵称51266_gw 回复 @君子量大小人气大_0n: 你可以去b站谈

  • 兔可儿呀

    就记住了广告,对不住汪老师

  • 听友193210073

    灾难性遗忘也就相当于数据溢出

  • 夜深未眠

  • 法師_

    非常支持讲的很好

  • ykjungle

    所以现在清北对我们有什么用?

    1350216lhkm 回复 @ykjungle: 就我的专业来讲,清华的SSMB技术是世界领先,前两年刚上了Nature,后来发Nature的老师一直在验证,也是稳步进行中