维基百科 | 动漫花园

.:. 草榴社区 » 技术讨论区 » 如何简单理解人工智能的蒸馏技术
本页主题: 如何简单理解人工智能的蒸馏技术字体大小 宽屏显示 只看楼主 最新点评 热门评论 时间顺序
梁家河学霸


级别:骑士 ( 10 )
发帖:850
威望:365 点
金钱:717 USD
贡献:5549 点
註册:2024-04-16

是不是龙芯咱先别论,你这个蒸馏技术的理解实在是太扯了
TOP Posted: 02-05 13:05 引用 | 点评
追逐幸福


级别:侠客 ( 9 )
发帖:1390
威望:140 点
金钱:2231 USD
贡献:0 点
註册:2022-01-30

就这也好意思发出来,技术肯定是一点不懂,然后人云亦云,还觉得自己说的特别对。然后,你说龙芯,你是认真的吗?
TOP Posted: 02-05 13:18 引用 | 点评
颜回


级别:侠客 ( 9 )
发帖:863
威望:132 点
金钱:6930 USD
贡献:0 点
註册:2025-02-01

感谢分享
TOP Posted: 02-05 15:34 引用 | 点评
胜英


级别:侠客 ( 9 )
发帖:770
威望:198 点
金钱:14396 USD
贡献:2300 点
註册:2025-01-01

感谢分享
TOP Posted: 02-05 15:34 引用 | 点评
四星彩


级别:骑士 ( 10 )
发帖:2390
威望:301 点
金钱:1868 USD
贡献:9517 点
註册:2021-06-14

引用
引用第1楼黑娃娃于2025-02-05 12:53发表的 :
龙芯还可以呀。

他说的应该是 “汉芯” 事件,相关介绍如下1:
事件主角
陈进:1968 年出生,福建人,本科毕业于同济大学,后在美国德州大学奥斯汀分校读计算机工程专业博士。2001 年从摩托罗拉辞职回国,加入上海交通大学,负责 “汉芯” 项目。
事件经过
“汉芯一号” 发布:2003 年 2 月 26 日,陈进团队的 “汉芯 1 号” 正式发布。发布会上,鉴定专家组一致认可 “汉芯 1 号” 及其相关设计和应用开发平台属于国内首创,达到国际先进水平。陈进也因此成为上海交大特聘长江学者、微电子学院院长,还担任了上海交大汉芯科技有限公司总裁等诸多职务。
举报与真相揭露:2006 年 1 月 17 日,一位自称是陈进 “汉芯一号” 研制小组的成员在清华大学 BBS 上发布了帖子《汉芯黑幕》,指责陈进在汉芯研制过程中弄虚作假。原来,陈进先是托摩托罗拉的前同事私自下载了 motodsp56800e 的源代码并制造出 edsp21600,但该芯片有重大功能缺陷,无法进行系统应用和展示。于是,陈进通过在美国的弟弟购买了 10 枚摩托罗拉 dsp56800 系列芯片,找农民工用砂纸把芯片表面的 moto 字样打磨掉,再印上 “汉芯一号” 的字样和汉芯 logo,用于新闻发布会展示和 “汉芯 mp3 播放器” 演示。
事件影响
对科研资源的浪费:陈进依靠 “汉芯一号” 成功申报了国家各部门的 40 多个项目,申请了 12 项国家专利,账目有据可查的骗取金额总计超过一亿元,还有说法称上海交大及各相关方在汉芯项目上损失高达 11 亿。
对中国芯片产业的打击:“汉芯” 事件严重挫伤了中国发展自研芯片的积极性,使真正从事芯片开发的国产排头兵一度得不到充分的研发资金支持,还让民众对中国自主研发芯片的能力产生了信任危机。
对学术环境的破坏:该事件破坏了学术诚信和科研环境,引发了人们对科研项目评审机制、学术道德等方面的深刻反思。
处理结果
陈进被撤销了在上海交通大学的所有职务,科研经费被收回,但没有受到刑事处罚。


点评

    TOP Posted: 02-05 13:05 引用 | 点评
    这是个问题啊


    级别:风云使者 ( 13 )
    发帖:52365
    威望:5292 点
    金钱:0 USD
    贡献:73859 点
    註册:2021-01-01

    发帖辛苦
    TOP Posted: 02-05 16:28 引用 | 点评
    沉睡的木玛


    级别:风云使者 ( 13 )
    发帖:52365
    威望:5292 点
    金钱:0 USD
    贡献:73859 点
    註册:2018-11-16

    支持发帖
    TOP Posted: 02-05 16:28 引用 | 点评
    tanchen111


    级别:侠客 ( 9 )
    发帖:169
    威望:117 点
    金钱:442 USD
    贡献:0 点
    註册:2012-01-11

    蠢货,都开源了
    TOP Posted: 02-05 13:31 引用 | 点评
    柠檬汁阴


    级别:侠客 ( 9 )
    发帖:393
    威望:127 点
    金钱:1032 USD
    贡献:150 点
    註册:2024-12-31

    知识蒸馏是一种模型压缩和加速推理的重要方法,通过让小模型(学生)学习大模型(教师)的知识,在保持性能的同时,降低计算资源需求。它已广泛应用于NLP、计算机视觉、自动驾驶等领域,并在大模型优化方面发挥重要作用。关键点在于数据来源是否合规,是否获得了大模型的授权。后期发展,还是要独立研发。
    TOP Posted: 02-05 15:57 引用 | 点评
    shineyg


    级别:精灵王 ( 12 )
    发帖:10235
    威望:1209 点
    金钱:30750 USD
    贡献:668 点
    註册:2021-06-08

    感谢分享
    TOP Posted: 02-05 13:38 引用 | 点评
    风寒爱存不存


    级别:精灵王 ( 12 )
    发帖:10934
    威望:1094 点
    金钱:33458 USD
    贡献:307 点
    註册:2022-10-30

    感谢分享
    TOP Posted: 02-05 15:10 引用 | 点评
    鸭打鹅


    级别:精灵王 ( 12 )
    发帖:43285
    威望:4302 点
    金钱:0 USD
    贡献:21186 点
    註册:2022-02-02

    谢谢分享
    TOP Posted: 02-05 16:28 引用 | 点评
    antian27k


    级别:新手上路 ( 8 )
    发帖:168
    威望:17 点
    金钱:1559 USD
    贡献:0 点
    註册:2022-04-23

    技术需要迭代,现在蒸馏,以后就独立总结归纳呢?更何况世界各国、机构都承认他们有蒸馏GPT,怎么就DS就形成轰动,仅仅是因为它是中国大陆的产品?必有优势之处,让其它AI模型都没有的。还有国外博主让GPT和DS下棋的视频,怎么看DS更趋向人类思考。
    TOP Posted: 02-06 11:00 引用 | 点评
    黑娃娃


    级别:侠客 ( 9 )
    发帖:1144
    威望:139 点
    金钱:1844 USD
    贡献:0 点
    註册:2025-01-08

    龙芯还可以呀。
    TOP Posted: 02-05 12:53 引用 | 点评
    八股文人二


    级别:侠客 ( 9 )
    发帖:905
    威望:115 点
    金钱:2420 USD
    贡献:0 点
    註册:2024-10-28

    感谢分享
    TOP Posted: 02-05 13:13 引用 | 点评
    醉纱心


    级别:精灵王 ( 12 )
    发帖:11927
    威望:2043 点
    金钱:898123 USD
    贡献:4000 点
    註册:2020-02-08

    感谢分享
    TOP Posted: 02-05 13:15 引用 | 点评
    dubaiyu


    级别:圣骑士 ( 11 )
    发帖:6307
    威望:622 点
    金钱:821050 USD
    贡献:1100 点
    註册:2016-07-28

    1024
    TOP Posted: 02-05 13:21 引用 | 点评
    跟我读啊


    级别:骑士 ( 10 )
    发帖:2970
    威望:328 点
    金钱:2250 USD
    贡献:600 点
    註册:2018-11-22

    感谢分享
    TOP Posted: 02-05 13:34 引用 | 点评
    遇见就不错过


    级别:精灵王 ( 12 )
    发帖:28988
    威望:2886 点
    金钱:196905278 USD
    贡献:0 点
    註册:2015-04-01

      感谢分享
    TOP Posted: 02-05 14:08 引用 | 点评
    四星彩


    级别:骑士 ( 10 )
    发帖:2390
    威望:301 点
    金钱:1868 USD
    贡献:9517 点
    註册:2021-06-14

    ID“追逐幸福”、“ tanchen111”这些就是草榴社区的垃圾了,不发主题贴,别人发了出来就不断的冒泡出来,典型的太监。
    TOP Posted: 02-05 14:16 引用 | 点评
    茅家老道


    级别:圣骑士 ( 11 )
    发帖:3156
    威望:863 点
    金钱:40734 USD
    贡献:300 点
    註册:2024-03-18

    感谢分享,中国人擅长借鉴
    TOP Posted: 02-05 14:42 引用 | 点评
    yang7121


    级别:骑士 ( 10 )
    发帖:2636
    威望:326 点
    金钱:2373 USD
    贡献:1437 点
    註册:2022-11-16

    感谢分享
    TOP Posted: 02-05 15:02 引用 | 点评
    体彩排列五 [楼主]


    级别:侠客 ( 9 )
    发帖:400
    威望:130 点
    金钱:5128 USD
    贡献:0 点
    註册:2025-01-02

    引用
    引用第13楼茅家老道于2025-02-05 14:42发表的 :
    感谢分享,中国人擅长借鉴

    对的。现在不只是deepseek一家AI已经超越了chatgpt另外两家中国的AI公司也超了
    TOP Posted: 02-05 15:07 引用 | 点评
    小开来也


    级别:精灵王 ( 12 )
    发帖:10817
    威望:1167 点
    金钱:17606 USD
    贡献:0 点
    註册:2018-09-18

    感谢分享
    TOP Posted: 02-05 15:08 引用 | 点评
    .:. 草榴社区 » 技术讨论区

    电脑版 手机版 客户端 DMCA
    用时 0.01(s) x2, 05-16 01:01