时间:2024-06-04人气:作者:佚名
#斯坦福抄袭中国大模型##斯坦福团队道歉#,今天下午,两个词条分别冲上微博热搜第2和第5位,引发热议。
斯坦福团队承认抄袭中国大模型冲上热搜
简单说,就是国外一个AI团队主导的开源大模型,被证实套壳抄袭了国内清华系明星创业公司面壁智能的开源模型。目前,团队已经公开道歉,并下架模型。
5月29日,一个来自斯坦福的AI团队在网上发布文章《Llama 3-V: Matching GPT4-V with a 100x Smaller Model and 500 Dollars》,并开始广而告之:成功训练出一个SOTA多模态模型Llama3-V,性能比GPT-4V、Gemini Ultra、Claude Opus更强,而训练成本仅需500美元。后三个大模型,都是全球范围知名的多模态“巨无霸”。
由于团队成员拥有斯坦福(其中两人是斯坦福本科生)、特斯拉、SpaceX、亚马逊等亮眼背景,Llama3-V第一时间被推到了聚光灯下,登上开发者社区Hugging Face(抱抱脸)首页,引发众多开发者关注。
很快,有用户开始在Hugging Face以及社交平台X上提出质疑:Llama3-V是否套壳MiniCPM-Llama3-V 2.5?后者为面壁智能推出的开源端侧多模态模型,5月21日刚刚发布。
事情迅速发酵。经过一些开发者的比较,两者在模型结构、代码、配置文件等方面完全相同,只是进行了一些重新格式化,并将部分变量重新命名。
面对质疑,斯坦福团队一开始选择“辩解”:只是使用MiniCPM-Llama3-V 2.5的tokenizer(分词器),并且宣称在后者发布前就已开始这项工作。
6月2日晚,面壁智能团队确认抄袭事实。
面壁智能首席科学家刘知远在知乎上表示:“已经比较确信Llama3-V是对我们MiniCPM-Llama3-V 2.5套壳。”
而CEO李大海也在朋友圈发文:“我们对这件事深表遗憾。一方面感慨这也是一种受到国际团队认可的方式,另一方面呼吁大家共建开放、合作、有信任的社区环境。”
CEO李大海对此事表示遗憾
目前,Llama3-V团队的其中两位成员Aksh Garg和Siddharth Sharma,也就是那两位斯坦福本科生,已在社交平台上向面壁智能团队道歉:“我们向作者道歉,并对自己没有努力验证这项工作的原创性感到失望。我们对所发生的事情承担全部责任,并已撤下Llama3-V,再次致歉。”
Llama3-V团队的其中两位成员在社交平台道歉
同时,Aksh Garg解释Siddharth Sharma和自己主要是负责推广,编写代码的是Mustafa Aljadery,而他目前已经联系不上。
目前已经看不到Mustafa Aljadery的社交平台内容
在朋友圈发文中,李大海给出确认抄袭的一大理由是:经过测试,面壁智能团队发现Llama3-V不仅能识别“清华简”的战国古文字,而且在犯错的地方也和MiniCPM-Llama3-V 2.5如出一辙。
公开资料显示,清华简,是清华大学于2008年7月收藏的一批战国竹简,属于中国学术史上先秦文献的重大发现。此后,清华大学成立专门研究团队,先后在已故著名历史学家、考古学家、古文字学家李学勤及黄德宽教授的带领下开展简文整理研究,以复原这批幸免于焚书坑儒与秦汉战火的重要历史“拼图”。
这些年里,研究者们在一间不足20平方米的小屋里,用一面42英寸显示屏读简,整理成果以一年一辑的速度出版公布,至今已出版13辑。诸子思想、历史文化、天文历法、律法术数、医学方技……中国传统文献中的经史子集均有发现,竹简的内容逐渐清晰起来。
据李大海解释,此次识别清华简的训练数据,采集和标注均由清华NLP实验室和面壁智能团队完成。“耗时数月,从卷帙浩繁的清华简中一个字一个字扫描下来,并逐一进行数据标注,融合进模型中”,且数据尚未对外公开。
Llama3-V在犯错的地方也和MiniCPM-Llama3-V 2.5如出一辙
此外,Llama3-V、MiniCPM-Llama3-V 2.5两个模型在高斯扰动验证(一种用于验证模型相似性的方法)后,在正确和错误表现方面都高度相似。
巧的是,上周日清华大学在官方微信公众号上转载了新华社《瞭望》新闻周刊刊发的特稿《破译千年竹简 求索文明密码》,回忆这2500位先秦“客人”来到清华的故事。
文中提到,清华简整理研究工作的难点之一,就是“认字”。“清华简是战国时期楚国人所写,其中有些字没有流传下来,有的字形是首次出现,即便将一些字辨识出来,其字义的理解也需要下大功夫去研究,因为这些竹简文献只有极少数可与传世文献对照参证。因此,‘考字释词’耗费巨大精力,把字词探究清楚了,做到文通字顺,才能真正了解文献记载了什么内容,进而判断其价值。”
清华校园内的战国竹筒
橙柿互动·都市快报 记者 童蔚
施工事故实习生被建议追刑责背后:19天未消除的隐患和层层失守的监管,工段,工区,实习生,施工事故,重大安全隐患
(0)人喜欢2024-06-04王毅:支持“六点共识”的国家越多,实现和平的前景就越光明,王毅,习近平,于和平,乌克兰,外交部长,建设性
(0)人喜欢2024-06-04河南省发行额度456万套(含黄山币、峨眉山-乐山大佛币各1枚),其中我行承办224.6万套,每枚面额5元、每套10元。河南省农行预约兑换网点信息、预约入口等详见正文。
(0)人喜欢2024-06-04广州一地政府出手,收购2万平方米商品房!开发商:欢迎成本价收购,现在售价已低于成本价,房源,房票,商品房,开发商,地政府,广州市,商品住房,保障性住房
(1)人喜欢2024-06-04