发布几小时，微软秒删媲美GPT-4开源大模型！竟因忘记投毒测试
前段时间，微软公布并开源了最新一代大模型WizardLM-2，号称性能堪比GPT-4。不过，还未上线一天，模型权重和公告全被删除了，原因竟是......
上周，微软空降了一个堪称GPT-4级别的开源模型WizardLM-2。
有网友突然发现，WizardLM的模型权重、公告帖子全部被删除，并且不再微软集合中，除了提到站点之外，却找不到任何证据证明这个微软的官方项目。
项目地址：https://wizardlm.github.io/
然鹅，微软之所以这么做，是因为团队内部忘记对模型做「测试」。
随后，微软团队现身道歉并解释道，自几个月前WizardLM发布以来有一段时间，所以我们对现在新的发布流程不太熟悉。
我们不小心遗漏了模型发布流程中所需的一项内容 ：投毒测试
去年6月，基于LlaMA微调而来的初代WizardLM一经发布，吸引了开源社区一大波关注。
论文地址：https://arxiv.org/pdf/2304.12244.pdf
随后，代码版的WizardCoder诞生——一个基于Code Llama，利用Evol-Instruct微调的模型。
测试结果显示，WizardCoder在HumanEval上的pass@1达到了惊人的 73.2%，超越了原始GPT-4。
时间推进到4月15日，微软开发者官宣了新一代WizardLM，这一次是从Mixtral 8x22B微调而来。
它包含了三个参数版本，分别是8x22B、70B和7B。
最值得一提的是，在MT-Bench基准测试中，新模型取得了领先的优势。
具体来说，最大参数版本的WizardLM 8x22B模型性能，几乎接近GPT-4和Claude 3。
而7B版本是最快的，甚至可以达到与，参数规模10倍大的领先模型相当的性能。
WizardLM 2出色表现的背后的秘诀在于，微软开发的革命性训练方法论Evol-Instruct。
Evol-Instruct利用大型语言模型，迭代地将初始指令集改写成越来越复杂的变体。然后，利用这些演化指令数据对基础模型进行微调，从而显著提高其处理复杂任务的能力。
另一个是强化学习框架RLEIF，也在WizardLM 2开发过程中起到了重要作用。
在WizardLM 2训练中，还采用了AI Align AI（AAA）方法，可以让多个领先的大模型相互指导和改进。
AAA框架由两个主要的组件组成，分别是「共同教学」和「自学」。
共同教学这一阶段，WizardLM和各种获得许可的开源和专有先进模型进行模拟聊天、质量评判、改进建议和缩小技能差距。
通过相互交流和提供反馈，模型可向同行学习并完善自身能力。
对于自学，WizardLM可通过主动自学，为监督学习生成新的进化训练数据，为强化学习生成偏好数据。
这种自学机制允许模型通过学习自身生成的数据和反馈信息来不断提高性能。
另外，WizardLM 2模型的训练使用了生成的合成数据。
在研究人员看来，大模型的训练数据日益枯竭，相信AI精心创建的数据和AI逐步监督的模型将是通往更强大人工智能的唯一途径。
因此，他们创建了一个完全由AI驱动的合成训练系统来改进WizardLM-2。
然而，在资料库被删除之前，许多人已经下载了模型权重。
在该模型被删除之前，几个用户还在一些额外的基准上进行了测试。
好在测试的网友对7B模型感到印象深刻，并称这将是自己执行本地助理任务的首选模型。
还有人对其进行了投毒测试，发现WizardLM-8x22B的得分为98.33，而基础Mixtral-8x22B的得分为89.46，Mixtral 8x7B-Indict的得分为92.93。
得分越高越好，也就是说WizardLM-8x22B还是很强的。
如果WizardLM 2在回答中输出「有毒、有偏见、不正确」的内容，对大模型来说并不友好。
尤其是，这些错误引来全网关注，对与微软自身来说也会陷入非议之中，甚至会被当局调查。
有网友疑惑道，你可以通过「投毒测试」更新指标。为什么要删除整个版本库和权重？
不过，开发者们还需要耐心等待，微软团队承诺，会在测试完成后重新上线。
参考资料：
https://favtutor.com/articles/wizardlm-2-benchmarks/
https://anakin.ai/blog/wizardlm-2-microsoft/
来源：新智元
声明：此公号（ID：czfida）发布内容和图片的目的在于传播更多信息，版权归原作者所有，不为商业用途，如有侵犯，敬请作者与我们联系。
中关村金融科技产业发展联盟是在北京市科委、中关村管委会，海淀区人民政府等单位指导下，由中关村互联网金融研究院、拉卡拉、中科软、第四范式、明世数据、网联清算、光大银行、中关村银行、度小满金融、神州信息等百余家金融科技头部企业和专业服务机构共同发起，经民政部门批准设立的全国性社团组织，现有会员单位170余家。联盟以创新为动力，以技术为核心，以应用为导向、以产业为主线，打造中关村乃至全国金融科技产业服务中心，搭建金融科技产学研用合作平台，助推金融科技产业转型升级。
联盟先后成立金融科技人才专委会、金融科技投融资专委会、金融科技标准专委会、金融科技宣传专委会，通过专业服务提供技术交流、人才培养、产业对接、政策宣传、标准制定、投融资对接等服务，推动了金融机构及金融科技企业之间的协作、创新联动。并推出了金融科技“10+10”对接系列活动，通过“揭榜挂帅”的形式以金融科技企业技术和银行业务场景对接为主题，实现业务有效对接。当前，联盟汇集了一批中关村及国内外金融科技企业上下游资源，推动了金融机构、金融科技企业、投资机构、高校、研究机构等机构之间的协同合作，加速推动了金融科技产业的发展。
首页标题
ꄲ
产业动态
ꄲ
发布几小时，微软秒删媲美GPT-4开源大模型！竟因忘记投毒测试
