全球主流财经媒体
大模型进入安卓时代，希望有国产模型能代替 LIama。
千模大战序幕拉起，复旦邱锡鹏教授这样说。
作为国内最早推出类 ChatGPT 模型的 MOSS 团队带头人，看到大半年来国内外大模型发展，他有了新的认知体会。
在由思佰诚科技举办的首届人工智能生成内容国际会议上，他坦言，虽然大家都说大模型更偏工程化，但实际还有诸多科学挑战仍待解决，比如训练目标的设计、内存优化、自动化评测、大模型平民化、新架构等。
在 MOSS 发布之后这大半年间，他所在团队又取得了一定的成果:跨模态语音大模型 SpeechGPT、优化器 LOMO 可实现单机微调 650 亿参数大模型；MOSS 中文能力已超 ChatGPT……
不过接下来，邱锡鹏透露不急于将 MOSS 产品化，而是继续在新架构探索，以及大模型的代码能力、数学能力上去进一步提升。
在与量子位的交谈中，他谈到了 LIama 开源生态、国内竞争格局、大模型产业落地，以及目前存在大模型幻觉、评测刷榜等现象在内的十大问题。
在不改变原意的基础上，量子位做了如下整理:
大模型进入到安卓时代，很多开源大模型中最终可能有一家胜出，现在来看就是 LIama；
国内大模型同质化严重，希望有国产模型能代替 LIama；
现在很多大模型都没有做到 RLHF 这一步，后者在某些技术领域也不是必须的；
大模型幻觉并不是一件坏事，通常做法还会导致性能降低；
创业窗口变大，每个人都可以借助大模型来做一些自己想做的事。
量子位:现在大模型进入到安卓时刻了吗？
邱锡鹏:是的，整体上是以 LIama 为主的开源生态。它离 GPT-4 有一定差距。很多复杂应用还是只能 GPT-4 去做，LIama 仍需要进一步提升。
量子位:具体什么地方提升？
邱锡鹏:还得是基座。
量子位:LIama 对市场格局的改变，如何看待？
邱锡鹏:一开始会有很多开源模型，最终可能有一家胜出，目前看来就是 LIama。
量子位:为什么？
邱锡鹏:首先性能足够好，然后围绕它配套的上下游生态已经挺多了。当你要重新提一个新模型时，就不得不考虑上下游问题。将来其他大模型要想替代 LIama 不是不可以，但成本就会非常非常高，相当于要打破一个生态链。
谈国内竞争格局
量子位:国内是否会出现第二个 LIama？
邱锡鹏:国内基本上就各做各的，如果没有显著的差异或性能提升，所以很难建立同等的生态。希望国产模型能取代 Llama，否则可能会限制我们将来的一些发展。
量子位:现在千模大战，未来会变成几个大模型胜出。
邱锡鹏:肯定的。但现在整体都做得比较同质化，不太可能建立用户粘性，最终需要靠性能取胜。
谈大模型产业落地
量子位:很多人说大模型产业落地到「最后一公里」了，你怎么看待？
邱锡鹏:是不是最后一公里不太确定，但肯定是极大地促进产业落地。大模型确实改变了之前人工智能的应用范式。之前做一个产品，可能需要更多人力去标注数据，这是个很大的市场需求。但现在大模型就不太需要太多标注数据，将整个技术或者应用门槛降得很低。但缺点就是算力要求更高。
量子位:创业窗口更大了吗？
邱锡鹏:对，就是面向更终端的应用，每个人都可以借助大模型来做一些自己想做的事情。
量子位:SFT、RLHF 还没形成很好的范式，什么时候能达到工业界应用水平？
邱锡鹏:现在已经有套完整的技术路径，加上有很多工具能帮助大模型在垂直行业的应用。这样的技术路径依赖能使门槛变得非常低。技术成熟度目前我觉得还是比较高的。
量子位:追求通用性同时，如何平衡大模型各领域需求？
邱锡鹏:大模型本身通用性强的话，补一些垂直领域知识可能就够了，这部分并不是特别困难，成本跟预训练相比会低很多。
量子位:像 LIama2 在 SFT、RLHF 用了 100 万量级人工标注数据，这种在数据量和成本上都是很大的。
邱锡鹏:现在很多大模型都没有做到 RLHF 这一步，只是做到 SFT。
量子位:这步对产业落地是有必要的吗？
邱锡鹏:也不是必须的，比如在一个技术领域模型，就不会特别关注所谓无害性、诚实性这些特质，就像让它写个代码，通常来讲对齐会降低模型能力。
谈评测刷榜现象
量子位:怎么去看待有的大模型团队刷榜现象。
邱锡鹏:目前还没有一个特别好的数据集能反映大模型各种能力的，各方都在探索。但现在主要问题是，总体上对于生成式算法模型的评测是相当困难的。
量子位:举个例子。
邱锡鹏:就像 ChatGPT 刷榜不一定能刷过谷歌的大模型，但使用体验上就是更好。真正的评价可能还是要来自于人类真实感受，但这种评价的成本比较高，也很难定量化。
量子位:那客观指标还需要吗？
邱锡鹏:还是需要的，但最好就是像以前变成学术界比方法就够了。现在很多企业去刷榜，但又不公开数据，也不具体说怎么做，我觉得这是一种不公平的竞争。
比如说国内 C-Eval，本身质量还挺高但出来几天就被刷榜了，导致学术价值就不大了。
谈大模型幻觉问题
量子位:大模型幻觉方面，咱们是否有些相关进展？
邱锡鹏:这方面本身做的并不是特别多，目前可靠的方法还是偏应用端去消除幻觉。除此之外，还有人通过对齐或负反馈的方式去识别。但我个人的观点是，消除幻觉可能外部加些知识验证就可以解决这件事，而不是从机理上去消除它。
量子位:为什么？
邱锡鹏:感觉它和模型这种思维能力是强相关的，有可能幻觉消失了，导致模型能力会下降。
量子位:幻觉并不是件坏事？
邱锡鹏:它可能不是件坏事，需要分场合去利用。比如有些场合绘画创作、科学发现是利用幻觉的。
谈 AI 对齐
量子位:OpenAI 有个超级对齐团队，最终可能是 AI 对齐 AI，您是怎么看待这件事？
邱锡鹏:对齐确实是件很难做的事情。所谓 AI 对齐人类价值观，我们人类本身的价值观都很难衡量。但像 AI 对齐某些能力是可以的，比如像解数学题、下棋，因为它的好坏不需要人来评价，用 AI 对齐就更好。
量子位:数理方面，大模型能力还比较欠缺。
邱锡鹏:这一块我觉得是需要更高质量的数据集。
谈对 NLP 的影响
量子位:大语言模型给自然语言处理带来什么样的影响？
邱锡鹏:相当于整个领域需要重新划分。早期是按照不同领域以及任务来划分，现在就要从不同阶段来划分，大体包括:预训练、指令微调、RLHF，这就导致大家做的东西比较雷同，没有像以前那样多样性 ——
现在大语言模型虽说有很多，但基本都是基于 Transformer 架构，训练数据、训练方法也差不多。
量子位:带来什么样的挑战？
邱锡鹏:首先就赛道拥挤，大家都统一集中到这一赛道；另一个就是提示变得十分重要，有点重新回到此前特征工程里面去，还有就是算力偏高，能耗高，以及很难有客观化的评价指标，以及外加安全问题。
这些挑战其实是下沉到大模型从预训练到应用的各个阶段的。
谈大模型科学挑战
量子位:普遍认知中大模型偏工程化，还有哪些科学问题需要解决？
邱锡鹏:主要有以下几点:
模型架构，Transformer 的缺点就是复杂度和字符长度是平方的关系，扩展规模时就会变成瓶颈，未来肯定是有些新的架构产生。
训练目标的设计，早期机器学习目标很明确，可以端到端去减少泛化误差；但现在大语言模型每个阶段目标与最终目标是不是一致？如何去设计，这是需要去探索的。
幻觉，现在已经有些流行框架去解决，比如 LangChain、LIamaIndex 等，但有没有更深刻去理解背后工作依据去扬长避短，这值得研究。
多模态拓展，只在符号世界的知识总归是受限的，如何与更多模态对齐。现在主流方式，比如在接到大语言模型之前接一个编码器，将多模态信息变成向量，但只是单方面对齐，模态之间没有充分融合。
我们有做一个 SpeechGPT—— 让大模型直接接收语音信号，将语音离散化为 Token 直接输入给大模型，大模型可以直接输入和输出语音。
实时学习，如何让大模型与人的交互中进行学习，并与参数更新结合在一起，让其知识水平不断提高。
智能体，让大模型作为 Agent 的载体，赋予它各种能力去完成复杂任务；进一步思考，多个智能体之间又是怎样去交互？
自动化评价，现在大模型在推理能力、数学能力、代码能力等方面都差得比较远，但这些能力才足以支撑去做很多复杂的工作，因此要做一种指标去衡量这些能力，同时还要避免「刷榜」这种现象。
第十个有点偏工程，但也是个科学问题，就是大模型的平民化，如果算力要求依然很高，那将只受限于小部分人去做研究。我们在考虑一种全量的微调优化方法。前段时间提出了一种名为 LOMO的新优化器，并在配备 8 卡 3090(24GB 内存)的单台服务器，成功微调 65B 的 LIama。
量子位:这些问题工业界需要关注吗？
邱锡鹏:我认为值得重视，现在国内一些团队基本只看到工程化，但其实里面很多挑战没有解决。
量子位:学界和工业界之间大模型分工是怎样的？
邱锡鹏:我觉得两者之间不存在分工，就像 OpenAI 自己的研究团队、DeepMind 都有在研究这些问题。
谈 MOSS 进展
量子位:MOSS 下一步将提高哪些方面的能力？
邱锡鹏:可能在新架构，以及大模型的代码能力、数学能力上去进一步提升。
量子位:成本的情况是怎样的？像 OpenAI 之前爆出每天烧掉 70 万美元。
邱锡鹏:我们没有一个完全严格的数字，但每天也是有几百张卡在跑。
量子位:未来会考虑出应用端产品？
邱锡鹏:可能在更远的将来。
量子位:为什么？
邱锡鹏:目前很多大模型但架构比较雷同，没有形成相较于其他大模型的独特性。如果未来能有一些技术创新能形成竞争力的东西，就可以去做些商业化落地的事情。
量子位:那有没有预期的时间？
邱锡鹏:没有。
量子位:之前提到将推出更大参数模型，是否有在推进中。
邱锡鹏:MOSS 本身没有，但团队有参与到其他单位大模型训练中。
谈认知变化
量子位:对大模型的认知，跟半年前有什么变化？
邱锡鹏:那当然就是一开始大家都不会理解为什么大模型能做得这么好，现在觉得理所当然。比如 SFT 指令微调之后，就可以听懂人话之类，这件事放半年前或 ChatGPT 推出之前，不是所有人都能想到的。
然后放在今天，对大模型的理解就又不一样了 —— 已经不把它当做一个只聊天的模型，更多是一种决策模型。让大家可以参与到更复杂的智能决策，包括智能体之类。
广告声明:文内含有的对外跳转链接，用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。
免责声明：该文章系本站转载，旨在为读者提供更多信息资讯。所涉内容不构成投资、消费建议，仅供读者参考。
