根据媒体报道，在百度期间，李平和团队在深度学习算法、知识图谱和信息抽取、基于图的近似近邻检索和最大内积检索、树模型、哈希算法和近似近邻检索（ANN）算法、机器学习基础理论与方法、推荐和LTR技术、自然语言，大数据，和数据挖掘等方向发表了多篇国际顶会论文，并同百度凤巢广告，Feed流，搜索，百度知道，输入法，百度地图等多个团队展开深入合作，把研究成果应用于各项产品，产出显著效果，并能从实际问题中发展

大模型技术的核心价值是降低获取信息和技能的成本，提升个人办事效率，促进整体社会生产力的提升。小参数的大模型在具身机器人领域的应用，提升了自动化和智能化水平，实现高效、低功耗、低成本、低时延的处理和响应。未来的核心竞争点将不再是大模型的性能，而是能否结合自身业务和场景，将大模型训练出所需的功能。未来，大模型有望在基础科学领域取得突破性进展，实现信息智能、物理智能和生物智能的融合，成为科技发展的利器。

今天分享一篇技术文章，你可能听说过很多大模型的知识，但却从未亲自使用或微调过大模型。今天这篇文章，就手把手带你从零微调一个大模型。大模型微调本身是一件非常复杂且技术难度很高的任务，因此本篇文章仅从零开始，手把手带你走一遍微调大模型的过程，并不会涉及过多技术细节。希望通过本文，你可以了解微调大模型的流程。

目前，AI大模型已经在百行千业“落子不断”。教育、医疗、金融、电商、社交、图像、母婴等等行业都已经在大模型的的助力下探索新的发展可能。大模型浪潮汹涌，AI大模型工场试图从不同行业场景应用的角度，窥探大模型应用目前的落地状况。为此，我们对国内主流AI应用做了一些盘点与梳理，力图撇开表面的浮沫，看清大模型带来的新机会。

不得不再提最近常被提起的一句话：如何与大模型共生我们在不断被迫接受着过量的信息和超出认知的技术革新，否则就会处于被革新的尴尬境地。与技术共生，与大模型共生：人在不断的驱赶下依然还有新的立足之地，这些新领地恰恰是技术延展出来的百年前的纺织工人的后代并不会接着做纺织，他可能是一名铁路工人。他的后代可能是个电报员之后会是电话员、股票代理以及现今担心被淘汰的白领们。只要新技术所带来的新领地足够大，总有你我

以情感分析任务为例，过去我们做此类任务的方式是对输入的文本去做一个分类任务，预测它情感的正向或者负向，更多的是一种判别式的方法。直接使用其 in content learning 的方式去做推荐的话，一个突出的问题是，GPT 是被高度安全优化过的，所以它很难去拒绝用户，也就是很难 say no，如果我们按照 point wise 的方式，给它一个 list，history，然后问它是不是要把这些推

为了加强这些安全工作，Meta 还推出了经过特别微调的 Llama Guard 2，该模型在 Llama 3 的 8B 版本上进行了优化，通过分类 LLM 的输入和响应来识别潜在的不安全内容，进一步增强了 Llama Guard 系列的安全性，使其更适合在生产环境中部署。**2. 上下文长度的扩展：**Llama 3 支持的上下文长度是 Llama 2 的两倍，从 4090 个令牌增加到 8000

在内容创作领域，大语言模型能够辅助作家、编辑和创意工作者，提供灵感、构建情节、优化语言，甚至参与内容策划的全过程，极大地提高了创作效率与作品质量。它们的核心在于“大规模”和“预训练”，即利用海量的文本数据（如互联网上的网页、书籍、新闻报道等）进行训练，从而获得对语言的深刻理解。它们不仅深度渗透并革新了文本生成、机器翻译、问答系统等传统NLP任务的边界，更以其卓越的性能和适应性，不断拓展至新兴领域，

全国人大代表、中国铁塔党委书记、董事长张志勇指出，大模型在前期训练阶段和后期调优阶段都需要海量的数据支撑，数据质量直接影响大模型的“聪明”程度，训练数据集的分布特征和多样性也会影响大模型的能力。华为将持续投入在大模型领域的技术，提供更普惠的AI算力和大模型，打造AI时代最好的云底座！“中国发展大模型的一个重要方向应该是借助产业和场景的优势，将大模型与业务流程、产品功能相结合，寻求多场景应用、垂直化

程序员”职业还有未来吗？近日，AI先生李彦宏与红衣教主周鸿祎对“程序员”这一职位分享了各自的观点，但两人的看法却是截然不同。李彦宏认为，以后不会存在“程序员”这种职业了，因为只要会说话，人人都会具备程序员的能力。而在周鸿祎看来，未来计算机专业、程序员行业还是朝阳行业，是最有前途的行业，这个趋势未来五到十年不会减弱。而在这牌桌上，作为“局中人”——程序员是如何看待自己这份工作的？他们面对大模型的出现