AIGC 深度|Andrej Karpathy 最新思考:小模型有巨大潜力,大模型用来处理多任务,AI 模型未来聚焦于处理重要信息的能力 在人工智能领域,Andrej Karpathy 的最新思考为我们提供了关于AI模型未来发展的深刻见解。他认为,虽然当前的大型模型非常强大,但未来的小型模型也具有巨大的潜力。通过模型蒸馏技术,我们可以将大型模型的能力压缩到更小的模型中,实现更高效的认知处理。 有新Newin LLMOpenAI产品思考
AIGC LLM 进化分岔口:多模态、成本、代码推理 在人工智能领域,大型语言模型(LLM)的进化正处在一个关键的分岔口,其中多模态能力、成本效率和代码推理能力是未来发展的三大核心方向。文章深入分析了OpenAI和Anthropic这两家在LLM领域处于领先地位的公司,它们在2024年的技术动态、产品发展和人才变动,揭示了它们在LLM进化路径上的不同选择和战略重点。 海外独角兽 LLMOpenAI行业观察
个人随笔 LLM的范式转移:RL带来新的 Scaling Law LLM(大型语言模型)的范式转移正在由RL(强化学习)引领,带来全新的Scaling Law。传统上,LLM的发展依赖于模型规模、数据量和计算资源的扩展,而RL的引入为这一领域注入了新的活力。通过强化学习,LLM能够更好地适应复杂环境和任务,实现更精细化的控制和优化。这种范式转移不仅提升了LLM的性能,还为其应用开辟了新的可能性。随着RL与LLM的深度融合,我们有望见证一个更加智能、高效和适应性强的大型语言模型时代的到来。 海外独角兽 LLMRL草莓照片
个人随笔 Agent开发平台数据运营体系:企业如何衡量大模型投入产出比ROI? 大模型到底为公司带来了多大的好处?为应用大模型,采购了第三方的AgentBuilder平台,或者自研搭建了大模型应用平台,效果咋样?企业内部的员工会用了吗?还是依赖外部... shucay AgentChat GPTLLM
AIGC 世界模型又近了?MIT惊人研究:LLM已模拟现实世界,绝非随机鹦鹉! MIT CSAIL的研究人员发现,LLM的「内心深处」已经发展出了对现实的模拟,模型对语言和世界的理解,绝不仅仅是简单的「鹦鹉学舌」。也就说,在未来,LLM会比今天更深层地理解语言。 新智元 LLM世界模型行业观察
AIGC Gary Marcus:生成式AI泡沫将退,神经符号AI才是未来 人工智能学者Gary Marcus近日发文称,生成式AI可能因可靠性问题无法解决而在12个月内退去泡沫。他认为,神经符号学方法是超越LLMS局限、迈向自主AI的途径之一,而谷歌的两款系统验证了可行性。 元宇宙日爆 LLM生成式AI行业趋势
AIGC 少即是多!10亿参数「小巨人」击败ChatGPT 只有10亿参数的xLAM-1B在特定任务中击败了LLM霸主:OpenAI的GPT-3.5 Turbo和Anthropic的Claude-3 Haiku。上个月刚发布的苹果智能模型只有30亿参数,就连奥特曼都表示,我们正处于大模型时代的末期。那么,小语言模型(SLM)会是AI的未来吗? 新智元 ChatGPTLLMSLM
个人随笔 LLM最全「怪癖」首曝光!马里兰OpenAI等30+学者祭出75页提示报告 大语言模型提示中,竟有不少「怪癖」:重复某些内容,准确性就大大提高;人名变匿名,准确性就大大下降。最近,马里兰OpenAI等机构的30多位研究者,首次对LLM的提示技术进行了大规模系统研究,并发布75页详尽报告。 新智元 LLM大语言模型案例分析
AIGC 两句话,让LLM逻辑推理瞬间崩溃!最新「爱丽丝梦游仙境」曝出GPT、Claude等重大缺陷 在基准测试上频频屠榜的大模型们,竟然被一道简单的逻辑推理题打得全军覆没?最近,研究机构LAION的几位作者共同发表了一篇文章,以「爱丽丝梦游仙境」为启发涉及了一系列简单的推理问题,揭示了LLM基准测试的盲区。 新智元 ChatGPTLLM大模型
个人随笔 ChatGPT真能记住你的话吗?DeepMind与开源大佬揭示LLM记忆之谜 LLM有记忆能力吗?有,也没有。虽然ChatGPT聊天时好像可以记住你之前说的话,但实际上,模型在推理时记不住任何内容,而且它们在训练时的记忆方式也不像我们想象的那么简单。 新智元 ChatGPTDeepmindLLM
AIGC 万字长文总结提示词技巧!新加坡首届GPT-4提示工程大赛冠军最新分享 提示工程已经成为了热门话题,无论是CO-STAR框架构建提示词,使用分隔符将提示词分段,使用LLM护栏创建系统提示,还是仅使用LLM(无需插件或代码)分析数据集,用户都将拥有全新的使用体验。 新智元 GPT-4LLM提示词
个人随笔 历时400多天,国产大模型全面赶超GPT-4? 赶超GPT-4的阶段性升级,可以看作是国产大模型有序迭代部署、不断拉近差距的标志,切莫像手机跑分那样,在过度营销的作用下,沦为被群嘲的对象。 Alter LLM国产大模型文心一言