2023年是科技行业过渡的一年,而AIGC则属于其中最大的科技转型之一。自ChatGPT问世以来,各大公司纷纷进入该领域,媒体也报道不断,我们一边惊叹于大模型与生成类AI的强大,一边担忧所在行业会被颠覆。
当OpenAI的系列大模型能力已经非常强大,整个生态系统的快速完善,从一个更广阔的角度来看,
■ 未来是否会有一种超级大模型主导江湖,还是每个行业、每个公司都会有自己的垂直领域大模型存在?
■ 在实际的大模型构建中,公司如何克服数据集缺和价格昂贵的问题?
■ 当大模型实际应用于容错率较低的行业中时,如何解决其错误率相对较高的问题?
■ 大模型真的具备逻辑推理能力吗?
在华映资本2023年度大会中,金柚网CTO邬学宁、星尘数据创始人章磊、影眸联合创始人张启煊、安领数据CEO郑耸、天云数据副总裁李从武与华映资本董事刘天杰展开圆桌对话,共同探索大模型爆发,产业拥抱AIGC的机遇与锚点。

以下为圆桌论坛实录:
刘天杰:大家好,我是华映资本的刘天杰。很高兴今天有机会与各位大咖一起讨论当前备受关注的AIGC话题。自ChatGPT问世以来,各大公司纷纷进入这个领域,媒体也不断报道,我相信大家都会对这个领域的快速发展有所感受。同时,我们也会担心自己所在的行业是否会被颠覆,甚至担心自己的未来是否会被替代,所以今天我们聚在一起讨论这个话题。
作为AI行业的从业者,首先请大家逐个介绍一下各自公司的情况,以及在大模型部署和应用领域所做的工作。

▲华映资本董事 刘天杰
邬学宁:大家下午好,我是金柚网的CTO邬学宁。金柚网是一家数字化的综合性人力资源公司,我们为全国数十万员工提供服务。目前基于大型模型开发了面向企业HR和员工的智能员工助手。
在GPT等大型模型基础上,我们不仅具备回答通用问题的知识能力,还能回答行业的以及企业内部的知识问题,同时还整合了SaaS的管理功能。覆盖员工全生命周期的各个环节,相当于HR SSC或员工助手,可以处理请假考勤等流程的结构化数据和日常工作效率提升,比如草拟合同等非结构化数据。
刘天杰:我理解是做一个HR垂直领域的大模型。如果这个模型真的上线了,未来HR行业从业者的数量会上升还是会下降,是不是真的能替代现有的HR?
邬学宁:大模型的应用可以在一些具体工作方面为HR提供更好的支持。例如,它不仅可以协助员工订酒店、机票和为面试官提供问题建议,还能关心员工的身体健康,提醒他们进行锻炼等,这些也是HRBP以往心有余而力不足的工作。通过引入大模型助手,HR可以更全面、细致地关心员工的各个方面,提供更个性化、贴心的服务。所以不是替代现有的HR,而是助力HR把工作做的更多,更高效和更有温度。

▲金柚网CTO 邬学宁
大模型真的具备逻辑推理能力?
刘天杰:金柚网在实际应用中做垂直领域模型,尤其是像法律或公司内部组织效率工具,这些领域的容错率相对较低。我们知道目前大模型的架构决定了它的错误率相对较高,在实际的大模型垂直应用中,你们是如何解决这个问题的?
邬学宁:这个问题通常我们称之为“幻觉”。AIGC这种生成式的模型产生“幻觉”是不可避免的。因此,从用户的角度来看,首先要有一个认知,即AIGC生成的结果并不是百分之百准确,对于特别重要的结果,用户需要自己进行验证。
我们确实有一些方法来减少幻觉的发生。产生幻觉的原因很多,可能是因为数据在某个领域相对稀疏和不足。在这种情况下,我们需要为模型提供更多数据来进行训练。此外,在用户提问时,清楚地向模型提供更多背景信息也是减少幻觉的一种方法,或者降低“温度”。有时候幻觉的产生是因为问题提得不够完整,缺乏背景和前提。因此,问题的提出也非常重要,prompt engineering是关键。
另外,如果用户真的想要解决百分之百准确的问题,可能还是需要用到知识图谱。知识图谱能够保证逻辑推理的准确性,以及包括Meta AI的负责人Yann lecun提出的“世界模型”等更新的技术。
AIGC这一代大模型还处于比较早期的阶段,它们学习的东西还没有完全理解这个世界的本质,“世界模型”更倾向于学习世界的本质而不是表象。目前的OpenAI只是通过预测下一个Token来更好地理解世界,这还是比较表面的。所以技术还在不断发展中。目前来看,如果仅仅依靠当前的AIGC技术而不依赖知识图谱等,无法百分之百避免幻觉的产生,但可以减少产生幻觉。

邬学宁:首先,关于Fine-tuning这件事情,要看是进行Fine-tuning还是Prompt-tuning,并不是所有的企业都要进行Fine-tuning。现在在一些领域,Prompt-tuning的效果甚至比Fine-tuning更好。
简单来说,如果你有足够多的数据,你可以进行Fine-tuning,但进行Fine-tuning所需要的数据量和算力都远远大于Prompt-tuning。如果数据量较小,只需要使用Fisher learning和Prompt-tuning就可以了。
对于不同的企业来说,可能首先需要判断自己的数据质量和数量,选择适合自己的tuning方式。我认为Fine-tuning的最大壁垒和护城河可能在于两个方面,一是有大量的垂直领域数据,二是要有经过清洗、整理的高质量数据,涉及RLHF标注,和之前的标注方式不太一样,足够高质量的标注数据是比较大的门槛。
刘天杰:主要的门槛可能体现在工程化方面,同时还需要一些数据,可能产生一些私域的门槛。
邬学宁:是的,涉及到对大量数据进行清洗和整理的工作,可能需要按照问答等方式进行标注,涉及到很多人工的工作,而且标注的难度也高于常见的图像标注,涉及到价值观等更柔性的问题。
企业对于大模型的付费更看重性价比
刘天杰:因为金柚网之前是做HR SaaS,现在也开始涉足大模型相关的业务。这个问题来自台下的嘉宾,他想知道,如果他是其他行业的创业者,今天想要组建一个团队来训练一个基于自身应用和场景的大模型,以支撑自己的业务,他大概需要多大规模的团队?这个团队的背景应该是怎样的呢?
邬学宁:从企业的角度来看,我认为最关键的是需要一个灵魂人物,他能够清晰地了解大模型的能力、边界和未来发展趋势,并且能够将技术与业务紧密结合。这个人需要有能力将技术与业务关联起来,并能够预判技术的未来发展方向。
其他方面,底层算法不再需要那么多的算法工程师来实现,大模型已经在很大程度上完成了基础工作,因此对算法工程师的需求会减少。当然,传统的技术团队,如前端、后端和产品经理等,仍然是必需的,可能也还需要一些算法工程师,但对算法工程师的要求相对较低。最重要的是需要有人能将大模型的能力与业务很好地结合起来。许多创业者由于不是技术出身,对于大模型的能力边界了解不足,难以与商业进行有机融合。
邬学宁:我非常同意两位的说法,关键还是看性价比。目前来看,GPT4的价格可能比3.5版本要高出6-10倍。当然,我相信最近会有增量和降价的措施。刚才章总有一点我不是很认同,人脑是一千亿个神经元,但每个神经元跟上千个其他的神经元相连,所以大脑的参数量大约在一百万亿个参数,目前从大语言模型参数量增长来看,都还是有一些潜力增长的。当然,我非常认同系统一和系统二的区别,在系统二上的应用可能会更好。
邬学宁:训练语料主要是高质量语料,低质量的语料会损坏模型。






