场景化和垂类大模型训练需求会逐步增加
北京蓝耘科技股份有限公司CFO葛瑞娟:随着时间的推移,训练对算力的需求虽可能有所减少,但未来的重心无疑将转向推理。当前,国内主要聚焦于基础模型的研发,然而,部分国内厂商选择放弃基础模型,转向垂直领域和场景化的模型开发,这导致场景化和垂直领域的模型数量日益增多,并相应地增加了训练对算力的需求。所以,我认为随着人工智能技术的不断成熟和优化,训练对算力的需求可能会呈现下降趋势,但当前已部署的算力资源不会在未来出现闲置。
训练和推理对算力需求不会减弱 仍会持续增长。
北京数道智算科技有限公司董事长甄鉴:训练对算力的需求将会上升,而推理需求更将出现显著增长。模型训练的根本逻辑在于只要有新的数据产生,就需要训练。我们不能停留在当前的时间点,认为历史数据训练完毕即可结束。实际上,当前每年新增的数据量远超过去100年的总和,因此,对数据训练的需求仍在持续上升。
然而,目前(训练)成本问题可能构成一定的挑战。
训练是生产过程,而应用落地和推理则是使用过程。当推理端的应用带来经济效益和资金流时,这些资金将回流至训练端,推动其持续发展。未来,随着两者的平衡发展,训练和推理将形成良性互动,如同跷跷板的两端,共同向上攀升。
未来AI的第一个工作可能是生产合成数据
邦银金租副总经理李树林:有人担心数据可能会耗尽,是基于数据增长速度无法满足AI需求增长的假设。然而,这里所说的数据主要指的是传统意义上的数据。事实上,合成数据(synthetic data)的发展速度非常快。例如,英伟达在其3400亿参数的模型中,98%的数据都是合成数据。明天的AI使用的数据不在今天的世界里面,合成数据的占比和重要性将越来越高。甚至可以说,未来AI的第一个工作可能是生产这种数据。
AI模型在各个领域和场景的应用前景广阔,对推理的实时性要求也越来越高。以自动驾驶为例,它要求模型能够在最短的时间内进行推理并作出响应。这种要求对于算力的支持和保障提出了极高的挑战。
租赁行业信源或爆料征集邮箱:gaoyining@yicai.com