南京人工智能计算中心全自主运行“大模型”

2023-08-02 07:54:35     来源 : 新华日报


(资料图片)

南京人工智能计算中心近日对外公布,中心成功实现LLaMA、ChatGLM-6B、BLOOM、鹏程·盘古α等主流NLP(自然语言处理)大模型上线。这些大模型均为目前人工智能产学界最前沿、最受关注的技术“宠儿”,可针对用户需求提供相对准确的答案和建议,应用广泛。

江北科投集团副总经理、先进计算产业发展有限公司总经理戴晓玉介绍,该中心实现从芯片到系统再到应用部署层全栈自主可控。他解释,大模型在算力中心成功适配,意味着使用中心算力服务的企业及院校机构都可以在国产生态中“跑”起大模型。

今年以来,人工智能算力需求呈现爆发式增长,被称为算力之源的GPU(图形处理器)是人工智能大模型发展的关键基础设施。目前,全球GPU巨头企业英伟达,在人工智能训练芯片领域占据很高的市场份额,不少算力中心都采用其芯片运行。

据介绍,昇思MindSpore是华为开源推出的首个业界全场景AI框架。该中心基于这一框架,将主流NLP大模型适配到本地环境中,实现高效运行。目前,一家互联网电商企业在测试中,使用适配后的大模型运营自己的平台,运行情况良好。

沿着江心洲大桥驶入江北新区,南京人工智能计算中心正立于一侧。这个算力中心的“大脑”位于这座大厦二楼的机房内,机柜上一个个排列整齐的“黑匣子”泛出蓝光,那是算力中心的核心模块,24小时不间断运转。中心一期计算能力达40PFLOPS(每秒4亿亿次浮点运算次数),于去年5月对外提供服务,如今分配率为100%,算力已全部供应给企业、院校机构,使用率峰值达85%左右。将于9月上线的二期项目预计扩容100PFLOPS算力,部分算力服务已被预订。

在算力中心稳定运行后,一批省内重点高校主动邀约合作,探路用全自主的“算力”跑起属于自己的科研大模型。去年11月,南京大学、江北科投集团、华为公司三方签约,共同孵化“金陵·女娲”科研大模型。这一大模型可帮助研究人员从基因出发探究生命体的新规律,为罕见病诊断以及药物设计提供支撑。“为了发现可能药物或有效靶标,原本需要做千万次尝试,有了大模型的辅助,只需做十分之一甚至百分之一的工作量。”戴晓玉解释。

当下,东南大学毫米波国家重点实验室、南农作物遗传与种质创新国家重点实验室、中科院自动化所等科研机构都在该中心进行科研大模型的孵化,未来可应用于人工智能生物学、EDA、智能制造和智慧育种等产业。

标签:

推荐文章

X 关闭

最新资讯

X 关闭