【LEYU科技动静】5月7日,遐想立异科技年夜会正式召开,年夜会以“让AI成为立异出产力”为主题,缭绕混淆式人工智能,从小我私家到企业,全方位出现了遐想的立异技能结果。

会上,遐想初次提出“超等智能体”观点,并明确其三年夜焦点功效,即感知与交互、认知与决议计划、自立与演进。同时,遐想正式发布“遐想天禧”小我私家超等智能体及“遐想乐享”企业超等智能体。
值患上存眷的是,遐想展示了于端侧算力范畴的最新冲破——“遐想推理加快引擎”。该引擎由遐想、清华年夜学和无问芯穹结合研发,是专为高效AI PC推理打造的软硬件协同优化平台。经由过程它,平凡PC的当地推理能力可媲美OpenAI去年发布的o1-mini云端模子。
“遐想推理加快引擎”应用高机能并行解码、算子交融优化和异构计较技能,于多种运用场景下年夜幅晋升推理速率,同时显著降低功耗及内存占用。与年夜模子推理芯片联合后,硬件加快与软件优化无缝协作,机能晋升形成叠加效应。

为直不雅揭示该引擎实力,遐想立异科技年夜会现场举行了“竞速赛”。三台配置不异的AI PC同时解答2024年高考数学压轴题,初代年夜模子耗时27秒且谜底0分,二代年夜模子耗时26秒获满分,而搭载“遐想推理加快引擎”的二代年夜模子仅耗时13秒便获满分。这注解,模子能力晋升与“遐想推理加快引擎”的算力优化,使装备预填充更快、解码速率更高、推理时间更短,内存占用及能耗更低,AI能力年夜幅晋升。
版权所有,未经许可不患上转载
-leyu.com