由於一般生成式AI教学存在着应用层次、算力资源及实作场景等三大断层,东海大学携手HPE、NVIDIA及AMD打造全台首创「从晶片到应用」的全栈式(full-stack) LLM校园学习平台,让学生能实际建置AI Agent、微调大型语言模型(LLM),创造具商业价值的AI应用,以克服AI教学的三大断层。
 |
东海大学携手HPE、NVIDIA及AMD打造全台首创「从晶片到应用」的全栈式LLM校园学习平台,除了於校园内提供产业级算力资源,更建构跨领域教学与实作场景。 |
随着人工智慧技术掀起全球教育革命,东海大学借助HPE等科技厂商的技术团队,结合敦新科技的系统整合专业,导入高效能AI伺服器及AI深度学习解决方案,除了在校园内提供产业级算力资源,更建构跨领域教学与实作场景,今(6)日举行平台启用仪式,现场贵宾云集。
东海大学校长张国恩表示,东海大学AI中心推动AI产官学合作、AI课程,而今再度创新突破,平台试运半年来,已诞生2组具商业价值的作品,包含应用於本地端AI护理师助理系统(PrivNurse AI)与整合「检索增强生成」(RAG) 架构的课程学习助教。张国恩表示,教育的本质在於让知识转化为实践力,创造出真正能解决产业与社会需求的应用,这次和HPE一同打造LLM学习平台,不只是技术的革新,更是学习模式的变革,未来也会进一步优化系统,将基於LLM的聊天机器人开放校外使用,让社会大众共同体验先进的AI科技,善尽大学的社会责任和影响力。
东海大学携手HPE、NVIDIA及AMD等三大巨头,共同打造全台第一个「从晶片到应用」的全栈式(full-stack) LLM校园学习平台,将人文与AI科技结合,共同帮助台中市打造为全台最隹的人文数位城市。
HPE台湾暨香港董事长王嘉升表示,双方携手合作推动生成式AI教育的发展,帮助学生深化跨领域理论与应用学习,并为教师提供创新教学工具,提升教学效率。目前HPE正积极将AI技术融入教育与研究流程,扩展在智慧校园、教学资源管理等领域的应用,期??加速教育科技的数位转型,培养更多具备AI能力的人才。
图资长杨朝楝提及东海建置全栈式LLM校园学习平台,采用混合云架构并搭配於2024年率先导入CPU+NPU且内含先进GPU运算设备的「玉钗AI NB教室」进行教学,帮助东海学生在较短的时间内完成复杂的运算任务,亦将教学环境从「工具使用」升级到「模型创造」,并从产业面导入边缘运算方案,将产业问题整合为领域知识微调模型,建立跨领域资料库及部署架构,并且进一步为资讯与非资讯专业科系学生增设相对应的课程,未来学生可以自行建立更多LLM应用增进学习,甚至助力产业发展。