如何在 EdgeAI 部署生成式 AI

活动名称： Microsoft Phi Family 工作坊｜如何在 EdgeAI 部署生成式 AI

活动简介：

在生成式 AI 蓬勃发展的当下，我们不仅要借助云端的 API 的强大能力，还需兼顾传统的应用场景，比如在边缘设备上进行模型部署。

2月23日，Microsoft Phi Family 工作坊，我们将聚焦 Microsoft Phi 家族模型，采用 ONNX 的方式进行部署模型，并借助 Microsoft Olive 这一开源工具，实现完整的基于 EdgeAI 的 GenAI Ops 流程。

本次工作坊，我们将尝试在自己的设备上部署 Phi 模型，基于行业数据进行针对性微调，并运用 AITK 在本地对量化转换后的模型展开评估。此外，也欢迎大家加入 EdgeAI 社区，第一时间掌握最新 EdgeAI 知识，贡献自己的智慧与内容，共同推动 EdgeAI 技术的发展与创新。

加入我们，一起深入探索 EdgeAI 前沿应用！

活动时间：2024年2月21日（周五）13:30-16:30
活动地点：上海市徐汇区龙腾大道2555号 西岸艺术中心 B馆B-W-2

活动日程：
13:30 -14:00 签到
14:00 -15:00 介绍 Phi-4 in EdgeAI
15:00 -16:30 工作坊：快速部署属于自己的 AI 小模型

工作坊准备：

• 笔记本电脑
• 具备 Python / .NET 基础

分享嘉宾
卢建晖
微软高级云技术布道师
在 AI Core Team 负责小模型 Phi 3 在全球的技术内容推广，有超过18年的金融、电信、教育等领域的行业解决方案经验，专注在云原生、人工智能、大数据、物联网等领域。在 GenAI 领域著有围绕小模型的《Phi-3 Cookbook》（阅读量超过40万）和 Copilot 应用框架《Semantic Kernel Cookbook》，并为不同客户提供基于 LLMOps 和 SLMOps 的一体化解决方案。