适用于 AI 和机器学习项目的 Coral AI 双边缘加速器
Coral AI双边缘加速器是一款改变游戏规则的设备,在一个小巧的包装中具有令人印象深刻的冲击力。这款单 PCI M.2 芯片不是一个,而是两个张量处理单元 (TPU),为本地 AI 应用提供无与伦比的机器学习 (ML) 马力。凭借其经济实惠的前期成本和低功耗,双边缘加速器实际上可以随着时间的推移收回成本。
Coral AI双边加速器与USB和单PCIe加速器的不同之处在于,它能够产生双倍的ML性能,同时仍然依赖于相同的M.2插槽。这个小巧的动力装置可以毫不费力地超过2000美元的CPU,使其成为护卫舰NVR监控等应用的家庭助理人群的最爱。借助 Dual Edge Accelerator,一个 25 美元的 Coral TPU 可以快速浏览 TensorFlow Lite 模型,以每秒 800 帧的速度实时分析人和物体的图像。
双总线 PCIe 要求
虽然Coral AI双边缘加速器的潜力是巨大的,但驾驭双总线PCIe要求的复杂性并找到支持必要分叉的主板可能具有挑战性。并非所有适配器都是一样的,也不是每个主板都准备好释放这项技术的全部潜力。然而,在正确的指导和一点耐心下,将基本的家庭实验室设置转变为最先进的护卫舰 NVR 监控系统是可以实现的。观看以下Data Slayer的教程,了解更多关于Coral AI双边缘加速器的强大功能。
设置Coral AI双边缘加速器
首先,您需要双边缘 TPU 本身,它具有一个缺口,使其成为 E 键。虽然两个PCIe芯片都适合大多数M.2插槽,但正确的功能需要一个适配器,该适配器支持并行运行两个TPU所需的双PCIe总线。Maker Fabs 的双 HTPU 适配器低剖面是一个可靠的选择,提供了成功的记录。
拥有硬件后,请按照以下步骤设置Coral AI双边缘加速器。
- 将 Dual Edge TPU 以 30 度角插入 M.2 插槽并将其固定。
- 在操作系统上安装必要的驱动程序和软件包,以使硬件可用。一个简单的 shell 脚本可以自动执行此过程。
- 使用适当的命令验证主机是否识别了两个 TPU。
- 设置依赖于 Docker 的 Frigate,并将每个 TPU 设备传递到容器,以便 Frigate 可以与它们通信。
- 通过编辑 MQTT 配置文件并重新启动服务来配置 MQTT,这是 Frigate 所依赖的消息中继工具。
- 使用必要的设置创建护卫舰配置文件 (config.yml)。
- 使用网络摄像头或 IP 摄像机设置 RTSP 流,利用开源 RTSP 服务器软件和 FFmpeg 将视频源发送到 Frigate。
有关如何设置Coral AI双边加速器的更全面说明,请跳转到Tim Moody创建的设置页面。
监测性能和温度
随着Coral AI双边缘加速器的启动和运行,您可以实时监控其性能和温度。PCIe加速器允许温度监控,并具有温度调节功能,以确保最佳性能。自定义脚本可用于密切关注两个Coral设备的温度,为您的硬件提供有价值的可观测性指标。
本地AI处理
通过利用Coral AI双边缘加速器进行设备上的ML处理,您可以享受许多好处,包括。
- 减少延迟,实现更快、响应更灵敏的应用程序
- 通过将敏感信息保留在本地来增强数据隐私
- 无需持续的互联网连接
- 功耗低得令人难以置信,在重载下,该装置的功耗略高于 6 瓦
Coral AI Dual Edge Accelerator 现在可以购买,售价为 40 美元,证明了本地 AI 处理的力量和潜力。通过利用这款小巧但功能强大的设备,开发人员和发烧友可以突破边缘计算的极限,创建比以往任何时候都更快、更安全、更高效的创新应用程序。