跳到主要内容

神经网络入门

通过Limelight的神经网络管道,曾经不可能完成的计算机视觉挑战现在变得轻而易举。基于学习的视觉已经在最先进的机器人和自动驾驶车辆中发挥着巨大作用,因此我们很高兴能将这项技术带给FIRST的学生们。

信息

Limelight 1、2和3都支持借助Google Coral的基于学习的视觉。Google Coral是一个需要单独购买的USB加速器。

看看2023年世界冠军1323队如何使用Limelight的神经网络管道:

从我们的下载页面下载预训练的神经网络。

在FRC中,团队一直希望在自主和遥操作期间跟踪场地上的比赛物品。 使用Limelight的"神经检测器"管道,团队可以像跟踪任何其他目标一样跟踪物品,无需任何调整。

另一方面,"神经分类器"管道允许团队为他们的机器人添加高级感知能力。 假设一个团队想要确定他们的机器人是否持有红球、蓝球或没有持有球。 一个指向机器人内部的Limelight可以运行一个经过训练的分类器来确定这三种情况之一。分类器还可以计算料斗中的物品数量,确定场地特征的状态等。

神经检测器和分类器网络需要添加Google Coral USB加速器。Google Coral加速器是一种ASIC(专用集成电路),专门用于神经网络推理。你可以将"推理"这个术语理解为"执行"或"将数据通过神经网络并产生输出"。

如果你有兴趣深入了解机器学习,我们建议从3blue1brown的这个视频开始

程序员可以通过以下书籍以更实践的方式学习

神经检测器管道

首先,确保你的Google Coral已插入Limelight的USB-A端口。

将"Pipeline Type"更改为"Neural Detector"以开始在内置测试模型上运行推理。从我们的下载页面下载预训练的神经网络,并上传它以开始跟踪比赛物品。

调整"confidence threshold"滑块以调整成功检测所需的置信度。

更改裁剪窗口可以轻松忽略所需检测区域之外的物体。

神经分类器管道

首先,确保你的Google Coral已插入Limelight的USB-A端口。

将"Pipeline Type"更改为"Neural Classifier"以开始在内置测试模型上运行推理。你可以使用"训练"部分中记录的方法训练自己的分类器模型。

"Crop"窗口将允许你更好地控制用于神经网络推理的图像。虽然分类器模型能够在不同环境中实现令人难以置信的泛化水平,但通过最小化图像中的变量数量,你将获得更大的成功。