跳到主要内容

神经网络入门

通过Limelight的神经网络管道,曾经不可能完成的计算机视觉挑战现在变得简单。基于学习的视觉技术已经在前沿机器人和自动驾驶车辆中扮演着重要角色,因此我们很高兴能将这项技术带给FIRST的学生们。

信息

Limelight 1、2和3都支持基于学习的视觉技术,需要借助Google Coral。Google Coral是一种USB加速器,需要单独购买。

看看2023年世界冠军1323队如何使用Limelight的神经网络管道:

从我们的下载页面下载预训练的神经网络。

在FRC比赛中,队伍一直希望在自动和遥控操作期间跟踪场地上的比赛道具。 使用Limelight的"神经检测器"管道,队伍可以像跟踪任何其他目标一样跟踪道具,无需任何调整。

另一方面,"神经分类器"管道允许队伍为他们的机器人添加高级感知能力。 假设一个队伍想要确定他们的机器人是否持有红球、蓝球或没有持有球。 指向机器人内部的Limelight可以运行一个经过训练的分类器来确定这三种情况之一。分类器还可以计算料斗中物体的数量,确定场地特征的状态等。

神经检测器和分类器网络需要添加Google Coral USB加速器。Google Coral加速器是一种ASIC(专用集成电路), 专为神经网络推理而设计。你可以将"推理"一词理解为"执行"或"将数据通过神经网络并产生输出"。

如果你有兴趣深入了解机器学习,我们建议从3blue1brown的这个视频开始

程序员可以通过以下书籍进行更实际的学习

神经检测器管道

首先,确保你的Google Coral已插入Limelight的USB-A端口。

将"Pipeline Type"更改为"Neural Detector",开始在内置测试模型上运行推理。从我们的下载页面下载预训练的神经网络,并上传它以开始跟踪比赛道具。

调整"confidence threshold"滑块来调整成功检测所需的置信度。

更改裁剪窗口可以轻松忽略所需检测区域外的物体。

神经分类器管道

首先,确保你的Google Coral已插入Limelight的USB-A端口。

将"Pipeline Type"更改为"Neural Classifier",开始在内置测试模型上运行推理。你可以使用"训练"部分中记录的方法训练自己的分类器模型。

"Crop"窗口将允许你更好地控制用于神经网络推理的图像。虽然分类器模型能够在不同环境中实现令人难以置信的泛化水平,但通过 最小化图像中的变量数量,你将获得更大的成功。