模型部署系列：TensorRT优化原理及模型转换的三种方式
Published:
- TensorRT 是可以在 NVIDIA 各种 GPU 硬件平台下运行的一个 C++推理框架。我们利用 Pytorch、TF 或者其他框架训练好的模型，可以转化为 TensorRT 的格式，然后利用 TensorRT 推理引擎去运行我们这个模型，从而提升这个模型在英伟达 GPU 上运行的速度。速度提升的比例是比较可观的。
Posts by Tags
AI模型部署
DeepSparse
模型部署系列：10x速度提升，Yolo检测模型稀疏化——CPU上超500FPS
Published:
YOLOv8由广受欢迎的YOLOv3和YOLOv5模型的作者 Ultralytics 开发，凭借其无锚设计将目标检测提升到了一个新的水平。YOLOv8 专为实际部署而设计，重点关注速度、延迟和经济性。
Objectness
有意思的损失函数：一文详细解释Yolo中Objectness的重要性
Published:
损失函数对不同的框进行不同的处理，最佳框与所有其他框之间的区分机制是 YOLO 损失的核心。使用单独的对象置信度损失 objectness 来处理分数确实比将类概率 confidence 视为分数表现得更好，在SSD目标检测中考虑类概率作为置信度分数其效果要明显差于带置信度的Yolo模型。
SAHI
大幅提升小目标检测性能：面向深度学习超大分辨率输入图像的通用处理框架
Published:
为了解决小目标检测问题，同时也可以解决超大分辨率图像的问题（如遥感图像、病理图像、医疗影像等），本文提出了一个在微调和推理阶段基于切片的通用框架。将输入图像划分为重叠的切片，对于小目标相对于输入网络的图像产生相对较大的像素区域。
SAM
视觉基准大模型：基于分割一切SAM模型的微调
Published:
Meta 的两个大型模型在当前 AI 开源界处于领先地位：LLM 的 LLaMA 和 CV 的 SAM。其中Segment Anything Model 是一个基于 Transformer（ViT 主干）的视觉分割基础模型。它可以通过零样本概括自动分割任何图像。另外模型还融入了Prompt：它们可以是要分割的区域上的点、要分割的对象周围的边界框或有关应分割的内容的文本提示。该模型由 3 个组件组成：图像编码器、提示编码器和掩模解码器。
TensorRT
模型部署系列：TensorRT优化原理及模型转换的三种方式
Published:
- TensorRT 是可以在 NVIDIA 各种 GPU 硬件平台下运行的一个 C++推理框架。我们利用 Pytorch、TF 或者其他框架训练好的模型，可以转化为 TensorRT 的格式，然后利用 TensorRT 推理引擎去运行我们这个模型，从而提升这个模型在英伟达 GPU 上运行的速度。速度提升的比例是比较可观的。
Ultralytics
大幅提升小目标检测性能：面向深度学习超大分辨率输入图像的通用处理框架
Published:
为了解决小目标检测问题，同时也可以解决超大分辨率图像的问题（如遥感图像、病理图像、医疗影像等），本文提出了一个在微调和推理阶段基于切片的通用框架。将输入图像划分为重叠的切片，对于小目标相对于输入网络的图像产生相对较大的像素区域。
模型部署系列：10x速度提升，Yolo检测模型稀疏化——CPU上超500FPS
Published:
YOLOv8由广受欢迎的YOLOv3和YOLOv5模型的作者 Ultralytics 开发，凭借其无锚设计将目标检测提升到了一个新的水平。YOLOv8 专为实际部署而设计，重点关注速度、延迟和经济性。
YOLOv8
模型部署系列：10x速度提升，Yolo检测模型稀疏化——CPU上超500FPS
Published:
YOLOv8由广受欢迎的YOLOv3和YOLOv5模型的作者 Ultralytics 开发，凭借其无锚设计将目标检测提升到了一个新的水平。YOLOv8 专为实际部署而设计，重点关注速度、延迟和经济性。
Yolo目标检测
有意思的损失函数：一文详细解释Yolo中Objectness的重要性
Published:
损失函数对不同的框进行不同的处理，最佳框与所有其他框之间的区分机制是 YOLO 损失的核心。使用单独的对象置信度损失 objectness 来处理分数确实比将类概率 confidence 视为分数表现得更好，在SSD目标检测中考虑类概率作为置信度分数其效果要明显差于带置信度的Yolo模型。
大模型
视觉基准大模型：基于分割一切SAM模型的微调
Published:
Meta 的两个大型模型在当前 AI 开源界处于领先地位：LLM 的 LLaMA 和 CV 的 SAM。其中Segment Anything Model 是一个基于 Transformer（ViT 主干）的视觉分割基础模型。它可以通过零样本概括自动分割任何图像。另外模型还融入了Prompt：它们可以是要分割的区域上的点、要分割的对象周围的边界框或有关应分割的内容的文本提示。该模型由 3 个组件组成：图像编码器、提示编码器和掩模解码器。
微调
视觉基准大模型：基于分割一切SAM模型的微调
Published:
Meta 的两个大型模型在当前 AI 开源界处于领先地位：LLM 的 LLaMA 和 CV 的 SAM。其中Segment Anything Model 是一个基于 Transformer（ViT 主干）的视觉分割基础模型。它可以通过零样本概括自动分割任何图像。另外模型还融入了Prompt：它们可以是要分割的区域上的点、要分割的对象周围的边界框或有关应分割的内容的文本提示。该模型由 3 个组件组成：图像编码器、提示编码器和掩模解码器。
损失函数
有意思的损失函数：一文详细解释Yolo中Objectness的重要性
Published:
损失函数对不同的框进行不同的处理，最佳框与所有其他框之间的区分机制是 YOLO 损失的核心。使用单独的对象置信度损失 objectness 来处理分数确实比将类概率 confidence 视为分数表现得更好，在SSD目标检测中考虑类概率作为置信度分数其效果要明显差于带置信度的Yolo模型。
数据分析
人工智能数据集可视化统计分析工具：快速了解你的数据集
Published:
Lightly Insights：可以轻松获取关于机器学习数据集基本洞察的工具，可以可视化图像数据集的基本统计信息，仅需提供一个包含图像和对象检测标签的文件夹，它会生成一个包含指标和图表的静态 HTML 网页。
数据可视化
人工智能数据集可视化统计分析工具：快速了解你的数据集
Published:
Lightly Insights：可以轻松获取关于机器学习数据集基本洞察的工具，可以可视化图像数据集的基本统计信息，仅需提供一个包含图像和对象检测标签的文件夹，它会生成一个包含指标和图表的静态 HTML 网页。
目标检测
人工智能数据集可视化统计分析工具：快速了解你的数据集
Published:
Lightly Insights：可以轻松获取关于机器学习数据集基本洞察的工具，可以可视化图像数据集的基本统计信息，仅需提供一个包含图像和对象检测标签的文件夹，它会生成一个包含指标和图表的静态 HTML 网页。
大幅提升小目标检测性能：面向深度学习超大分辨率输入图像的通用处理框架
Published:
为了解决小目标检测问题，同时也可以解决超大分辨率图像的问题（如遥感图像、病理图像、医疗影像等），本文提出了一个在微调和推理阶段基于切片的通用框架。将输入图像划分为重叠的切片，对于小目标相对于输入网络的图像产生相对较大的像素区域。
量化
模型部署系列：TensorRT优化原理及模型转换的三种方式
Published:
- TensorRT 是可以在 NVIDIA 各种 GPU 硬件平台下运行的一个 C++推理框架。我们利用 Pytorch、TF 或者其他框架训练好的模型，可以转化为 TensorRT 的格式，然后利用 TensorRT 推理引擎去运行我们这个模型，从而提升这个模型在英伟达 GPU 上运行的速度。速度提升的比例是比较可观的。