分别使用域内未标记和标记数据对各项任务进行预训练和微调 , 还使用在不同临床环境中获得的另一个数据集作为偏移数据集 , 以进一步评估我们的方法对域外数据的稳健性 。 对于胸部 X 射线任务 , 使用 ImageNet 或 CheXpert 数据进行自监督预训练可以提高泛化能力 , 同时使用两者还可以进一步提高此能力 。 正如预期的那样 , 当仅使用 ImageNet 进行自监督预训练时 , 与仅使用域内数据进行预训练相比 , 该模型的表现更差 。
为测试分布偏移下的表现 , 对于各项任务 , 额外提供在不同临床环境下收集的标记数据集以进行测试 。 发现使用自监督预训练(同时使用 ImageNet 和 CheXpert 数据)时 , 分布偏移数据集 (ChestX-ray14) 的表现有所提升 , 比 CheXpert 数据集的原始提升更为明显 。 这一发现颇具价值 , 因为分布偏移下的泛化能力对于临床应用至关重要 。 在皮肤病学任务中 , 我们观察到某一单独的偏移数据集具有类似趋势 , 该数据集收集自皮肤癌诊所 , 具有较高的恶性疾病发病率 。 这表明自监督表征对分布偏移的稳健性在不同任务间具有一致性 。
用于胸部 X 射线解读任务的分布偏移数据集模型评估 。 我们在没有进一步微调(零样本迁移学习)的情况下 , 使用在域内数据上训练的模型对额外的偏移数据集进行预测 。 我们观察到 , 自监督预训练会产生更好的表征 , 对分布偏移更稳健
用于皮肤病学任务的分布偏移数据集模型评估 。 结果普遍表明 , 自监督预训练模型可以在分布偏移中得到更好的泛化 , 其中 MICLe 预训练对泛化能力的提升最为明显
通过在不同分数的标记训练数据上对模型进行微调 , 进一步研究了用于医学图像分类的自监督模型的标记效率 。 我们对 Derm 和 CheXpert 训练数据集使用 10% 到 90% 的标签分数 , 并使用皮肤病学任务的不同可用标签分数研究性能如何变化 。 使用自监督模型进行预训练可以弥补医学图像分类标签效率低下的情况 , 并且在采样的标签分数中 , 自监督模型表现始终优于监督基线 。 结果还表明 , 使用较少的标记示例进行微调时 , MICLe 会按比例提升标签效率 。 事实上 , MICLe 仅使用 20% 的 ResNet-50(4 倍)训练数据和 30% 的 ResNet152(2 倍)训练数据就能够与基线持平 。
自动驾驶Corner Case终结者自监督学习
当自动驾驶汽车在行驶过程中 , 需要实时理解各种交通参与者的运动 , 这些运动状态信息对于各个技术模块来说都非常重要 , 涉及检测、跟踪、预测、规划等等 。
自动驾驶汽车通常配有多个传感器 , 其中最常用的是激光雷达 。 因此 , 如何从点云中获得其他交通参与者的运动信息是一个重要课题 , 并且存在如下挑战:交通参与者的类别不一样 , 每个类别都表现出特定的运动行为:
- 激光雷达点云的稀疏性导致两次激光雷达扫描的情况不能精确地对应起来;
- 需要在很短的时间限制内和有限的车载算力下完成计算 。
根据所观测到的历史信息 , 来预测交通场景会如何变化 , 从而实现预测 。 但是 , 大多数识别模型都是为检测若干已知类别的物体而训练的 。 在实际情况中 , 经常会遇上没出现过的物体类别 。 这肯定不是长久之计 。
通过估计激光雷达点云每个点的3D运动来从点云中估计场景流
但这样做对计算的要求太高了 , 自动驾驶车又特别需要达到实时性 , 所以根本无法进行实际应用 。
基于BEV(bird’s eye view)的方式
- 36氪首发|烹饪机器人公司「智谷天厨」获数千万元天使轮融资,羲融善道独家投资
- 网友热议|母亲回应3个孩子2个上清华:只能教孩子做人诚实守信 学习都靠自己努力
- 机器人|华为机器人新专利上线 网友:先有华为后有天开上鸿蒙如升仙
- 金字塔是时间机器?用途是拉伸和压缩时间,或能使生命延长和衰老
- 第六届全省中小学生互联网+机器人设计活动决赛顺利结束
- “文旅机器人小i”上岗
- 文旅机器人“小i”来了
- 如何评价扫地机器人离家出走一事?
- 李飞飞团队将ViT用在机器人身上,规划推理最高提速512倍
- 格力电器|不要再说Python难了,按照这个学习路线,四周速成Python
