「内附完备论文」AIR近期亮点论文解读
AIR自建立以来，围绕伶俐交通、伶俐医疗、伶俐物联三大研讨朝向展开体系深化的研讨，在美国封建院院刊（PNAS）、CVPR、NeurIPS、ICLR和MobiSys等紧张国际期刊和聚会会议上公布88篇高水平论文，研讨后果取得MobiSys 2021最佳论文奖、CVPR 2021最佳学生论文奖提名、AAAI-IAAI 2022人工智能创新使用奖等奖项。
今天，小编就为各位精选了12篇近期AIR公布的亮点论文，做一期择要解读，文末可获取完备论文打包下载办法。
伶俐交通
DAIR-V2X: A Large-Scale Dataset for Vehicle-Infrastructure Cooperative 3D Object Detection
作者：俞海宝，罗弈桢，舒茂，霍漪漪，杨泽邦，时一峰，郭正龙，李晗禹，胡星，袁基睿，聂再清
单位：AIR、百度、清华大学盘算机系、中国封建院大学
聚会会议：CVPR 2022
择要：单车主动驾驶存在驾驶盲区、中远距离感知不安定等成绩，因此在落地时面临宁静性等宏大挑唆。交融路侧信息的车路协同主动驾驶将是保证主动驾驶宁静运转的必经之路。但是如今车路协同范畴短少来自真实场景的公开数据，为促进学术界和产业界协同打造数据驱动的车路协同主动驾驶，团队公开车路协同主动驾驶数据集DAIR-V2X。DAIR-V2X数据集是首个采自真实场景的大范围（一共71254帧，并全部举行3D标注）、多视角（包含车端与路端及相反时空下的团结视角）、多模态（包含图像和激光点云）数据集。别的数据集还提供了车端与路端团结视角下的交融标注后果，用于更好地办事车路协同算法研讨和评价。同时为便利学术界基于DAIR-V2X数据集展开学术研讨，团队还从车路协同实践需求动身界说了车路协同3D检测职责-VIC3D Object Detection，即在通讯带宽束缚下车端交融路端信息举行3D检测。该成绩有三大挑唆：1）怎样交融路端信息以提升3D检测精度；2）怎样变小路端数据传输以变小通讯带宽斲丧；3）怎样处理由于时延等带来的时空偏差成绩。同时团队还提供了完备的车路协同3D检测和单端（车端与路端）3D检测的Benchmark，以作为算法研讨基准。现在DAIR-V2X数据集以前可以公开下载（下载链接：
https://thudair.baai.ac.cn/index），团队也将于近期公开Benchmark一切干系完成代码。该事情取得北京市高等别主动驾驶树模区、北京车网科技提高仅限公司、百度Apollo和北京智源人工智能研讨院等单位的大力支持。
Constraints Penalized Q-Learning for Safe Offline Reinforcement Learning
作者：徐浩然、詹仙园（通讯作者）、朱翔宇
单位：京东科技、AIR、西安电子科技大学
聚会会议：AAAI 2022
择要：离线强化学习是比年来强化学习研讨的抢手朝向，其目标是直接从搜集的多量汗青数据中学习战略，而不和真实情况举行交互，这是使得强化学习可以使用于真实天下的最佳途径。但是，将离线强化学习使用在真实天下时必必要思索到宁静要素的影响，现有的事情难以在满意宁静束缚和最大化嘉奖代价中取得均衡，容易招致战略显现过保守大概欠保守的征象。
为了处理这一成绩，本文提出了一种新的基于束缚值处罚的Q学习算法CPQ。起首在用数据集拟合风险Q函数时加上一个分外的丧失项，该丧失项会将偏离数据分布的举措的风险Q函数值上升；然后在更新代价Q函数的目标值时，在原本的贝尔曼方程上乘上一个对否满意束缚条件的指示函数，经过该指示函数，隐式地将数据分布外和不满意宁静束缚的举措的代价Q函数变小；最初在学习战略时，和稀有的Actor-critic算法一样，让战略朝着能使得代价Q函数值最大的朝向更新。
文章中从实际上证实白所提办法的收敛性以及与最优宁静战略代价差的上界，并在不同品种的离线数据集上验证了CPQ的好效性。实行证实团队的办法在嘉奖最大化和练习安定性上均优于其他基准算法，并且关于宁静束缚限定值的改动体现出鲁棒性。
Cerberus Transformer: Joint Semantic, Affordance and Attribute Parsing
作者：陈小雪，刘天瑜，赵昊，周谷越，张亚勤
单位：AIR，香港科技大学，北京大学，英特尔研讨院
聚会会议：CVPR 2022
择要：多职责室内场景了解是盘算机视觉的一个紧张研讨朝向，与单职责模子比拟，使用不同职责间的干系性约莫会提高各个职责的功能。在本文中，团队提出并处理了语义、可供性和属性团结剖析的新成绩。告捷地处理这个成绩必要一个模子来捕捉长程依托，从弱对齐的数据中学习，并在练习时期得当地均衡子职责。为此，团队提出了一个名为 Cerberus 的基于注意力的架构和其适配的练习框架。团队的办法好效地处理了上述挑唆，并在一切三个职责上取得了最优秀的功能。别的，深化分析体现团队的模子体现了与切合人类认知的子职责干系性，这引发了团队探究弱监督学习的约莫性。令人惊奇的是，Cerberus 仅使用 0.1%-1%的标注就取得了较强的后果，可视化进一步证实，这种告捷归功于跨职责的协同注意力机制。代码和模子见：
https://github.com/OPEN-AIR-SUN/Cerberus。
PQ-Transformer: Jointly Parsing 3D Objects and Layouts from Point Clouds
作者：陈小雪，赵昊，周谷越，张亚勤
单位：AIR，北京大学，英特尔研讨院
聚会会议：RA-L+ICRA 2022
择要：基于点云的三维场景了解关于种种机器人使用起着至关紧张的作用。不幸的是，如今最优秀的办法通常使用单独的神经网络来完成不同的职责，比如三维目标检测或房间布局估测。如此的方案有两个限定：1）关于寻常机器人平台来说，为不同的职责存储和运转多个网络是昂贵的。2) 单职责网络输入的后果约莫无视了不同职责间的内在接洽和束缚。为此，团队提出了第一个使用点云输入同时猜测 3D 目标和布局的Transformer网络。与现有的布局估测办法不同，团队直接将房间布局参数化为一组四边形。因此，所提出的架构被称为 P(oint)Q(uad)-Transformer。除四边形表现之外，团队还提出了一种适配的物理束缚丧失函数，可以制止目标与布局显现相交的征象。在ScanNet数据集上的定量和定性后果标明，PQ-Transformer可以告捷地团结剖析物体和布局。并且，新的物理束缚丧失可以提高准确率，房间布局的 F1-score 从 37.9%明显提升到 57.9%。代码和模子见：
https://github.com/OPEN-AIR-SUN/PQ-Transformer。
伶俐医疗
Deep Learning Guided Optimization of Human Antibody Against SARS-CoV-2 Variants with Broad Neutralization
作者：单思思，罗世通，杨子卿，洪俊贤，苏雨峰，丁凡，傅莉莉，李晨雨，陈鹏，马剑竹，史宣玲，张绮，Bonnie Berger，张林琦，彭健
单位：清华大学医学院，华深智药生物科技(北京)仅限公司，伊利诺伊大学厄巴纳-香槟分校，麻省理工学院，AIR
期刊：PNAS
择要：经过渐变，病毒可以逃逸人体免疫体系的打击，而开发用于疫苗和医治的广谱中和抗体照旧很大的武艺挑唆。面临新冠病毒变种，包含已被同意告急使用（EUA）的很多中和抗体，都减弱乃至丢失了中和才能。在此，团队引入了一种能好效加强抗体对病毒的亲和力的几多深度学习算法，以提高抗体对病毒变种的广谱中和才能。经过优化人源抗体P36-5D2，一种能中和新冠病毒阿尔法，贝塔，伽马变种但无法中和德尔塔变种的抗体，团队展现了办法的好效性。
团队的几多深度神经网络变革优化了该抗体互补决定地区（CDR）的序列，好效提高了其对多个新冠病毒变种的亲和力。颠末多轮优化与实行丈量，团队能扩展该抗体的中和谱，并以10到600倍加强了其对包含德尔塔变种在内多个新冠病毒变种的亲和力。新冠奥密克戎变种在抗原表位上有两个渐变位点逃逸抗体的团结，而团队也进一步论述了我们的办法能好效侦测抗体互补决定区的改动，以减弱病毒渐变反抗体团结的影响。这些后果突出展现了团队的深度学习算法在抗体优化上的强壮才能，并有极大潜力被使用在其他卵白质优化变革工程中。颠末优化的抗体也将有极高潜力被用于作为针对如今各种新冠病毒变种的抗体药。
Contribution-Aware Federated Learning for Smart Healthcare
作者：Zelei Liu, Yuanyuan Chen, Yansong Zhao, Han Yu, 刘洋，包仁义，蒋锦鹏，聂再清，徐倩，杨强
单位：新加坡南洋理工大学，AIR，医渡云，微众银行
聚会会议：AAAI-IAAI 2022
奖项：AAAI-IAAI 2022人工智能创新使用奖
择要：在文章中，研讨团队团结提出了一个奉献感知联邦学习框架，并在医渡云的真实业务场景中取得了验证。框架在不暴露公家数据的情况下，提供了一种好效和准确的办法来公平川评价联邦学习到场者对模子功能的奉献，并改良了联邦学习模子练习协议，允许将体现最好的正中模子分派给联邦学习练习的到场者。研讨发觉，模子对联邦学习奉献度的分析评价为原有办法提速2.84倍。同时，模子更是将准确度提升了2.62%，为伶俐医疗康健的产业使用带来明显提升。
Equivariant Graph Mechanics Networks with Constraints
作者：黄文炳，韩家琦，荣钰，徐挺洋，孙富春，黄俊洲
单位：AIR，清华大学盘算机系，腾讯AI Lab，德克萨斯大学阿灵顿分校
聚会会议：ICLR 2022
择要：多体交互及其动力学建模广泛存在于物理、化学等封建范畴的诸多成绩中，从分子动力学模仿到机器人动力学控制等。比年来，越来越多的研讨职员思索使用图神经网络对多体交互举行表现与推理。但是，与平凡图谱数据不同，多体交互所构成的几多图谱（Geometric Graphs）具有内在物理对称性，并常常必要满意某种几多束缚。为了更利益理这些数据，本报告将先容作者迩来提出的一种全新的图神经网络——图力学网络GMN。起首，GMN是等变的，即无论对输入做任何的平移、旋转、翻转等变动，输入都相应地改动。其次，GMN是满意刚体束缚的，输入不会改动输入的几多属性（如棍子的长度、铰链的毗连等）。最初，实际上，GMN具有精良的模子表达才能。为了更好地验证GMN的才能，我们布局了一个由一定数目标球、棍子和铰链构成的假造物理体系，GMN能比其他办法改准确地猜测这些体系演化，并满意上述所说的实质。别的，在真实的使用场景包含分子动力学模仿和人体骨架轨迹猜测等，验证了GMN的好效性。
Uncertainty Calibration for Ensemble-Based Debiasing Methods
作者：熊睿彬，陈奕梦，庞亮，程学旗，马志明，兰艳艳
单位：中科院盘算武艺研讨所，百度，中科院数学与体系封建研讨院，AIR
聚会会议：NeurIPS 2021
择要：机器学习模子对数据集偏差（dataset bias）的依托会侵害其在分布外数据集上的泛化才能。基于集成的去偏办法（EBD）可以好效减小分类器对数据集偏差的依托。它们经过使用偏差模子（bias-only model）的输入来调停分类器的学习目标。在此项事情中，团队眷注偏差模子，它在EBD办法中发扬紧张的作用，但没有取得充足的眷注。实行上，本文发觉现有的偏差模子产生的不确定性估测存在一定偏差，实际上，本文证实白偏差模子禁绝确的不确定性估测（uncertainty estimates）会极大的侵害去偏功能。基于这些发觉，本文提出对偏差模子举行校准，从而完成一个基于集成的三阶段去偏框架 MoCaD。在天然言语推理和内幕验证职责上的多量实行标明，MoCaD在已知和未知数据集偏差方面优于相应的EBD办法。别的，团队经过具体的实证分析验证了文章中证实的实际结论。
伶俐物联
nn-Meter: Towards Accurate Latency Prediction of Deep-Learning Model Inference on Diverse Edge Devices
作者：张丽，韩世豪，魏剑宇，郑宁馨，曹婷，杨玉庆，刘云新
单位：微软亚洲研讨院，罗斯-霍曼理工学院，中国封建武艺大学，AIR
聚会会议：MobiSys 2021
奖项：最佳论文奖（Best Paper）、本届聚会会议唯一取得Artifact Evaluation 全部三个最高等别徽章
择要：随着深度学习在挪动端的崛起，推理延长（inference latency）以前成为在种种挪动和边沿装备上运转深度神经网络（DNN）模子的一个紧张目标。为此，猜测DNN模子推理的延长十分必要，尤其是关于无法在真实装备上测试延长大概代价太高的职责，比如从宏大的模子计划空间中寻觅具有延长束缚的好效的DNN模子。但是，由于不同边沿装备上运转时（runtime）的不同优化招致了模子推理延长的宏大差别，准确猜测推理延长仍旧十分具有挑唆性。现在，现有办法无法完成高精度的猜测。
在本文中，团队提出并开发了 nn-Meter，可高效、准确地猜测 DNN 模子在不同边沿装备上的推理延长。它的紧张头脑是将整个模子推理区分为内核（kernel），即装备上的实行单位，然后实行内核级猜测。nn-Meter 创建在两个紧张武艺之上：(i) 内核检测：经过一组计划好的测试用例来主动检测模子推理的实行单位；(ii) 自顺应采样：从大空间中好效地采样最多益的设置，以构建准确的内核级延长猜测器。团队在三个常用的边沿硬件平台（挪动 CPU、挪动 GPU 和Intel VPU）上完成了nn-Meter体系、并使用包含26,000个模子的大型数据集举行评价，后果nn-Meter的体现分明优于先前的最好办法。论文代码开源于
https://github.com/microsoft/nn-Meter。
Rethinking the Representational Continuity: Towards Unsupervised Continual Learning
作者：Divyam Madaan，Jaehong Yoon，李元春，刘云新
单位：KAIST，AIR
聚会会议：ICLR 2022 (oral)
择要：持续学习的目标是学习一连串的职责，并且不会忘记之前取得的知识。但是现有的持续学习办法受限于有监督持续学习场景，不克不及很好的扩展到数据分布不同且没有标注的真实天下使用中。本文专注于无监督持续学习，学习一连串的无标注职责，同时标明白标注数据关于持续学习不是必需的。
本文交融了持续学习和表征学习办法，处理了无监督持续学习成绩。提出了终生无监督殽杂（LUMP）办法，使用如今职责和之前职责的插值数据来缓解无监督数据表征的劫难性忘记，经过体系的分析学习到的数据表征，并标明无监督视觉表征对劫难性忘记更健壮，一律性更好，比有监督持续学习能更顺应分布之外的职责。除此之外，本文经过定性分析，发觉无监督持续学习取得的数据表征更故意义，丧失函数愈加平滑。在CIFAR-10和CIFAR-100数据集上的实行标明，比现有无监督持续学习办法的忘记更少，练习更平滑。并且在少样本学习场景中，LUMP办法到达了最好的功能。论文代码开源于
https://github.com/divyam3897/UCL。
Romou: Rapidly Generate High-Performance Tensor Kernels for Mobile GPUs
作者：作者：梁任冬，曹婷，文吉成，王曼妮，王阳，邹建华，刘云新
单位：微软亚洲研讨院，美国加利福尼亚大学尔湾分校，西安交通大学，AIR
聚会会议：MobiCom 2022
择要：挪动GPU作为一种无处不在的强壮增速器，对深度神经网络(DNN) 在端侧装备上举行推理增速发扬偏紧张作用。挪动GPU的经常晋级和型号的多样性必要主动内核天生以完成快速DNN的快速摆设。但是，现在主动天生内核的功能较差。
本文的目标是快速天生高功能内核以实用于不同型号的挪动GPU。主要的挑唆是(1)由于缺乏对硬件的了解，不清晰什么是功能最佳的内；(2) 怎样从一个宏大搜刮空间中快速天生内核。关于第一个挑唆，团队提出了一个跨平台的分析东西，初次公开和量化了挪动GPU体系布局。团队的后果揭开了硬件瓶颈的奥秘面纱，同时也为第二个挑唆的处理方案提供了引导，由于我们找到了共同的高功能硬件特性，识别出不适配硬件束缚的低效内核，并为内核功能确定了的界限。进而，团队提出了一个为挪动GPU特别计划的内核编译器Romou。它支持在内核完成中使用共同的硬件才能，并针对硬件特性去除低效的内核。因此，Romou可以快速地天生高功能GPU内核。与现在功能最好的主动天生内核比拟力，它在卷积上完成了均匀高达 14.7倍的增速，同时能变小99%的搜刮空间。Romou的功能乃至比最好的手工优化的内核有1.2×的增速提升。论文代码开源于：
https://github.com/microsoft/ArchProbe
Brick Yourself within 3 Minutes
作者：周谷越，罗立一，徐豪，张鑫亮，郭昊乐，赵昊
单位：AIR，麦吉尔大学，千帜科技，北京大学，英特尔研讨院
聚会会议：ICRA 2022
择要：本文先容了一种智能制造体系，可以主动将拍摄的肖像转换成由乐高积木构成的实体小东西。与构成 2D 图像或假造 3D 目标相反，天生物理 3D 拆卸目标必要思索物理特性和拆卸历程，这带来了更多挑唆。为了天生随意肖像的积木块模子，团队将属性空间（从二维图像中提取）和积木块模子空间之间的转换公式化为束缚整数方案成绩，这可以经过启示式搜刮办法处理。别的，由于积木在物理上是疏散的，团队提出了一种算法来为定制的图形特性积木天生相应的组装指令，以便利用户组装。同时，团队将所提出的算法摆设在集成了相机、打印机、条记本电脑和积木利用单位的主动机器上。最初，天生的积木模子和组装分析由多量用户评价。值得一提的是，整个体系就像一台智能主动售货机，可以在3分钟内消费出一个具有150块积木的模子。
阅读原文及论文下载
【内附完备论文】AIR近期亮点论文解读
