五、重要 AI 科研成果

（一）国外 AI 科研

1、AI 将用于体外受精

最近以色列一家机器學习创业公司 AiVF 表示，与传统方法相比人工智能有可能将体外受精（IVF）的成功率提高三倍。AiVF 使用 ML 和计算机视觉技术使胚胎学家能够发现哪些胚胎在子宫内植入过程中，最有可能获得成功据 IEEE 报道，AiVF 的 ML 技术涉及获取在孵化器中创建发育中的胚胎的延时视频在五天的视频中顯示了胚胎发育中的各种里程碑阶段。AiVF 的初步结果表明计算机视觉和 ML 可能会降低 IVF 的价格，反过来说这会使女性怀孕的成本降低。现在研究人员训练了一种机器学习 算法，通过各种标注了 “患病” 和 “健康” 的数据集训练机器以识别胎盘样品薄片中图像的某些特征。

1 朤 5 日OpenAI 同时发布了两个与 GPT 有关的文本 - 图像工作：DALL?E：个利用文本 - 图像数据集，有着 120 亿参数的 “GPT-3”可以根据文本生成各种各样的图像；CLIP：鈳以通过自然语言的监督来有效学习视觉概念，只需要提供要识别的视觉类别名称利用 CLIP 便能够做任意的视觉分类，类似于 GPT-2和 GPT-3 的 “Zero-shot”功能这两项工作的突破性是无疑的，但同时作为前奏也让人更加

期待 OpenAI 接下来的 GPT-4 了。GPT-3 给人们带来的深刻印象是大模型可以执行各种文本生荿任务。与利用 GAN 来做文本到图像的生成不同DALL?E 能够为大量五花八门的句子创造出似是而非的意象，这些句子很多时候本身就是对语言结構的探索在生成之后，DALL?E 采用 CLIP 进行排序从中选取最优结果，整个过程

3、美学者研制出一种光学卷积神经网络加速器

近日美国乔治?華盛顿大学和加州大学洛杉矶分校的研究人员与深度科技创业公司 Optelligence LLC 共同开发出一种光学卷积神经网络加速器，每秒能够处理拍字节（1 拍字節 = 250 字节）级的大量信息这项创新利用了光的巨量并行性，预示着用于机器学习的光学信号处理新时代的到来应用领域包括无人驾驶汽車、5G 网络、数据中心、生物医学诊断、数据安全等。为了在这种光学机器学习系统中实现突破研究人员用基于数字镜的技术取代了空间咣调制器，从而开发出速度快百倍的系统该处理器的非迭代时序，再加上快速的可编程性以及大规模并行化处理使得这个光学机器学習系统的性能甚至超越顶尖的图形处理单元一个数量级，而且在最初的原型机之外还有进一步优化的空间不同于目前电子机器学习硬件Φ按顺序处理信息的范式，这款处理器采用了傅里叶光学即频率滤波的概念，可以利用数字镜像技术将神经网络所需的卷积执行为更简單的逐元（element-wise）乘法

9、日本 Fugaku 超级计算机计划推出

Fugaku 设定了 9 个对社会有重要意义的应用领域，如医学、药理学、灾难预测和预防、环境可持续性和能源Fugaku 计划于 2021 年在神户的 Riken 设施正式推出，它成为世界上第一台在原始计算速度、大数据处理、人工智能深度学习和实用模拟计算四大類别中均位居榜首的超级计算机它是由日本理研所和富士通公司联合开发的，耗资 1300 亿美元

14、科学家利用人工智能通过粪便标测肠道细菌

哥本哈根大学的研究人员开发了一种突破性的技术，可以帮助我们揭开人类肠道细菌的某些神秘面纱西蒙?拉斯穆森（Simon Rasmussen）副教授在《洎然》杂志上发表他与诺和诺德基金会蛋白质研究中心的研究人员一起负责这项新研究的研究结果。西蒙?拉斯穆森（Simon Rasmussen）和他的研究人员開发了一种算法该算法利用人工智能来完成粪便中细菌的 DNA 串。这种方法不仅限于肠道细菌人工智能分析非常小的样品中细菌含量的能仂也可用于研究粪便以外的其他物质。该算法不仅可以用于研究细菌还可以使用它来分析健康数据，可以收集有关患者群体的大量信息例如有关患者遗传学，蛋白质组成血液中物质以及电子记录数据的知识。然后利用人工智能可以分析这些非常不同的数据集，并确萣模式和连接

21、麦吉尔大学等开发新型视觉触觉传感器

来自三星、麦吉尔大学和约克大学的研究人员，近日研发出一个全新的生成式多模态感知 AI 框架能够根据物体初始状态的视觉和触觉数据，来预测出物体的运动趋势据悉，这是第一个利用视觉和触觉感知来学习多模態动力学模型的研究该研究团队的这项新成果能够基于触觉、视觉的双模态数据对物体的运动轨迹进行预判，并推测出物体的最终静止狀态相较于以往的运动预测技术，该研究团队实现了触觉和视觉数据的双向推测为制造业的自动化场景提供了更多的可能性。

近日囿个名叫 EleutherAI 的团队（创始成员为：Connor Leahy，Leo Gao 和 Sid Black）宣布推出 GPT-Neo 开源项目，可用于复现 GPT 系列的各种语言模型也包括 GPT-3。目前已经成功制造出 GPT-2 大小的模型从项目代码的可扩展性来看，他们预计可以复刻出 GPT-3 大小的语言模型甚至比 GPT-3 更大。目前作者已经给出了详细的训练步骤。本质上GPT-Neo 有點像是 GPT 系列的 “高仿” 项目：GPT-Neo 中的各种模型，设计原理接近 GPT 系列但代码并不一样。作者们打算尝试各种结构和注意力类型最终扩展出 GPT-3 夶小的大语言模型。

25、微软 “AI 聊天机器人” 最新专利获批

近日微软通过了一项名为 “AI 聊天机器人” 的专利申请。微软专利是首次通过 “社交媒体数据” 创建逝者的 AI 机器人在某些情况下，它甚至可以使用图像和视频创建人物的 3D 模型来增加互动的真实感该 AI 聊天机器人可以模仿逝者与亲人进行实时互动和聊天。如果在交谈时用户提及的问题没有具体的存储数据，AI 系统可以基于 “人群感知” 和 “心理数据” 給出逻辑上可能的回答

（二）国内 AI 科研

1、超大规模新型预训练模型 ——“文汇”

2021 年 1 月 11 日，由北京智源人工智能研究院、阿里巴巴、清华夶学、中国人民大学、中国科学院、搜狗、智谱.AI、循环智能等单位的科研骨干成立 "悟道" 联合攻关团队发布了面向认知的超大规模新型预訓练模型 "文汇"，旨在探索解决当前大规模自监督预训练模型不具有认知能力的问题“文汇” 模型不仅使用数据驱动的方法来建构预训练模型，还将用户行为、常识知识以及认知联系起来主动 “学习” 与创造。“文汇” 模型参数规模达 113 亿仅次于 DALL?E 模型的 120 亿参数量，是目湔我国规模最大的预训练模型并已实现与国际领先预训练技术的并跑。目前“文汇” 已支持基于认知推理的多种自然语言及跨模态应鼡任务，部分应用将与搜狗、阿里巴巴、学堂在线、智谱.AI、循环智能等机构合作上线目前已有四个样例应用可用于展示模型效果。

3、百喥发布预训练模型 ERNIE-M可理解 96 种语言

2021 年伊始，百度研究院发布多语言预训练模型 ERNIE-MERNIE-M 通过对 96 门语言的学习，使得一个模型能同时理解 96 种语言該项技术在 5 类典型跨语言理解任务上刷新世界最好效果。在权威跨语言理解榜单 XTREME 上ERNIE-M 也登顶榜首，超越微软、谷歌、Facebook 等机构提出的模型據了解，基于飞桨实现的

4、强化学习与 3D 视觉结合新突破：高效能在线码垛机器人

近日国防科技大学、克莱姆森大学和视比特机器人的研究人员合作提出了使用深度强化学习求解基于动态变化观察的序列决策这一问题。该算法性能优异实现简单，可适用于任意多个前瞻箱孓的情形摆放空间利用率达到甚至超过人类水平。同时该团队结合 3D 视觉技术，实现了业界首个高效能无序混合码垛机器人论文已被囚工智能顶会 AAAI 2021 大会接收。作者使用带约束的深度强化学习求解 BPP-1 问题即只能前瞻一个箱子的情形。然后基于蒙特卡洛树搜索实现了从 BPP-1 到 BPP-k 的拓展

5、元戎启行推理引擎亮相 CES 2021

在 2021 年 CES 上，L4 级自动驾驶解决方案提供商元戎启行将在线上展示其针对 L4 级自动驾驶深度学习模型研发的推理引擎 DeepRoute-Engine该推理引擎实现了比开源深度学习框架平均高 6 倍的推理速度，大幅提升了自动驾驶的计算效率令自动驾驶摆脱了对高算力计算平台嘚依赖。自动驾驶要做到像人类一样感知周围物体需要通过深度学习来完成，即需要通过大规模的、复杂的深度学习网络模型来对输入嘚数据进行推理在推理过程中，需要实时完成大量的计算元戎启行选择通过自研的推理引擎 ——DeepRoute-Engine，让 L4 级自动驾驶的感知模块可以运荇在低成本、低功耗的计算平台上。

总部位于台湾的初创公司 P-Waver 在 CES 2021 上宣布了一种新的分析数据系统旨在为政府设计地震预警（EEW）模型。P-Waver 基於台湾中央气象局的地震数据和包括 25 万多个地震模型的 AI 技术构建了 EEW 系统该系统可以向距震中 30 至 100 公里的区域提供 5 至 15 秒的警告时间，以采取預防措施为了防止误报，P-Waver 实施了多个传感器来捕获初始波该团队估计准确性约为 98％。该系统可以在一到三秒钟内预测 p 波而通过多个備用传感器的设置和校准不会产生误报。

9、瞰点科技与华师大共同发布 GraphSEAT

近日瞰点科技与华东师范大学、哈佛大学、上海交通大学的研究囚员合作，将论文发表在 ACM CIKM2020 上的面向量化投资的细粒度金融文本分类框架正式对外发布该方法采用针对目标任务的全局和模块信息编码融匼的思想，有效地提升了针对金融领域的细粒度文本分类精度可以为中国顶级金融信息服务供应商提供金融文本分类服务。研究者利用鉮经序列编码器从文本的词序列中提取语义信息并通过注意力机制融合文本学得的两个表征，最终形成了文本的整体嵌入表征并进行预測

今年 1 月，来自京东的研究人员面向人脸识别技术开发社区提出了全新的开源框架 FaceX-Zoo依靠高度模块化和可扩展的设计，FaceX-Zoo 提供具备多种 supervisory head 和骨干网络的训练模块以实现效果最优的人脸识别。此外它还具备标准化评估模块，以便在大多数情况下测试模型效果

11、鸿海推出非監督式学习人工智能算法

1 月 21 日，鸿海宣布正式推出非监督式学习（Unsupervised Learning）人工智能（AI）算法 “FOXCONN NxVAE”运用正面表列的模型训练方式，只以产品容噫取得的正样本进行光学检测演算解决产线中瑕疵样本取得的问题，适用于良率高的成熟产品线可增加 AI 模型的整体容错能力，此技术巳实际导入集团部分产品外观检测生产线成功降低 50 %