嵌入式笔试面试题目系列

在最好的情况下，与传统的相比，这个时间表实现了大规模的提速。不过有一个缺点，它们引入了一些额外的超参数。

为什么这样做有效？一种可能的解释是，定期增加学习率有助于更快地穿越损失函数中的鞍点。

2、在DataLoader中使用多个工作程序并固定内存。

使用时torch.utils.data.DataLoader，请设置num_workers > 0，而不是默认值0，和pin_memory=True，而不是默认值False。

英伟达高级工程师Szymon Micacz使用了4个工作程序和固定内存，在单个训练时期内将速度提高了两倍。

需要注意的是，在选择worker数量时，建议将设置为可用GPU数量的四倍。

worker数量的多和少都会导致速度变慢，数量越多还会增加CPU内存消耗

3、批量最大化。

这一方法极具争议。但在通常情况下，使用GPU内存允许的最大批处理量可以加快训练速度。

如果要修改批量大小，还需要调整其他的超参数，比如，学习率。一般来说，将批量大小增加一倍，学习率也提高一倍。

此前有人进行了了一些不同批量大小的实验，通过将批量大小从64增加到512实现了4倍的加速。

4、使用自动混合精度（AMP）。

PyTorch 1.6版本就包括了对 PyTorch 的自动混合精度训练的本地实现。

与其他地方使用的单精度（FP32）相比，某些操作可以在半精度（FP16）上运行得更快，并且不会损失准确性。

随后，让AMP自动决定应以什么样的格式执行操作，这样既可以加快训练速度，也可以减少内存占用。

有研究者发现，在NVIDIA V100 GPU上对一些常见的语言和视觉模型进行基准测试时，使用AMP要比常规的FP32训练的速度提升2倍，最高可提升5.5倍。

目前，只有CUDA ops 可以通过这种方式进行自动广播。
 

5G作为第四次工业革命的关键技术，对社会、经济的促进作用已经成为全球共识。当前，世界各国在5G方面展开了激烈竞争。谁主导5G，谁就站在了未来经济的制高点。如今，有越来越多的5G专利拥有主体来自中国，5G背后的中国企业正在崛起。

3、阿里巴巴达摩院成立XG实验室 聚焦5G技术研究

2020年3月10日，阿里巴巴达摩院宣布成立XG实验室，致力于推动下一代网络通信技术研究。现阶段，XG实验室将聚焦5G技术和应用的协同研发，依托阿里生态，为超高清视频、在线办公、AR/VR、工业互联网、智能物流、自动驾驶等场景研究符合5G时代的视频编解码技术、网络传输协议等。

目前，阿里巴巴在云计算网络的关键技术上已进行全面布局并实现大规模应用，这为XG实验室提供了充足的技术储备。此外，阿里云遍布全球的云数据中心、云网络和边缘节点，将为海量的5G终端设备，提供极致的高性能、低延时、高可靠的计算和存储资源，为5G应用落地提供有利条件。

4、三大运营商联合发布《5G消息白皮书》

2020年4月8日，中国移动、中国电信、中国联通携手11家合作伙伴共同发布《5G消息白皮书》。《白皮书》阐述了5G消息的核心理念，明确了相关业务功能及技术需求，提出了对5G消息生态建设的若干构想。

5G消息是传统短信服务的全新升级，依照交互方式大致可分为两类：个人用户之间的信息交互、企业与个人用户之间的信息交互。

对于个人用户而言，5G消息将打破传统短信对每条信息的长度限制，并增加了对文字、图片、音频、视频、位置等信息的支持;对于企业而言，5G消息将为其提供与个人用户之间的信息交互接口。企业可通过文字、语音、选项卡等富媒体方式向用户输出个性化服务与咨询。

5、三大运营商5G信号覆盖珠峰

2020年4月，中国电信、中国移动、中国联通均已在珠峰大本营完成了5G基站建设，在海拔5000米以上地区实现了5G信号覆盖;4月30日，中国移动在珠峰海拔6500米前进营地开通全球海拔最高的5G基站，实现5G信号对珠峰北坡登山线路及峰顶的覆盖;5月27日，珠峰高程测量登山队成功登顶，登山队登顶测量的高清视频画面，通过中国移动5G网络与全世界实时共享。

随着三大运营商在珠穆朗玛峰开通5G基站，我国5G信号达到全球目前5G建设达到的最高高度。

6、中央广播电视总台国内首次实现5G+8K集成制作

2020年5月19日，为迎接2020年全国两会，中央广播电视总台成功进行了国内首次“5G+8K”实时传输和快速剪辑集成制作。

当天，中央广播电视总台举办了“5G+4K/8K+AI”媒体创新应用推广活动周启动仪式。在“5G+4K/8K集成制作”展示区，技术人员通过“5G+8K”背包对两路8K外景信号进行了实时传输，同时对收录的8K信号进行了快速编辑，展现了8K视音频传输和制作流程。

据了解，自中央广播电视总台成立以来，积极运用4K超高清电视技术提升电视媒体的质量，运用5G移动网络增强移动新媒体的制作分发能力，运用人工智能重塑电视媒体的制播流程。不断深化新技术的应用，推动总台融合媒体向智慧媒体升级换代。

（编辑：长春站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!