港大黄凯斌：6G时代的边缘智能，香农与图灵的相遇( 二 ) 本文转自：雷锋网作者丨黄凯

1
联邦边缘学习
在过去，信息和通讯是两个毫不相干的领域，以平行的道路发展，而当前的边缘学习需要这两个领域的结合。

文章图片

文章图片

传统的无线电通信就像一条管道，通过速率最大化的设计，让管道里有很多数据进行传输，换句话说，就是在高保真的情况下，尽可能多地传输数据。但，这种设计已经无法解决现在的问题了。6G时代，并不是数据传输的越多越好，而是越快的训练模型越好。即在对学习精度有限制的情况下，尽可能快地训练机器。

文章图片

文章图片

因此，如果考虑“快速智能获取” ，无线电设计发生革命性的改变。传统方式是联邦边缘学习，网联汽车、物联网等密集终端场景下，训练数据通常以分布式的形式产生和存储在不同用户设备中。例如我们每天淘宝、京东的购物数据都存在自己的手机上，如何在保证自己数据隐私的情况下，帮助训练网络更高效？
在网络边缘利用联邦学习，可以充分利用终端节点的计算资源，并能够在保护用户个人信息的前提下，进行更广泛和高效的机器学习。
具体做法是：用户的每台手机利用自己的数据进行模型训练，然后中心系统将这种本地模型收集起来，然后进行平均处理，如此就可以得到比较准确的模型。
但，将每一个小模型上传到中心系统，也需要大量的数据传输，而且有些传输并不是一次就完成，有的需要几十上百次的传输。
2
通讯与AI的碰撞
无线电通讯如何解决这一问题？我举两个例子：空中计算和数据重要性感知通讯。

文章图片

文章图片

第一个例子是空中计算，目的是将“空气”变成计算机。传统的无线电通信面对的问题是“过载” 。例如所有的用户都会发射信号，以求通过“管道”达到基站，但无线电在空中的叠加，会造成无线电干扰。因此，需要采取分布计算的思维进行重新设计系统。
回到联邦边缘计算。正如刚才提到，联邦系统其实是想进行“平均”计算每个用户的模型，用户需要将小模型上传到系统中才能进行此步骤。其实，我们可以利用无线电波在空中叠加的状态进行计算。其实，用户如果以同样的频谱将模型传到“空中” ，速率会非常快，而且在空中会自然叠加。因此，这就有效将无线干扰变成了“好东西” 。

文章图片

文章图片

空中计算的最大好处是会将延迟大幅度减少。如上图，和传统无线电传输技术相比，在保证准确率相似的情况下，延迟能减少上百倍。
第二个例子是数据重要性感知通讯。香农无线电通讯理论基于“Data bits were born equal” ，翻译成中文“数据生来平等” 。而在以图灵为代表的机器学习领域， “Data samples are certainly not equally important!” ，数据有“轻重”之分。
数据重要性，可以用未知度进行衡量，举个例子：给机器人一本书，机器人看过之后表示非常简单，什么都理解，那么这就不是一本好书。换句话说，这本书的未知度很低，无法教给机器新东西，无法解答疑惑，知识无法扩展。