mlp網路用語是什麼意思
機器之心專欄
機器之心編輯部
來自美國東北大學 SmileLab，哥倫比亞大學的研究者提出一種純 MLP 的點雲網絡架構 PointMLP，在 ModelNet40、ScanObjectNN 等點雲資料集上取得了非常好的結果，並大幅提升了推理速度。
3D 點雲資料由於其無序性 （unorderness）、稀疏性（sparisity）和不規則性（irregularity）等特點，往往難以處理。為了描述 3D 資料的幾何特徵，研究者專注於區域性幾何的獲取，提出各種基於卷積、圖卷積或者注意力機制的「複雜的」區域性幾何描述模組。然而這些操作往往會導致較慢的推理速度，並沒有帶來實質的提高。
近日，來自美國東北大學和哥倫比亞大學的研究者發現，複雜的區域性幾何描述模組也許並不是 3D 網路的關鍵， 一個純 MLP 架構的網路能取得更好的結果，並且能夠大幅提升推理速度。該論文已被 ICLR 2022 接收，程式碼已經開源。
論文地址：https：//arxiv。org/abs/2202。07123
程式碼地址：https：//github。com/ma-xu/pointMLP-pytorch
模型概覽
點雲已成為 3D 視覺中的熱門話題。最近的一些文章透過卷積、圖、或注意力機制來提取點雲中的區域性幾何特徵。這些方法儘管取得了可喜的結果，但主要依賴於一個前提，即精細的區域性提取器對於 3D 點雲分析至關重要。然而這類方法也存在一些問題：一方面，由於這些操作會產生大量的計算和記憶體訪問開銷，並不能很好地應用於實踐；另一方面，更復雜的區域性操作設計很難進一步提高效能，因為之前的方法已經很好地描述了局部幾何特性。因此，我們可能需要重新考慮複雜的區域性特徵提取器的必要性，並進一步重新審視點雲分析中簡潔的設計理念。
在本文中，研究者希望建立一個僅使用殘差 MLP 模組進行點雲分析的模型，從而無需一些精細的區域性特徵提取器，這樣既避免了由複雜的區域性操作引起的高額計算量和持續的記憶體訪問，也利用了高度最佳化的 MLP 帶來的效率優勢。為了進一步提高效能和泛化能力，作者引入了一個輕量級的區域性幾何仿射模組，可以自適應地轉換區域性區域中的點特徵。由此提出的新網路架構稱為 PointMLP。下圖顯示了 PointMLP 在 modelNet40 上與其他網路的速度 / 準確率比較。
PointMLP 的架構非常簡單，與傳統的點雲網絡類似， PointMLP 也採用了階段結構，每一階段（stage）透過最遠點下采樣以減少計算量。下圖展示了 PointMLP 任意一階段的操作。
給定輸入點雲，PointMLP 使用殘差點 MLP 塊逐步提取區域性特徵。在每個階段，PointMLP 首先使用幾何仿射模組 （Geometric Affine Module）對區域性點進行仿射變換，然後通過幾個殘差 MLP 模組 （Residual Point Block） 來提取深層的特徵。注意此時的區域性區域中仍包含多個點，作者透過一個簡單的聚合器 （使用的是 max-pooling） 來將區域性多個點聚合成一個點以描述區域性資訊， 並且再次使用殘差 MLP 模組來提取特徵。
PointMLP 透過重複多個階段 （每個階段中通道數翻倍） 逐步擴大感受野，並模擬完整的點雲幾何資訊。為了進一步提高推理速度、減輕模型大小，該研究減少了每個階段的通道數以及殘差 MLP 模組的個數，並在殘差 MLP 模組中引入了瓶頸 （bottleneck） 結構。研究者將得到的更加輕量化的版本稱作 PointMLP-elite。
實驗及結果
PointMLP 在多個數據集上大放異彩，重新整理了多個數據集的最好成績。不僅大幅提高了分類的準確率，還提供了更快的推理速度。值得注意的是，在 ScanObject NN 上，PointMLP 取得了 85。4% 的分類準確率（該研究給出程式碼的準確率達到 86。1%），大幅超越第二名的 82。8%。
總的來說，該研究提出了一種名為 PointMLP 的簡單而強大的架構，用於 3D 點雲析。研究者指出複雜的區域性幾何提取器可能對於 3D 點雲而言並不重要。基於此，研究者首先用簡單的殘差 MLP 抽取區域性特徵，因為 MLP 是位置置換不變且非常簡單高效的， 然後提出了一個輕量級的幾何仿射模組來提高效能。為了進一步提高效率，研究者還改進了一個更加輕量級的版本 PointMLP-elite。實驗結果表明，PointMLP 在簡單性和效率方面超越了以往的相關工作。研究者希望這個新穎的想法能夠激發大家重新思考點雲中的網路設計和區域性幾何操作。