近年來，深度學習技術(shù)在涉及高維非結(jié)構(gòu)化數(shù)據(jù)領域展現(xiàn)出了最先進的性能，如計算機視覺、語音、自然語言處理等方面，并且開始涉及更大、更復雜的多模態(tài)信息問題。

不同傳感器在進行同一實驗任務時，針對產(chǎn)生的同一現(xiàn)象進行觀測，采集的數(shù)據(jù)構(gòu)成被測對象的多模態(tài)信息。多模態(tài)信息可以實現(xiàn)不同傳感器之間數(shù)據(jù)互補，并在相同學習任務獲取更豐富的特征，從而實現(xiàn)比單一模態(tài)更好的性能。

在自動駕駛領域，多模態(tài)數(shù)據(jù)通常包括安裝在車輛上的多個傳感器，包括雷達、立體可見光攝像頭、紅外攝像頭、GPS等，為執(zhí)行自動巡航，從傳感器收集的異構(gòu)數(shù)據(jù)用于學習許多相互關聯(lián)但復雜的任務，如定位和測繪、場景識別、路徑規(guī)劃和駕駛員狀態(tài)識別等。

大多數(shù)先進的融合方法集中于如何融合來自多模態(tài)空間的信息或特征。根據(jù)多模態(tài)信息的融合策略主要可以分為早期融合、中期融合和晚期融合。

一、多傳感器數(shù)據(jù)融合處理方法

1、早期融合

早期融合在輸入端進行簡單鏈接多模態(tài)數(shù)據(jù)組合，然后輸入到特定的模型進行處理。LaserNet采用了這種融合策略，將三維的點云映射到二維圖像上，采用全卷積網(wǎng)絡進行概率預測，實現(xiàn)端到端的三維物體檢測。

早期融合的方式能夠保留最多原始數(shù)據(jù)的特征，但對于來自不同傳感器的模態(tài)信息來說，這種融合方式計算量大，對設備運行要求較高。

2、中期融合

中期融合又稱作是特征融合，需要對來自不同模態(tài)的數(shù)據(jù)進行特征提取，并對特征圖進行融合操作后輸入到目標任務中進行處理。通過ROI池化的方式將二維圖像和點云鳥瞰圖、前視圖特征整合到同一特征尺度進行融合，并構(gòu)建兩個子網(wǎng)絡進行多視圖區(qū)域特征融合，并在不同路徑中間層中交互特征，實現(xiàn)了自動駕駛場景下高精度的三維物體檢測。

中期融合的方式能夠有效減少模型的數(shù)據(jù)輸入，能夠有效整合來自不同模態(tài)的深層特征。

3、晚期融合

晚期融合（決策融合）針對每種模態(tài)的目標任務結(jié)果進行決策投票，比其他兩種融合策略更為直觀，能夠有效地促進多模態(tài)之間的協(xié)作，避免因為傳感器失效而對最終任務結(jié)果造成嚴重影響。

晚期融合由于需要對不同模態(tài)的數(shù)據(jù)進行處理和任務執(zhí)行，其任務完成質(zhì)量受到單一模態(tài)影響較大，同時也存在計算開銷大的問題。

二、aiSim仿真模擬平臺

作為一款端到端的自動駕駛仿真模擬工具，康謀aiSim仿真模擬平臺能夠提供現(xiàn)實世界中難以捕捉的場景和自動駕駛過程中的邊緣案例，具有高可擴展性、高保真度的傳感器模擬和環(huán)境模擬，能夠擴充不同測試場景的數(shù)據(jù)廣度和深度，有效提升ADAS/AD算法的能力。

傳感器是環(huán)境感知系統(tǒng)的核心，自動駕駛車輛需要通過傳感器獲知周圍的環(huán)境信息?？抵\aiSim設計了基于物理原理的傳感器模型，能夠全面準確的模擬條件和交互環(huán)境。傳感器模型庫包括相機、激光雷達、雷達、超聲波傳感器等。

高度可擴展框架能夠?qū)崿F(xiàn)在多個GPU上實現(xiàn)分布式光追渲染，實時仿真高度復雜的多傳感器配置。

具有污泥遮擋、冷凝水霧遮擋、鏡頭色差、鏡頭炫光等多種相機退化和鏡頭失真情景。

支持新傳感器模型配置和設計，并快速測試其感知性能。相機、激光雷達和雷達視場可視化有助于確定傳感器在車輛上的最佳安裝位置。

如您對上述產(chǎn)品感興趣，

歡迎聯(lián)系康謀自動駕駛團隊了解更多信息。

我們將竭誠為您服務！

期待與您的交流！

審核編輯 黃宇