Camera在自動駕駛中的感知和定位功能中發(fā)揮著重要的作用，本課程從自動駕駛的產(chǎn)品功能需求和計算機視覺技術(shù)出發(fā)，系統(tǒng)地、簡明扼要地說明如何利用camera傳感器通過計算機視覺、深度學習等技術(shù)實現(xiàn)自動駕駛的重要功能。

?

一、簡介

1、自動駕駛的應(yīng)用：不同應(yīng)用場景（L2+或L3乘用車、robotaxi、robobus、干線物流、快遞、礦區(qū)碼頭等封閉場景）對自動駕駛功能的需求

2、自動駕駛的系統(tǒng)：自動駕駛的軟、硬件系統(tǒng)，背后的云服務(wù)、數(shù)據(jù)服務(wù)等

3、自動駕駛的技術(shù)棧：感知、定位、地圖、PnC等，以及每個技術(shù)方向依賴的基礎(chǔ)技術(shù)如：成像投影原理、特征提取、圖像匹配、目標檢測、深度估計、全景分割、深度學習、數(shù)據(jù)閉環(huán)等。

4、QA&交流&后續(xù)安排（30min）

二、關(guān)鍵技術(shù)講解

1、視覺感知

1.1目標檢測：最重要的任務(wù)之一，模型結(jié)構(gòu)、訓練策略、監(jiān)督信號等；QA（20min）

1.2目標跟蹤：預(yù)測、匹配、相似度計算；QA（10min）

1.3圖像分割：以車道線檢測為例講解模型設(shè)計；QA（10min）

1.4 其他任務(wù)：紅綠燈檢測、標志標牌識別、深度估計等

2、視覺定位

2.1相機標定：成像原理說明真實世界與圖像平面的關(guān)系

2.2特征提取：各種算子（SIFT、ORB）從圖像中提取關(guān)鍵角點信息進行匹配

2.3參數(shù)估計：從匹配的角點計算投影關(guān)系，如圖優(yōu)化等

2.4 QA（10min）

三、工程化落地與工具鏈建設(shè)

1 Cyber/Ros簡介：機器人基礎(chǔ)運行架構(gòu)

2深度學習模型部署：剪枝、量化、tensorrt、cuda等模型實時運行技術(shù)

3?深度學習模型研發(fā)閉環(huán)

3.1 數(shù)據(jù)閉環(huán)鏈路：所有跑車數(shù)據(jù)可落盤、可回盤、有標記、可查詢

3.2 數(shù)據(jù)挖掘&數(shù)據(jù)標注：尋找有價值的數(shù)據(jù)

3.3 case分析、可視化：可視化并分析、定位問題

4?仿真刷庫：積累足夠的case，驗證迭代過程中是否帶來其他負面影響