產(chǎn)品詳情
如何利用功能安全構(gòu)建信任？就構(gòu)建信任而言，我們知道，不久后的將來(lái)，在運(yùn)行人工智能安全功能的汽車(chē)中，完全按照機(jī)器學(xué)習(xí)模型運(yùn)行不足以保障駕乘人員的安全 在這種情況下，硬件本身的重要性轉(zhuǎn)移到了模型的質(zhì)量 評(píng)估與模型的平均性能有關(guān)的指標(biāo)是常見(jiàn)做法 而典型的方法是用準(zhǔn)確率來(lái)定義正確分類(lèi)的比率
在目標(biāo)檢測(cè)中 (雷達(dá)的功能)，通常選擇以mAP為指標(biāo) 除了目標(biāo)的正確分類(lèi)，mAP還涵蓋了衍生邊界框的質(zhì)量 但是，我們認(rèn)為要構(gòu)建對(duì)模型的信任，這還不夠 這些指標(biāo)可能僅因?yàn)闄z測(cè)目標(biāo)的形狀較為罕見(jiàn)，便無(wú)法區(qū)分奇怪的錯(cuò)誤與可以理解的人為失誤 此外，如果出現(xiàn)奇怪的錯(cuò)誤，需要了解造成錯(cuò)誤的原因才能加以解決
即使預(yù)測(cè)是正確的，它也可能基于不正確的偏見(jiàn)，而這是人們希望避免的 如何理解AI算法？為了解決這些問(wèn)題，我們需要采用適當(dāng)?shù)姆椒ù蜷_(kāi)AI算法的“黑匣子”，讓人類(lèi)能夠理解這些預(yù)測(cè) Grad-CAM就是這種神經(jīng)網(wǎng)絡(luò)方法的一個(gè)有趣的例子 Ramprasaath R.Selvaraju等人于2019年發(fā)表了一篇論文，其中解釋了如何將特征圖與其梯度相乘，以此確定輸入的哪些部分對(duì)模型的預(yù)測(cè)#重要
這為用戶(hù)提供了一個(gè)非常有價(jià)值的工具，可以更好地了解模型學(xué)到了什么，進(jìn)而得出預(yù)測(cè) 這也會(huì)增加人們對(duì)模型的信任，并有助于開(kāi)發(fā)人員發(fā)現(xiàn)在訓(xùn)練集中發(fā)現(xiàn)模型缺點(diǎn)，然后加以解決 作者給出了一個(gè)示例，人們訓(xùn)練了兩種模型分別用來(lái)識(shí)別醫(yī)生和護(hù)士 Grad-CAM提供了一個(gè)覆蓋圖（類(lèi)似于熱圖），告訴人們使用
在#個(gè)模型(“有偏見(jiàn)”)中，模型使用面部特征來(lái)識(shí)別 這是我們不希望看到的情況，鑒于訓(xùn)練集存在偏見(jiàn)（女護(hù)士照片和男醫(yī)生照片較多），模型可能會(huì)判斷照片中是“護(hù)士” 經(jīng)過(guò)分析和再訓(xùn)練后，第二個(gè)模型可根據(jù)其他要素做出決策 Grad-CAM用于驗(yàn)證是否需要這些要素（如聽(tīng)診器）
圖片
聯(lián)洲電器有限公司是一家做智能儀表,電機(jī)軟啟動(dòng),軟啟動(dòng)器,數(shù)顯表的專(zhuān)業(yè)廠家,主要產(chǎn)品有電力儀表,智能儀表,數(shù)顯表,電機(jī)軟啟動(dòng),軟啟動(dòng)器等,歡迎訪(fǎng)問(wèn)!
