產(chǎn)品詳情
GCS800-B智能除濕裝置 江干區(qū)公園詢價
即使預(yù)測是正確的，它也可能基于不正確的偏見，而這是人們希望避免的 如何理解AI算法？為了解決這些問題，我們需要采用適當(dāng)?shù)姆椒ù蜷_AI算法的“黑匣子”，讓人類能夠理解這些預(yù)測 Grad-CAM就是這種神經(jīng)網(wǎng)絡(luò)方法的一個有趣的例子 Ramprasaath R.Selvaraju等人于2019年發(fā)表了一篇論文，其中解釋了如何將特征圖與其梯度相乘，以此確定輸入的哪些部分對模型的預(yù)測#重要
這為用戶提供了一個非常有價值的工具，可以更好地了解模型學(xué)到了什么，進(jìn)而得出預(yù)測 這也會增加人們對模型的信任，并有助于開發(fā)人員發(fā)現(xiàn)在訓(xùn)練集中發(fā)現(xiàn)模型缺點，然后加以解決 作者給出了一個示例，人們訓(xùn)練了兩種模型分別用來識別醫(yī)生和護(hù)士 Grad-CAM提供了一個覆蓋圖（類似于熱圖），告訴人們使用
在#個模型(“有偏見”)中，模型使用面部特征來識別 這是我們不希望看到的情況，鑒于訓(xùn)練集存在偏見（女護(hù)士照片和男醫(yī)生照片較多），模型可能會判斷照片中是“護(hù)士” 經(jīng)過分析和再訓(xùn)練后，第二個模型可根據(jù)其他要素做出決策 Grad-CAM用于驗證是否需要這些要素（如聽診器）
圖片
這個例子可以很容易地推算#與安全相關(guān)的功能 在駕駛員監(jiān)測系統(tǒng)檢測的情況下，Grad-CAM可以確保駕駛員疲勞標(biāo)記的訓(xùn)練無偏見 恩智浦繼續(xù)投資打造功能安全和信息安全的AI解決方案 通過構(gòu)建對訓(xùn)練數(shù)據(jù)的信任，確保ML模型的#執(zhí)行（即使是在隨機硬件故障的情況下），恩智浦致力于朝著光明、安全的未來前行
