破解算法黑箱:算法解釋權的功能證成與適用路徑--以社會信用體系建設為場景

摘要：以算法為基礎的數據分析技術已經成為促進社會信用體系建設的強大動力。算法因其高效而在社會中得以廣泛應用,卻又因內部復雜以及商業機密的外衣而具有"黑箱"特性。因此算法在信用體系中的應用很可能產生數據失控、結果歧視、難以修復信用與分配責任等風險,諸多風險需要得到來自法律的回應。算法解釋權是人工智能時代的新興權利,具有規制算法權力、糾偏數據鴻溝、幫助相對人知悉決策過程以及評判算法優劣等功能,能夠有效應對算法自動決策帶來的風險。算法解釋權的實現主要存在宏觀與微觀兩種不同的路徑,一種是對整個算法過程進行解釋,另一種主要解釋具體決策。破解算法黑箱并非將所有代碼公開,也不意味著讓決策相對人完全知悉算法的搭建與運算過程,更多的是通過可被理解的方式解釋算法、提高算法的透明度,以使其運行更加公開公正,當數據錯誤或者權重失衡的情況出現時進行及時救濟。