GIẢI THÍCH ĐẶC TRƯNG THẺ TÍN DỤNG THEO PHƯƠNG PHÁP LIME VÀ SHAP SAU GIAI ĐOẠN HỌC SÂU

Tóm tắt

Giải thích đặc trưng sau giai đoạn huấn luyện (XAI) là hướng nghiên cứu cần thiết trong thực tiễn ứng dụng AI, và được cộng đồng nghiên cứu AI quan tâm đông đảo. XAI có hai phương pháp tiếp cận phổ biến chính là LIME và SHAP rất hiệu quả trong việc giải thích các mô hình sau khi huấn luyện. Có nhiều tài liệu hướng dẫn sử dụng thư viện LIME và SHAP để giải thích các mô hình sau khi huấn luyện, nhưng rất ít tài liệu đề cập đến mô hình toán học bên trong LIME và SHAP, và điều này gây khó khăn trong việc nghiên cứu. Bài báo mô tả chi tiết các bước thực hiện của LIME và SHAP trên dữ liệu nhỏ, và tiến hành giải thích các đặc trưng sau khi thực nghiệm phân loại trên dữ liệu thẻ tín dụng bằng phương pháp học sâu. Kết quả thực nghiệm và việc giải thích mang lại thông tin khá thú vị khi giải thích đặc trưng theo phương pháp LIME cũng như theo phương pháp SHAP.