Theo một nghiên cứu mới, các cuộc thảo luận trực tuyến về các quân đen và trắng trong cờ vua đang gây nhầm lẫn cho các thuật toán trí tuệ nhân tạo, loại được đào tạo để phát hiện phân biệt chủng tộc và các dạng lời nói gây căm thù khác.
Các chuyên gia khoa học máy tính tại Đại học Carnegie Mellon (CMU) đã bắt đầu điều tra sự cố AI sau khi một kênh cờ vua nổi tiếng trên YouTube bị chặn vì nội dung "độc hại và nguy hiểm" vào tháng 6 năm ngoái.
Đây là kênh nội dung của kỳ thủ cờ vua người Croatia Antonio Radic, người có bí danh trực tuyến là Agadmator. Đây cũng là kênh YouTube về cờ vua phổ biến nhất thế giới, với hơn 1 triệu người đăng ký.
Vào ngày 28/6/2020, Radic bị chặn khỏi YouTube khi đang trình chiếu một chương trình cờ vua với Đại kiện tướng Hikaru Nakamura, mặc dù không có lý do cụ thể nào được đưa ra bởi nền tảng video thuộc sở hữu của Google.
Kênh của Radic đã được khôi phục sau 24 giờ, khiến nhà vô địch cờ vua suy đoán rằng anh ta đã bị cấm tạm thời vì giới thiệu nội dung "đen đấu trắng", mặc dù lúc đó anh ta đang nói về cờ vua.
Hệ thống kiểm duyệt của YouTube dựa vào cả con người và thuật toán AI, có nghĩa là bất kỳ hệ thống AI nào cũng có thể hiểu sai các nhận xét nếu không được đào tạo chính xác để hiểu ngữ cảnh.
Ashiqur KhudaBukhsh, một nhà khoa học dự án tại Viện Công nghệ Ngôn ngữ của CMU, cho biết: "Nếu họ dựa vào trí tuệ nhân tạo để phát hiện ngôn ngữ phân biệt chủng tộc, loại tai nạn này hoàn toàn có thể xảy ra."
KhudaBukhsh đã thử nghiệm lý thuyết này bằng cách sử dụng công cụ phân loại giọng nói hiện đại để sàng lọc hơn 680.000 nhận xét thu thập được từ 5 kênh YouTube tập trung vào cờ vua phổ biến.
Sau khi xem xét thủ công và tuyển chọn 1.000 nhận xét đã được AI phân loại là ngôn từ kích động thù địch, họ phát hiện ra rằng 82% trong số đó đã bị phân loại sai do sử dụng các từ như "đen", "trắng", "tấn công" và "mối đe dọa" - tất cả đều thường là ngôn ngữ được sử dụng trong cách nói của môn cờ vua.
Báo cáo đã được trình bày trong tháng này tại hội nghị thường niên của Hiệp hội vì sự tiến bộ của AI.
Các chuyên gia khoa học máy tính tại Đại học Carnegie Mellon (CMU) đã bắt đầu điều tra sự cố AI sau khi một kênh cờ vua nổi tiếng trên YouTube bị chặn vì nội dung "độc hại và nguy hiểm" vào tháng 6 năm ngoái.
Đây là kênh nội dung của kỳ thủ cờ vua người Croatia Antonio Radic, người có bí danh trực tuyến là Agadmator. Đây cũng là kênh YouTube về cờ vua phổ biến nhất thế giới, với hơn 1 triệu người đăng ký.
Vào ngày 28/6/2020, Radic bị chặn khỏi YouTube khi đang trình chiếu một chương trình cờ vua với Đại kiện tướng Hikaru Nakamura, mặc dù không có lý do cụ thể nào được đưa ra bởi nền tảng video thuộc sở hữu của Google.
Kênh của Radic đã được khôi phục sau 24 giờ, khiến nhà vô địch cờ vua suy đoán rằng anh ta đã bị cấm tạm thời vì giới thiệu nội dung "đen đấu trắng", mặc dù lúc đó anh ta đang nói về cờ vua.
Hệ thống kiểm duyệt của YouTube dựa vào cả con người và thuật toán AI, có nghĩa là bất kỳ hệ thống AI nào cũng có thể hiểu sai các nhận xét nếu không được đào tạo chính xác để hiểu ngữ cảnh.
Ashiqur KhudaBukhsh, một nhà khoa học dự án tại Viện Công nghệ Ngôn ngữ của CMU, cho biết: "Nếu họ dựa vào trí tuệ nhân tạo để phát hiện ngôn ngữ phân biệt chủng tộc, loại tai nạn này hoàn toàn có thể xảy ra."
KhudaBukhsh đã thử nghiệm lý thuyết này bằng cách sử dụng công cụ phân loại giọng nói hiện đại để sàng lọc hơn 680.000 nhận xét thu thập được từ 5 kênh YouTube tập trung vào cờ vua phổ biến.
Sau khi xem xét thủ công và tuyển chọn 1.000 nhận xét đã được AI phân loại là ngôn từ kích động thù địch, họ phát hiện ra rằng 82% trong số đó đã bị phân loại sai do sử dụng các từ như "đen", "trắng", "tấn công" và "mối đe dọa" - tất cả đều thường là ngôn ngữ được sử dụng trong cách nói của môn cờ vua.
Báo cáo đã được trình bày trong tháng này tại hội nghị thường niên của Hiệp hội vì sự tiến bộ của AI.
Theo Genk
