Thử cho robot chấm điểm hoa hậu, kết quả bất ngờ

Phải đến năm 1983 Mỹ mới có hoa hậu da màu đầu tiên vì các cuộc thi sắc đẹp đều bị ảnh hưởng bởi thiên kiến xã hội, nhưng nếu robot làm giám khảo thì sao?

Lý do dùng robot làm giám khảo là vì máy móc sẽ cân đo đong đếm dựa trên các tiêu chuẩn có sẵn về nhân trắc học như chiều cao cân nặng, và không bị ảnh hưởng bởi phán xét, tâm lý thiên vị. Thế nhưng kết quả lại không mấy khả quan.

Beauty.ai, công cụ xây dựng bởi nhóm Youth Laboratories từ Nga và Hong Kong, được hai ông lớn Microsoft và Nvidia hỗ trợ đã tổ chức cuộc thi sắc đẹp với 600.000 ứng viên từ khắp nơi trên thế giới, từ Ấn Độ, Trung Quốc, châu Phi và Mỹ. 3 nhóm thuật toán sẽ được áp dụng để nhận biết khuôn mặt, nếp nhăn, trông họ già hay trẻ hơn tuổi, không xét tới màu da.

Kết quả được công bố hồi tháng 8 gây sốc: toàn bộ 44 người được coi là hấp dẫn nhất đều là người da trắng, trừ một người da màu và 6 người châu Á.

3 thuật toán tượng trưng cho 3 giám khảo 

Thuật toán "học sâu" (Deep learning) của trí tuệ nhân tạo (AI)  sẽ phân tích hàng loạt dữ liệu để nhận biết khác biệt. Deep learning được sử dụng cho Facebook để phân tích sở thích, nhưng Beauty.ai sẽ dựa trên nguồn của các nhà nghiên cứu.

Họ phát hiện ra rằng AI đôi khi đưa ra kết quả vô cùng bất ngờ và đầy tính thiên vị. Ví dụ như một chương trình xét đoán ngôn ngữ đã đánh giá rằng những cái tên của người da trắng "lọt tai" hơn tên người da màu.

Vấn đề gây ra sự cố này nằm ở nguồn dữ liệu mà AI đó học tập. Konstantin Kiselev, giám đốc công nghệ tại Youth Laboratories thừa nhận rằng thông tin về các tiêu chuẩn như nếp nhăn lại chủ yếu là của người da trắng. 

Trong môi trường thiếu cân bằng dữ liệu mẫu như vậy, AI vô tình trở thành cỗ máy phân biệt chủng tộc. Tới 75% người tham gia Beauty.ai là người Âu Mỹ. 7% ứng viên từ Ấn Độ, 1% từ châu Phi. Vì vậy tuy không được "dạy" về màu da, thuật toán ra kết quả ngoài dự kiến.

Điều khó khăn còn nằm ở máy ảnh, vì chúng được thiết kế để chụp hiệu quả nhất khi người trong khung hình có da sáng màu. Bản thân Beauty.ai cũng loại bỏ nhiều bức ảnh của ứng viên da màu do không đủ sáng. Kiselev cho nhận xét việc quảng bá nên được thực hiện hiệu quả hơn để nhiều người tham gia, cân bằng số lượng dữ liệu và dự tính tiếp tục tổ chức một cuộc thi khác vào tháng 10 tới.