Microsoft khóa lỗ hổng bị lợi dụng để tạo ảnh khỏa thân của Taylor Swift

Làn sóng dùng AI để giả mạo người nổi tiếng đang bị lợi dụng tràn lan trên mạng.

Theo GizmoChina, sự hiện diện của trí tuệ nhân tạo (AI) trong ngành công nghệ ngày càng tăng khi ngày càng có nhiều công ty kết hợp công nghệ này vào các dịch vụ của họ. Cái tên nổi trội nhất trong lĩnh vực này là Microsoft, công ty luôn có nhiều mục tiêu đặt ra để nâng cao trải nghiệm người dùng thông qua các công nghệ AI tạo sinh của mình.

Tuy nhiên, AI vẫn luôn được coi là con dao hai lưỡi, vì việc sử dụng sai mục đích có thể dẫn đến những vấn đề nghiêm trọng. Và Microsoft đang phải đối mặt với thách thức khi một công cụ AI ban đầu được sử dụng để tạo ra hình ảnh đã bị lạm dụng để sáng tạo những nội dung không phù hợp liên quan đến người nổi tiếng.

Taylor Swift là một trong những nạn nhân phổ biến nhất của nạn ghép mặt vào video khỏa thân.

Cụ thể, với AI, người sử dụng có thể tạo ra bất kỳ bức ảnh nào họ muốn, ngay cả khi không phải là chuyên gia Photoshop. Lợi dụng điều này, một số người dùng đã có hành vi bất chính khi khai thác API Azure Face của Microsoft nhằm tạo ra ảnh và video khỏa thân của những người nổi tiếng, trong đó phổ biến nhất là Taylor Swift. Trước làn sóng độc hại này, Microsoft thông báo rằng họ đã sửa lỗ hổng bảo mật cho phép tạo ra những hình ảnh có nội dung xấu.

Cụ thể, công ty đã tìm thấy lỗ hổng bảo mật có thể cho phép kẻ xấu thao túng một số tham số API nhất định, từ đó thay thế khuôn mặt của Taylor Swift vào những hình ảnh khỏa thân. Để khắc phục sự cố này, Microsoft đã phát hành bản cập nhật chặn việc sử dụng các tham số không hợp lệ trong API.

Những bức ảnh và video bị chỉnh sửa này thường được sử dụng để truyền bá tin tức giả mạo hoặc thực hiện các chiến dịch bôi nhọ. Và Taylor Swift luôn là nạn nhân của hành vi lạm dụng đó.

Ngoài Microsoft, những công ty công nghệ khác cũng đang tích cực làm việc để giải quyết vấn đề này. Chẳng hạn như mạng xã hội X của Elon Musk đã giới hạn người dùng tìm kiếm về Taylor Swift nhằm ngăn chặn sự lan truyền của những video deepfake.

Nguồn: [Link nguồn]Nguồn: [Link nguồn]