'Bố già AI' cảnh báo gì về nguy cơ trí tuệ nhân tạo xóa sổ loài người?

Nhà khoa học máy tính giành giải Nobel Vật lý 2024 Geoffrey Hinton cảnh báo có 10-20% khả năng AI sẽ hủy diệt nhân loại trong vòng ba thập kỷ tới.

Trong cuộc phỏng vấn trên BBC Radio, Geoffrey Hinton, giáo sư danh dự tại Đại học Toronto (Canada) và được mệnh danh là "bố già AI", tăng tỷ lệ các hệ thống trí tuệ nhân tạo hủy diệt con người lên 10- 20% thay vì con số 10% ông đề cập trước đó. "Bạn thấy đấy, trước đây chúng ta chưa bao giờ phải đối mặt với những thứ thông minh hơn chính mình", ông giải thích.

Năm ngoái, khi ông đưa ra mức 10%, Elon Musk đã bày tỏ sự đồng tình: "Tôi nghĩ có khả năng nó sẽ xóa sổ loài người. Tôi có thể đồng ý với Geoffrey Hinton, mức độ rủi ro khoảng 10% hoặc 20% hoặc tương tự", có nghĩa, kịch bản tích cực dễ xảy ra hơn là kịch bản tiêu cực.

Nhà khoa học Geoffrey Hinton. Ảnh: Reuters

"Bạn có thể đưa ra nhiều ví dụ trong đó thứ gì đó thông minh hơn bị điều khiển bởi thứ kém thông minh hơn? Rất hiếm", giáo sư Hinton nói và ví con người sẽ giống những đứa trẻ nhỏ nếu đem so với trí thông minh của các hệ thống AI.

Năm ngoái, ông Hinton gây xôn xao khi từ chức vị trí lãnh đạo tại Google AI và đưa ra nhiều cảnh báo về các rủi ro nếu mất kiểm soát trong việc phát triển trí tuệ nhân tạo. Theo Guardian, Hinton và nhiều nhà vận động an toàn khác cho rằng việc tạo ra siêu trí tuệ nhân tạo, hay các hệ thống thông minh hơn con người, còn gọi lả AGI, có thể sẽ trở thành một mối đe dọa tồn vong.

Ông quan ngại các công ty lớn có thể bị các lợi ích trước mắt mà phớt lờ tiêu chí an toàn trong phát triển AI. "Cách duy nhất buộc các công ty lớn nghiên cứu phát triển AI an toàn là phải có quy định của chính phủ", ông cho biết.

Geoffrey Hinton là một trong ba "bố già AI" giành được ACM AM Turing - một giải thưởng được ví như giải Nobel trong ngành khoa học máy tính. Tuy nhiên, giáo sư Yann LeCun, một "bố già AI" khác đang là Giám đốc AI tại Meta, cho rằng quan điểm AI tạo ra mối nguy hiểm mang tính hiện sinh cho loài người không đúng và "còn rất lâu nữa mới đạt đến cảnh giới" trí tuệ nhân tạo vượt lên trí tuệ con người.

XEM THÊM CÁC KỲ

Kỳ đầu tiên1 149 150 151 152153

"Bố già" AI thế giới: Không nên thiết kế AI có cảm xúc, ngoại hình, ý thức,...

Đó là lời cảnh báo của Giáo sư Yoshua Bengio, người được mệnh danh là "bố già AI" thế giới.

Bấm xem >>