'Cha đẻ của AI' Geoffrey Hinton đã đưa ra một dự đoán rùng rợn về tương lai của AI.

Người đoạt giải Nobel và được mệnh danh là 'Cha đẻ của AI' Geoffrey Hinton đã đưa ra một dự đoán rùng rợn về tương lai của AI.

Geoffrey Hinton là một nhà khoa học máy tính người Anh-Canada, người có công trình nghiên cứu về mạng nơ-ron nhân tạo, nhận giải Nobel Vật lý năm 2024 Hinton đã đưa ra lời kêu gọi khẩn cấp nên nghiên cứu về tính an toàn của AI và cố gắng ngăn chặn các hệ thống AI thông minh hơn con người . Andrew Marr của LBC đã nói chuyện với Hinton về sự xuất hiện gần đây của DeepSeek của Trung Quốc và ông nhìn thấy tương lai của AI sẽ đi về đâu .

Cha đẻ của AI Yoshua Bengio trước đây đã báo động về DeepSeek, và bây giờ, đến lượt Hinton.

Hinton đã so sánh loài người với những đứa trẻ ba tuổi và gợi ý rằng chúng ta sẽ tiếp tục trao cho AI nhiều quyền lực hơn : "Sẽ không khó để bạn thuyết phục một nhóm trẻ ba tuổi nhường quyền lực cho bạn." "Bạn chỉ cần nói với họ rằng: bạn sẽ được tặng kẹo miễn phí trong một tuần và thế là xong."

Geoffrey Hinton tiếp tục báo động về mối nguy hiểm của AI : "Điều đầu tiên cần hỏi là - bạn biết bao nhiêu ví dụ về những thứ thông minh hơn được điều khiển bởi những thứ kém thông minh hơn?" Chắc là không, con người rồi đây sẽ kém thông minh hơn AI thì làm sao điểu khiển được nó. Đó là lẽ thường tình, con khỉ giả nhân không thể điểu khiển được con người.

Ông cho rằng chúng ta sẽ sớm có những siêu trí tuệ cạnh tranh với nhau, sẽ có một cuộc chiến giữa các siêu trí tuệ nhân tạo này.

Khi Marr hỏi Hinton liệu ông có ngụ ý rằng những siêu trí tuệ này có ý thức riêng hay không, vị giáo sư trả lời là "có": "Hiện tại, có đủ thứ mà chúng ta chỉ hiểu [một cách tối thiểu] về bản chất của con người và ý nghĩa của việc trở thành một sinh vật, và ý nghĩa của việc có một bản ngã. (When Marr pushed Hinton on whether he’s implying these superintelligences have their own consciousnesses, the professor replied 'yes': “There's all sorts of things we have only the [smallest] understanding of at present about the nature of people and what it means to be a being, and what it means to have a self.)

"Chúng ta không hiểu rõ những điều đó, nhưng việc hiểu được những điều đó đang trở nên vô cùng quan trọng vì hiện nay chúng ta đang tạo ra các sinh vật."

Ông lưu ý rằng mặc dù công nghệ mới không phải lúc nào cũng gây ra tình trạng mất việc làm trong quá khứ , nhưng AI nên được coi như cuộc cách mạng công nghiệp: "Những người làm công việc văn phòng sẽ bị thay thế bởi máy móc làm việc rẻ hơn và tốt hơn, vì vậy tôi lo ngại rằng sẽ có tình trạng mất việc làm hàng loạt."

Có lẽ khía cạnh đáng sợ nhất là ý tưởng rằng AI có thể vượt qua các biện pháp bảo vệ: "Trong thời gian chúng ta đào tạo AI, AI sẽ giả vờ không thông minh như nó đang thực sự có... Vậy nên việc chúng ta không biết cách quản lý chúng đã đủ đáng sợ rồi.

"Tôi nghĩ điều tốt nhất chúng ta có thể làm hiện nay là nên dành nhiều nguồn lực để nghiên cứu cách thức giữ an toàn ».

"Vì vậy, điều tôi ủng hộ là chính phủ buộc các công ty lớn phải đầu tư nhiều nguồn lực hơn vào nghiên cứu về an toàn."

Hinton kết luận rằng mặc dù AI có thể làm được những "điều tuyệt vời" trong ngắn hạn như cải tiến y tế, nhưng bức tranh toàn cảnh cho thấy chúng ta vẫn chưa biết cách làm cho AI trở nên "an toàn".

ST