Người đoạt giải Nobel mới, cha đẻ của AI Geoffrey Hinton, nói rằng ông tự hào vì học trò của mình đã sa thải sếp của OpenAI, Sam Altman.
Chỉ có một số ít nhà khoa học trên thế giới đạt được vinh dự đoạt giải Nobel, một thành tựu chỉ có một lần trong đời và mãi mãi được ghi vào lịch sử.
Điều này càng trở nên đặc biệt hơn khi Geoffrey Hinton chỉ phát biểu hơn một phút trước khi chỉ trích CEO của OpenAI trong một buổi họp báo ngẫu hứng được tổ chức để vinh danh giải thưởng của ông.
Chỉ ngủ được hai tiếng, nhà khoa học máy tính rõ ràng đang khiêm tốn nói rằng ông không hề biết mình được đề cử cho giải thưởng này. Sau khi cảm ơn hai cộng sự chính của mình qua nhiều năm—Terry Sejnowski và cố David Rumelhart, cả hai đều được ông gọi là “người thầy”—Hinton tiếp tục ghi nhận vai trò của các học trò của mình tại Đại học Toronto đã giúp hiện thực hóa công việc của ông qua nhiều năm.
“Họ đã làm được nhiều điều tuyệt vời,” ông nói hôm thứ Ba. “Tôi đặc biệt tự hào rằng một trong những học trò của tôi đã sa thải Sam Altman. Và tôi nghĩ mình nên dừng lại ở đây.”
Kỷ niệm gần một năm của cuộc đảo chính tại phòng họp Hinton ám chỉ đến Ilya Sutskever. Cựu nhà khoa học trưởng tại OpenAI đã cùng Helen Toner và hai người khác trong hội đồng quản trị kiểm soát của tổ chức phi lợi nhuận quyết định sa thải CEO của họ trong một cuộc đảo chính ngoạn mục vào tháng 11 năm ngoái. Sutskever nhanh chóng hối hận vì vai trò của mình trong việc đẩy OpenAI vào khủng hoảng, và Altman đã quay trở lại vị trí của mình chỉ trong vài ngày.
Hinton và Sutskever đã hợp tác cùng Alex Krizhevsky vào năm 2012 để tạo ra một thuật toán có thể nhận dạng các đối tượng trong hình ảnh với độ chính xác chưa từng có vào thời điểm đó. Được gọi là “AlexNet,” nó thường được coi là bước đột phá trong lĩnh vực AI.
Thường được gọi là một trong những cha đẻ của trí tuệ nhân tạo, Hinton ca ngợi công việc của các đồng nghiệp Yoshua Bengio và Yann LeCun trước khi tự chế nhạo bản thân nhiều lần. Những lời tự nhận này bao gồm việc thừa nhận rằng khi còn là sinh viên trẻ, ông đã bỏ ngành vật lý—lĩnh vực mà ông được ủy ban Nobel công nhận—vì ông không thể xử lý các phép toán.
Tin tức về giải thưởng của Hinton được công bố vài tuần trước kỷ niệm một năm vụ lật đổ ngắn ngủi đã khiến OpenAI rơi vào cảnh hỗn loạn, gây sốc và cuối cùng không thành công của Altman—cũng như kỷ niệm hai năm ngày ra mắt ChatGPT vào cuối tháng 11 năm 2022.
Chatbot AI Tạo sinh của OpenAI đã tạo ra làn sóng quan tâm đến công nghệ này, khi công chúng bắt đầu nhận ra lần đầu tiên rằng máy móc có thể vượt qua con người về trí tuệ trong thế hệ này.
“Một số nhà nghiên cứu giỏi tin rằng trong vòng 20 năm tới, AI sẽ trở nên thông minh hơn chúng ta, và chúng ta cần suy nghĩ kỹ về điều gì sẽ xảy ra sau đó,” Hinton nói vào thứ Ba.
Lo ngại về sự an toàn của trí tuệ nhân tạo Altman là một nhân vật gây tranh cãi trong cộng đồng AI. Ông đã bị gọi là kẻ nói dối bởi cựu thành viên hội đồng quản trị OpenAI, Helen Toner, và đã cắt giảm tài nguyên cho nhóm an toàn AI của mình, theo một trưởng nhóm hiện đã rời đi.
Altman hiện đang tìm cách từ bỏ tình trạng phi lợi nhuận của OpenAI khi ông chạy đua để thương mại hóa công nghệ của mình, tạo ra sự chia rẽ sâu sắc trong tổ chức. Điều này đã gây ra làn sóng các nhà nghiên cứu rời khỏi công ty, tập trung vào việc căn chỉnh trí tuệ nhân tạo tổng quát với lợi ích của nhân loại như một loài vẫn đang thống trị trái đất.
Khi được hỏi về lời chỉ trích đối với Altman ngay từ đầu buổi họp báo, Hinton đã giải thích lý do của mình.
“Theo thời gian, hóa ra Sam Altman ít quan tâm đến an toàn hơn là lợi nhuận,” ông nói, “và tôi nghĩ điều đó thật đáng tiếc.” Fortune đã liên hệ với OpenAI để yêu cầu bình luận.
Hinton kêu gọi nghiên cứu khẩn cấp về an toàn AI Những nhân vật lớn như Hinton, 76 tuổi, lo sợ việc đặt lợi nhuận lên trên đạo đức là vô cùng nguy hiểm trong giai đoạn hiện nay. Hiện tại, các nhà khoa học đã khó có thể dự đoán cách các mô hình AI tiên tiến nhất ngày nay, với hàng nghìn tỷ tham số của chúng, thực sự đưa ra các kết quả. Thực chất chúng đang trở thành những chiếc hộp đen, và một khi điều đó xảy ra, sẽ ngày càng khó đảm bảo con người duy trì quyền tối cao.
“Khi chúng ta tạo ra những thứ thông minh hơn bản thân mình, không ai thực sự biết liệu chúng ta có thể kiểm soát chúng hay không,” Hinton nói, người đã cam kết dành nỗ lực của mình để vận động cho sự an toàn của AI thay vì đi đầu trong nghiên cứu tiên tiến.
Rủi ro từ những điều chưa biết này là lý do tại sao cơ quan lập pháp bang California đề xuất một dự luật an toàn AI, dự luật đầu tiên thuộc loại này tại Hoa Kỳ. Tuy nhiên, các nhà đầu tư có ảnh hưởng tại Thung lũng Silicon như Marc Andreessen đã vận động mạnh mẽ chống lại dự luật, và nó cuối cùng đã bị Thống đốc Gavin Newsom phủ quyết vào tháng trước.
Khi được hỏi về nguy cơ tiềm ẩn thảm khốc do AI mất kiểm soát gây ra, Hinton thừa nhận không có sự chắc chắn.
“Hiện tại chúng ta chưa biết cách tránh tất cả,” ông nói. “Đó là lý do tại sao chúng ta cần khẩn trương nghiên cứu thêm.”
Giải Nobel Vật lý 2024: Tôn vinh hai nhà khoa học đặt nền móng cho AI:
Cha đẻ của AI Geoffrey Hinton tự hào vì học trò của mình đã sa thải sếp của OpenAI, Sam Altman
Xem ngay 📹: 👉 Chi tiết: https://4techviews.net/cha-de-cua-ai-geoffrey-hinton-tu-hao-vi-hoc-tro-cua-minh-da-sa-thai-sep-cua-openai-sam-altman/