Nhà nghiên cứu vừa giành giải Nobel từng rời Google để cảnh báo về 'mối nguy hiểm' của AI

Nhà vật lý người Mỹ John Hopfield và chuyên gia AI Geoffrey Hinton đã được trao giải Nobel Vật lý 2024 trong tuần này. Được coi là "cha đẻ của AI", nghiên cứu của Hinton vào năm 2012 đã đặt nền móng cho mạng lưới nơ-ron ngày nay. Nhưng vào năm 2023, ông đã nghỉ việc tại Google để tham gia vào nhóm những người chỉ trích gióng lên hồi chuông cảnh báo về công nghệ này.

nha nghien cuu vua gianh giai nobel tung roi google de canh bao ve moi nguy hiem cua ai hinh 1

"Cha đỡ đầu" của trí tuệ nhân tạo (AI), nhà khoa học máy tính Geoffrey Hinton.

Trong cuộc phỏng vấn với tờ New York Times vào năm ngoái về việc rời bỏ ghế phó chủ tịch và kỹ sư tại Google, Hinton cho biết trước đây ông từng nghĩ Google là "người quản lý thực thụ" của công nghệ mạnh mẽ này, cho đến khi Microsoft hợp tác với OpenAI để tung ra mô hình ngôn ngữ lớn (LLM) GPT-4 của OpenAI, nền tảng hỗ trợ ChatGPT.

Mặc dù không tin AI đã đạt đến đỉnh cao vào thời điểm đó, nhà khoa học máy tính 76 tuổi này cho biết ông đã nhìn thấy triển vọng của thỏa thuận giữa Microsoft và OpenAI.

Trước khi rời Google và cùng nhiều nhân vật nổi tiếng bao gồm Elon Musk ký một bức thư ngỏ kêu gọi tạm dừng phát triển AI, Hinton đã lên CBS News để cảnh báo rằng thế giới đã đạt đến "thời điểm quan trọng" về mặt công nghệ.

"Tôi nghĩ rằng việc mọi người lo lắng về những vấn đề này ngay bây giờ là điều rất hợp lý, mặc dù điều đó sẽ không xảy ra trong một hoặc hai năm tới", ông nói với CBS vào thời điểm đó.

Hiện là giáo sư danh dự tại Đại học Toronto, Hinton đã nói rất rõ ràng rằng ông nghĩ AI có thể thoát khỏi sự kiểm soát của con người bất cứ lúc nào, và một khi điều đó xảy ra, mọi thứ có thể trở nên hỗn loạn.

Trong một cuộc trò chuyện với Ủy ban Nobel, nhà khoa học máy tính nói: "Chúng ta đang giải quyết vấn đề về những gì sẽ xảy ra và phải làm gì về nó. Tôi ước mình có một công thức đơn giản để biến mọi thứ trở nên ổn thỏa. Nhưng tôi không có".

Được coi là "người bi quan" hàng đầu về AI vì cái nhìn ảm đạm về công nghệ mà mình đã góp phần khai sinh, Hinton cho biết khi phát biểu trước Ủy ban Nobel rằng ông rất ngạc nhiên khi biết mình đã giành được giải thưởng và thậm chí còn không biết rằng mình đã được đề cử.

Ngọc Ánh (theo Futurism)

Xem thêm

FBI bắt kỹ sư OpenAI bị cáo buộc nghe lén lãnh đạo

FBI bắt kỹ sư OpenAI bị cáo buộc nghe lén lãnh đạo

(CLO) Ngày 9/10, FBI đã bắt Abdulrahman Alfozan, 35 tuổi, kỹ sư người Ả Rập Xê Út làm việc tại OpenAI ở San Francisco (Mỹ) với cáo buộc cài thiết bị ghi âm trái phép trong phòng họp điều hành của công ty.

CEO Microsoft đề xuất cơ chế 'phanh khẩn cấp' cho các mô hình AI

CEO Microsoft đề xuất cơ chế 'phanh khẩn cấp' cho các mô hình AI

(CLO) CEO Microsoft Satya Nadella cho rằng các hệ thống trí tuệ nhân tạo (AI) cần có cơ chế cho phép con người tạm dừng hoặc tắt mô hình ngay giữa quá trình thực hiện nhiệm vụ, trong bối cảnh các công ty công nghệ ngày càng ghi nhận sự cố mất kiểm soát AI.

Ý điều tra công ty âm nhạc AI Suno

Ý điều tra công ty âm nhạc AI Suno

(CLO) Cơ quan chống độc quyền của Ý đã mở cuộc điều tra đối với Suno, công ty phát triển nền tảng tạo nhạc bằng AI, do nghi ngờ một số điều khoản dịch vụ có thể gây bất lợi cho người tiêu dùng.

Na Uy đề xuất cấm tạm thời kính AI tại nơi công cộng

Na Uy đề xuất cấm tạm thời kính AI tại nơi công cộng

(CLO) Chính phủ Na Uy ngày 5/10 cho biết đang lên kế hoạch đề xuất lệnh cấm tạm thời sử dụng một số loại kính thông minh có camera và AI tại những nơi công cộng. Động thái này xuất phát từ lo ngại công nghệ mới có thể xâm phạm quyền riêng tư của người dân.

Cựu kỹ sư OpenAI cảnh báo các công ty AI chưa đủ an toàn

Cựu kỹ sư OpenAI cảnh báo các công ty AI chưa đủ an toàn

(CLO) Một cựu kỹ sư an toàn của OpenAI cảnh báo các công ty trí tuệ nhân tạo (AI) đang phát triển công nghệ quá nhanh và chưa áp dụng các biện pháp an toàn cần thiết, chỉ vài ngày sau khi Tổng thống Mỹ Donald Trump công bố thỏa thuận tự nguyện với 6 công ty AI lớn.

Nhật Bản lần đầu bảo vệ giọng nói con người trước sự sao chép của AI

Nhật Bản lần đầu bảo vệ giọng nói con người trước sự sao chép của AI

(CLO) Xác lập tiền lệ pháp lý quan trọng về bản quyền trong kỷ nguyên số, Tòa án Tokyo lần đầu tiên công nhận giọng nói của một cá nhân được bảo hộ theo quyền khai thác thương mại hình ảnh và danh tiếng, sau phán quyết trong vụ kiện liên quan đến hành vi dùng AI giả lập giọng của diễn viên lồng tiếng nổi tiếng Kenjiro Tsuda.

Cỡ chữ bài viết: