Elon Musk cùng nhiều chuyên gia và hơn 1000 người kêu gọi tạm dừng phát triển AI cao cấp
- Mộc Vệ
- •
Ông Elon Musk cùng nhiều chuyên gia trí tuệ nhân tạo (AI) và lãnh đạo doanh nghiệp đã ký một bức thư ngỏ, kêu gọi tất cả các phòng thí nghiệm AI ngay lập tức ngừng hoạt động huấn luyện hệ thống AI mạnh hơn GPT-4, vì có thể gây nguy hiểm cho xã hội loài người.
Bức thưđược xuất bản bởi tổ chức phi lợi nhuận Future of Life Institute, đã nhanh chóng thu được hàng ngàn chữ ký.
Trong số những người ký tên có nhiều nhân vật nổi tiếng trong ngành công nghệ như CEO Elon Musk, Steve Wozniak – đồng sáng lập Apple, Emad Mostaque – nhà sáng lập Stability AI, Yoshua Bengio – nhà khoa học nổi danh về AI, và nhà khoa học máy tính Stuart Russell…
Bức thư chỉ ra các hệ thống AI với khả năng cạnh tranh cùng con người có thể gây ra rủi ro khó lường cho loài người, điều này cũng đã được các phòng thí nghiệm AI hàng đầu công nhận.
Trong thư, các chuyên gia kêu gọi tạm dừng phát triển AI cấp cao trong ít nhất 6 tháng, khoảng thời gian này để các phòng thí nghiệm AI và các chuyên gia độc lập cùng nhau chế định thỏa thuận an toàn chung trong phát triển AI tiên tiến, hoạt động cũng cần được các chuyên gia độc lập bên ngoài giám sát chặt chẽ.
“Nếu (kế hoạch) tạm ngừng này không nhanh chóng ban hành kịp thời, chính phủ nên can thiệp và đưa ra lệnh tạm ngừng”, bức thư viết.
Bức thư mô tả các phòng thí nghiệm AI trong những tháng gần đây là “cuộc chạy đua ngoài tầm kiểm soát” để phát triển những bộ óc kỹ thuật số ngày càng mạnh mẽ, nhưng không ai kể cả những người tạo ra AI có thể hiểu, dự đoán hoặc kiểm soát một cách đáng tin cậy đối với AI. “Các hệ thống AI mạnh mẽ chỉ có thể nên phát triển nếu chúng ta tin tưởng rằng tác động của chúng là tích cực và rủi ro của chúng là có thể kiểm soát được”, bức thư viết.
Các chuyên gia nhấn mạnh: “Việc nghiên cứu và phát triển AI nên được tập trung lại vào việc làm cho các hệ thống mạnh mẽ, tiên tiến ngày nay trở nên chính xác, an toàn, dễ giải thích, minh bạch, nhất quán, đáng tin cậy và trung thực hơn”.
Bức thư cũng kêu gọi các nhà phát triển hợp tác với các nhà hoạch định chính sách để tăng cường quản trị và điều tiết AI, thiết lập quỹ công và xây dựng các thể chế có nguồn lực tốt để đối phó với nguy cơ gây tổn hại kinh tế và dân chủ có thể xảy ra từ AI.
Tuy công ty Tesla cũng sử dụng AI cho hệ thống tự lái của xe Tesla, nhưng CEO Elon Musk đã thẳng thắn bày tỏ những lo ngại về AI.
Ông Musk là người đồng sáng lập OpenAI, nhưng ông không hài lòng với tình trạng hiện tại của OpenAI và đã tweet vào tháng 2: “OpenAI được tạo ra như một công ty nguồn mở phi lợi nhuận (đó là lý do tôi đặt tên OpenAI) để cân bằng với Google, nhưng giờ đây nó là một công ty vì lợi nhuận do Microsoft kiểm soát”.
“Đây hoàn toàn không phải là ý định ban đầu của tôi”, ông Musk viết vào thời điểm đó.
OpenAI was created as an open source (which is why I named it “Open” AI), non-profit company to serve as a counterweight to Google, but now it has become a closed source, maximum-profit company effectively controlled by Microsoft.
Not what I intended at all.
— Elon Musk (@elonmusk) February 17, 2023
Một trong những học giả đã ký vào bức thư ngỏ là giáo sư danh dự Gary Marcus tại Đại học New York, nói với Reuters: “Bức thư chưa hoàn hảo nhưng tinh thần là đúng đắn: chúng ta cần đi chậm lại cho đến khi hiểu rõ hơn về hậu quả của việc làm đó… Các tập đoàn lớn ngày càng trở nên bí mật về những gì họ đang làm, khiến xã hội rất khó phòng vệ trước bất kỳ tác hại nào có thể phát sinh… Họ có thể gây hại nghiêm trọng…”.
Hôm 16/3, người được xem như “cha đẻ” của ChatGPT, ông Sam Altman, tuyên bố bản thân công ty tung ra công nghệ mới này cũng lo sợ nó sẽ gây ra mối đe dọa cho con người, thậm chí là “thực sự nguy hiểm”.
Theo tờ Guardian, CEO Altman của OpenAI với tư cách là nhà đồng phát triển, cho biết trong một cuộc phỏng vấn gần đây rằng điều đáng lo ngại nhất là liệu ChatGPT có bị lợi dụng để lan truyền tin tức giả mạo trên diện rộng hay không. Trong tình hình hiện nay, việc viết mã máy tính của ChatGPT không ngừng tốt hơn, giúp dễ dàng sử dụng AI này cho các cuộc tấn công mạng.
Sam Altman nói về việc thành lập công ty của mình vào đầu tháng này: “Chúng tôi phải cẩn thận. Tôi nghĩ mọi người nên vui vì chúng tôi hơi sợ hãi về điều đó”.
Theo Fox News, ông Geoffrey Hinton, nhà khoa học máy tính được mệnh danh là “Bố già của trí tuệ nhân tạo (AI)”, nói rằng trí tuệ nhân tạo có thể phát triển đến mức gây ra mối đe dọa cho loài người, không phải là điều không tưởng.
Xem thêm
Từ khóa AI Dòng sự kiện trí tuệ nhân tạo Elon Musk
