Một bức thư liên quan đến siêu trí tuệ AI với những cảnh báo nguy hiểm là nguyên nhân khiến Sam Altman bị sa thải khỏi OpenAI.
Theo Reuters đưa tin, nguyên nhân Sam Altman đột ngột bị sa thải khỏi OpenAI là bởi CEO này được cho là đã đạt được bước đột phá trong việc nghiên cứu ra siêu trí tuệ nhân tạo có khả năng năng đe dọa tương lai nhân loại.
Trước đó, Giám đốc công nghệ OpenAI Mira Murati tiết lộ với nhân viên của bà rằng một bức thư mật là nguyên nhân khiến công ty ra quyết định sa thải Sam Altman. Bức thư này được một số nhà nghiên cứu OpenAI gửi tới hội đồng quản trị cũ, liên quan đến bước đột phá của Q* (Q-Star).
Q* được cho là dự án bí mật nghiên cứu AGI (siêu trí tuệ nhân tạo) của OpenAI, được phát triển song song với ChatGPT. Theo định nghĩa của công ty, AGI là hệ thống siêu trí tuệ toàn năng, thông minh hơn con người.
Sự thể hiện xuất sắc của AIG khiến nhiều người lạc quan về tương lai của siêu trí tuệ. Tuy nhiên, số khác lo ngại Q* có thể đe dọa nhân loại nên đã gửi thư cảnh báo.
Hiện AGI rất giỏi viết và dịch ngôn ngữ bằng cách dự đoán thống kê từ tiếp theo. Nó cũng có thể đưa ra các câu trả lời khác nhau cho cùng một câu hỏi, kể cả các vấn đề thường chỉ có 1 đáp án chính xác như toán học.
Điều này cho thấy AI có khả năng suy luận tốt hơn con người. Không giống như một chiếc máy tính chỉ có thể giải một số phép tính đơn giản, AGI có khả năng khái quát hóa, học hỏi và hiểu được.
Trong thư gửi hội đồng quản trị, các nhà nghiên cứu đã lưu ý sức mạnh và mối nguy hiểm tiềm tàng của AI. Từ lâu đã có cuộc thảo luận giữa các nhà khoa học máy tính về mối nguy hiểm do máy móc cực kỳ thông minh gây ra, chẳng hạn như liệu một ngày chúng có tự hỏi :"Tại sao mình phải phục tùng loài người?" hay không.
Elon Musk cũng đặt nghi vấn về việc OpenAI đang phát triển một công nghệ nguy hiểm. Tỷ phú cho rằng đây có thể là lý do Ilya Sutskever, nhà khoa học trưởng của OpenAI, muốn sa thải Sam Altman.
"Tôi rất lo lắng. Ilya là người có đạo đức và không ham muốn quyền lực. Ông ấy sẽ không hành động quyết liệt như vậy trừ khi thật cần thiết. Thế giới cần biết nếu OpenAI đang sở hữu thứ gì đó gây nguy hiểm cho nhân loại", Musk chia sẻ trên mạng xã hội X ngày 20/11.
Trong khi đó, tại cuộc họp nhân viên ngày 18/11, ông Sutskever chia sẻ: "Chúng ta đang thực hiện nhiệm vụ với sứ mệnh của một tổ chức phi lợi nhuận, đó là đảm bảo OpenAI xây dựng AGI có lợi cho toàn nhân loại".
Sau khi nhận bức thư cảnh báo, hội đồng quản trị OpenAI đã họp khẩn cấp và quyết định sa thải CEO Sam Altman. Họ cho rằng Sam Altman có khuynh hướng để AI tự do phát triển, tạo cơ hội cho AI đe dọa nhân loại.