Sự trỗi dậy của AI siêu thông minh và Mỹ cần biến AI thành dự án Manhattan tiếp theo

- Bài luận dài 165 trang của Leopold Aschenbrenner mang tên "Nhận thức Tình huống: Thập kỷ Phía trước" cảnh báo về sự xuất hiện sắp tới của trí tuệ siêu việt (superintelligence) và thế giới chưa sẵn sàng cho điều đó.

- Aschenbrenner dự đoán AGI (trí tuệ nhân tạo tổng quát) có thể xuất hiện sớm nhất vào năm 2027. Đến năm 2028, các mô hình AI sẽ thông minh ngang chuyên gia tiến sĩ và có thể làm việc cùng con người.

- Sau AGI, bước nhảy vọt lớn tiếp theo là đến superintelligence. Hàng trăm triệu AGI có thể tự động hóa nghiên cứu AI, nén 10 năm tiến bộ thuật toán vào 1 năm. Sức mạnh và mối nguy từ superintelligence sẽ rất lớn.

- Aschenbrenner đưa ra 4 thách thức mà superintelligence sẽ đặt ra: nhu cầu tính toán khổng lồ, khó khăn trong bảo mật phòng thí nghiệm AI, vấn đề điều chỉnh máy móc phù hợp với mục đích của con người, và hệ quả quân sự.

- Tác giả liên tục sử dụng phép loại suy với vũ khí hạt nhân. Ông coi Mỹ đang ở giai đoạn tương tự sau thử nghiệm Trinity đầu tiên của Oppenheimer, đi trước Liên Xô nhưng không lâu. Trung Quốc đóng vai trò của Liên Xô trong ẩn dụ này.

- Aschenbrenner kêu gọi Mỹ phải giữ vững vị thế dẫn đầu về AI vì an ninh quốc gia, xây dựng cụm máy tính ở Mỹ chứ không phải ở các chế độ độc tài. Các phòng thí nghiệm AI Mỹ có nghĩa vụ hợp tác với cộng đồng tình báo và quân đội để xây dựng AI cho quốc phòng.

- Mỹ cần một Dự án Manhattan mới và một tổ hợp công nghiệp AGI để bảo vệ hòa bình và tự do.

📌 Bài luận của Aschenbrenner cảnh báo superintelligence sắp xuất hiện và thế giới chưa sẵn sàng. Ông dự báo AGI có thể đến vào 2027, dẫn tới superintelligence với sức mạnh và mối nguy to lớn. Tác giả kêu gọi Mỹ giữ vững vị thế dẫn đầu AI, xây dựng một Dự án Manhattan mới và tổ hợp công nghiệp AGI để bảo vệ an ninh quốc gia, hòa bình và tự do trước Trung Quốc.

https://www.theguardian.com/commentisfree/article/2024/jun/15/hows-this-for-a-bombshell-the-us-must-make-ai-its-next-manhattan-project