Các công ty AI đang cố gắng xây dựng Chúa. Họ không nên xin phép chúng ta trước sao?

• Các công ty AI như OpenAI đang nỗ lực phát triển trí tuệ nhân tạo tổng quát (AGI), một hệ thống có thể vượt trội trí thông minh của con người và mang lại những thay đổi kinh tế sâu rộng.

• Sam Altman, CEO của OpenAI, mô tả AGI như một "trí thông minh kỳ diệu trên bầu trời" và cho rằng nó có thể "phá vỡ chủ nghĩa tư bản" cũng như là "mối đe dọa lớn nhất đối với sự tồn tại của nhân loại".

• Tác giả đặt câu hỏi liệu công chúng có thực sự muốn loại AI này hay không, và liệu một số CEO công nghệ có quyền quyết định thay đổi toàn bộ thế giới mà không cần sự đồng thuận.

• Jack Clark, đồng sáng lập công ty AI Anthropic, bày tỏ sự lo ngại về việc các nhà phát triển AI cần phải xin phép xã hội đến mức nào trước khi thay đổi xã hội một cách không thể đảo ngược.

• Bài viết phân tích 3 lập luận phổ biến ủng hộ việc phát triển AGI mà không cần sự đồng thuận của công chúng:

1. "Việc sử dụng chính là sự đồng thuận": Tác giả cho rằng đây là lập luận gây hiểu nhầm, vì sử dụng một hệ thống AI không đồng nghĩa với việc đồng ý cho phát triển AGI.

2. "Công chúng quá thiếu hiểu biết để chỉ bảo các nhà sáng tạo": Tác giả phản bác rằng mặc dù công chúng không cần quyết định chi tiết chính sách AI, nhưng họ nên được hỏi ý kiến về định hướng phát triển xã hội.

3. "Không thể ngăn cản sự đổi mới": Tác giả chỉ ra rằng đây là một quan niệm sai lầm, vì trong lịch sử đã có nhiều công nghệ bị hạn chế hoặc cấm phát triển.

• Bài viết nhấn mạnh tầm quan trọng của việc có sự đồng thuận từ xã hội đối với những công nghệ có tác động sâu rộng như AGI, tương tự như việc kiểm soát vũ khí hạt nhân hay sinh học.

• Tác giả kết luận rằng đối với những vấn đề ảnh hưởng đến toàn thể nhân loại như AGI, cần phải có sự tham gia quyết định của tất cả mọi người.

📌 Bài viết nêu bật mối quan ngại về việc phát triển AGI thiếu sự đồng thuận từ công chúng. Tác giả phân tích 3 lập luận phổ biến ủng hộ việc này và chỉ ra những điểm yếu. Kết luận nhấn mạnh tầm quan trọng của việc có sự tham gia quyết định của toàn xã hội đối với công nghệ có tác động sâu rộng như AGI.

https://www.vox.com/future-perfect/377555/ai-chatgpt-openai-god