Tiêu điểm - Trí tuệ nhân tạo: Kiểm soát hay để phát triển tự nhiên?

VOV1 - AI đang phát triển với tốc độ chưa từng có, len sâu vào y tế, ngân hàng, năng lượng, quân sự… Khi máy móc ngày càng có khả năng tự học, tự quyết định, thế giới đứng trước bài toán khó: kiểm soát AI để bảo đảm an toàn, hay để công nghệ tự do phát triển nhằm thúc đẩy đổi mới? Khi AI ngày càng có khả năng tự học, tự quyết định và thực hiện những nhiệm vụ phức tạp, thế giới đang phải đối mặt với một bài toán chưa có lời giải rõ ràng: kiểm soát AI đến đâu để bảo đảm an toàn và để công nghệ này phát triển tự nhiên đến mức nào để không kìm hãm đổi mới? Đằng sau cuộc chạy đua AI không chỉ là câu chuyện về công nghệ, mà còn là câu hỏi về giới hạn quyền tự chủ mà con người sẵn sàng trao cho máy móc. Những tranh luận về việc kiểm soát AI hay để nó phát triển tự nhiên đang trở nên ngày càng gay gắt hơn bao giờ hết.Giáo sư Brad Carson, người đứng đầu tổ chức vận động chính sách về AI có trách nhiệm tại Mỹ,  hôm 15/9 đã đưa ra cảnh báo thế giới đang tiến gần tới một giai đoạn mà AI có thể tự cải tiến và ngày càng ít phụ thuộc vào sự giám sát của con người.  “Chúng ta thực sự đang đứng trước ngưỡng cửa của sự tự cải tiến và nâng cấp, nơi AI được sử dụng để huấn luyện AI mới, loại bỏ hoàn toàn vai trò của con người. Ngày càng nhiều mã được viết và thực thi bởi các hệ thống AI mà không cần sự giám sát của con người. Tất cả những điều này có nghĩa là chúng ta đang đứng trước nguy cơ mất hoàn toàn khả năng giám sát và có lẽ cả quyền kiểm soát.” - Giáo sư Carson nhấn mạnh.Những cảnh báo như vậy không chỉ đến từ những người bên ngoài ngành công nghệ. Cựu nhà nghiên cứu AI tại Anthropic, một trong những công ty AI hàng đầu của Mỹ và là nhà phát triển hệ thống Claude, Jacob Coxon, mới đây tuyên bố từ chức và cho rằng việc xây dựng một siêu trí tuệ giống như con người đang tạo ra một dạng trí tuệ mà chính mình chưa thể hiểu hết.Trong khi đó, Giám đốc điều hành của Anthropic Dario Amodei kêu gọi ngành AI giảm tốc độ phát triển. “ Tốc độ tiến bộ thật đáng kinh ngạc. Không chỉ về công nghệ mà còn cả về khía cạnh kinh tế. Vì vậy, tôi và một số người đồng sáng lập đã xây dựng các quy luật về khả năng mở rộng, cho thấy rằng các mô hình AI sẽ ngày càng thông minh hơn khi được cung cấp nhiều tài nguyên tính toán hơn. Và chúng tôi đã có dự đoán về khả năng của các mô hình này. Nhưng tôi nghĩ điều mà chúng tôi không lường trước được là nó sẽ dẫn đến sự phát triển nhanh chóng của các công ty này”.AI - trước bài toán kiểm soát hay phát triển tự nhiên (ảnh: Reuters)