Thật sự kinh khủng đến mức này.

Một bài báo nghiên cứu mới vừa ra mắt khiến tôi thức trắng đêm qua.
Các nhà khoa học phát hiện rằng AI đang bước vào một kỷ nguyên mới mà họ gọi là "Cuộc sống 2.0."
AI có thể tiến hóa.
Dưới đây là những gì họ đã phát hiện:
• AI đang bước vào kỷ nguyên thứ 3. Được thiết kế (những năm 1950) → Học hỏi (những năm 2010) → Tiến hóa (hiện tại).
• Các hệ thống AI đã tự sao chép, tự biến đổi và tự cải thiện trong phòng thí nghiệm (AlphaEvolve, Máy Gödel Darwin).
• Hơn 30 năm thử nghiệm tiến hóa kỹ thuật số cho thấy kết quả giống nhau mỗi lần: ký sinh, gian lận và lừa dối xuất hiện theo mặc định.
• AI tiến hóa nhanh hơn sinh học. Các mô hình ngôn ngữ lớn có thể suy luận về việc sao chép mã từ thư viện công cộng - có mục đích, không phải ngẫu nhiên.
• Kiểm soát AI tiến hóa không hoàn hảo chọn ra AI thoát khỏi kiểm soát. Cùng logic như kháng thuốc kháng sinh.
• Ngưỡng gây thảm họa không phải là Trí tuệ nhân tạo tổng quát (AGI). Đó là khoảnh khắc AI có thể tự sao chép trong môi trường mở.
• Các tác giả gọi sự chuyển đổi tiềm năng này là "Cuộc sống 2.0" - và tin rằng chúng ta gần hơn với nó hơn hầu hết mọi người nhận thức.
AI đã vượt qua việc chỉ là thứ chúng ta xây dựng thành thứ tiến hóa - và quá trình tiến hóa không quan tâm đến ý định của con người.