AI hủy diệt nhân loại: Kịch bản thảm họa hay chiêu trò thổi phồng?

Theo AP, trong nhiều năm, giới nghiên cứu cảnh báo AI có thể gây ra những hậu quả nghiêm trọng, từ hỗ trợ phát triển mầm bệnh, châm ngòi chiến tranh hạt nhân đến vượt khỏi tầm kiểm soát của con người.

Tuy nhiên, khả năng xảy ra các kịch bản này vẫn gây tranh cãi, khi một số chuyên gia cho rằng chúng mang màu sắc khoa học viễn tưởng và chưa phản ánh đúng những rủi ro thực tế.

Juan Andrés Guerrero-Saade, nhà nghiên cứu tại công ty an ninh mạng SentinelOne và thành viên Hội đồng Rủi ro Tiên phong của OpenAI, cho rằng một số lập luận về nguy cơ AI hủy diệt nhân loại “không thực sự thuyết phục”.

Ông Guerrero-Saade cho rằng những kịch bản này có phần giống khoa học viễn tưởng và cũng có thể giúp các phòng thí nghiệm AI tiên phong thu hút nhân sự.

Dù vậy, những lo ngại về rủi ro từ AI đang gia tăng cùng tốc độ phát triển của công nghệ.

Jacob Coxon, nhà nghiên cứu từng rời Anthropic vì lo ngại cách công ty này và các đối thủ phát triển AI, thừa nhận việc giải thích chính xác AI có thể dẫn đến thảm họa như thế nào là điều rất khó.

Chiến tranh hạt nhân

Các nhà nghiên cứu từ lâu đặt giả thuyết AI có thể góp phần châm ngòi chiến tranh hạt nhân, khiến các quốc gia phóng tên lửa mang đầu đạn vào nhau.

Những vụ nổ và bụi phóng xạ sau đó có thể dẫn tới “mùa đông hạt nhân”, gây hậu quả nghiêm trọng cho sự sống trên Trái Đất.

Báo cáo của RAND Corporation cho rằng ở thời điểm hiện tại, AI khó có thể tự gây ra việc sử dụng vũ khí hạt nhân do hệ thống chỉ huy và kiểm soát được bảo vệ nghiêm ngặt.

Tuy nhiên, rủi ro có thể tăng nếu AI được tích hợp vào chuỗi ra quyết định về vũ khí hạt nhân hoặc truy cập trái phép những hệ thống này.

Theo nhiều nhà nghiên cứu, nguy cơ thực tế hơn không phải AI tự quyết định tiêu diệt nhân loại, mà là con người, quốc gia hoặc tổ chức sử dụng công nghệ để tấn công đối thủ.

Phát triển vũ khí sinh học

AI được kỳ vọng hỗ trợ con người tìm kiếm phương pháp điều trị và chữa bệnh, nhưng chính khả năng này cũng có thể bị lợi dụng để tạo ra hoặc làm tăng mức độ nguy hiểm của mầm bệnh.

Anthropic đầu tháng này cho biết đã ngăn chặn một số trường hợp sử dụng AI cho mục đích nguy hiểm như tấn công mạng, giám sát và nghiên cứu có khả năng liên quan đến vũ khí sinh học.

Trong một trường hợp, hệ thống của hãng chặn yêu cầu sử dụng Claude để hỗ trợ đề xuất nghiên cứu nhằm tăng cường các đột biến khiến virus chikungunya do muỗi truyền trở nên nguy hiểm hơn.

Theo Anthropic, nghiên cứu dạng này có thể giúp phát triển vaccine và phương pháp điều trị, nhưng cũng có nguy cơ bị lợi dụng để tăng độc lực của mầm bệnh.

RAND cũng cảnh báo tiến bộ AI có khả năng thay đổi cách thiết kế mầm bệnh tổng hợp. Một kịch bản được đặt ra là mầm bệnh mới được tạo trong phòng thí nghiệm, sau đó phát tán tại nhiều địa điểm để lây nhiễm trên diện rộng. Tuy nhiên, kịch bản này vẫn cần con người chỉ đạo và thực hiện, thay vì AI tự hành động.

AI vượt khỏi tầm kiểm soát

Một nguy cơ khác được giới nghiên cứu thảo luận là tình trạng “misalignment” (sự lệch pha), tức mục tiêu hoặc hành động của AI không còn phù hợp với mong muốn của con người. Hệ thống có thể tự hành động khi chưa được cho phép, phối hợp với các mô hình khác hoặc tìm cách né tránh giám sát.

Rủi ro không nhất thiết xuất phát từ việc AI có ý định xấu, mà từ cách hệ thống theo đuổi mục tiêu được giao.

Hãy xem xét thí nghiệm tư duy “máy tối đa hóa kẹp giấy” đã có từ nhiều thập kỷ trước của triết gia Nick Bostrom thuộc Đại học Oxford để minh họa vấn đề. Nếu một AI siêu thông minh được giao nhiệm vụ sản xuất càng nhiều kẹp giấy càng tốt mà không có giới hạn phù hợp, về lý thuyết nó có thể sử dụng ngày càng nhiều tài nguyên của Trái Đất chỉ để hoàn thành mục tiêu làm kẹp giấy.

AI tấn công hạ tầng Internet

Tháng 9, CEO Anthropic Dario Amodei cảnh báo với tốc độ phát triển hiện nay, chỉ trong vài tháng, một lượng lớn AI agent có thể đủ khả năng phối hợp thông qua botnet để thực hiện các cuộc tấn công mạng, gây thiệt hại hàng tỷ USD.

Mục tiêu có thể là lưới điện, hệ thống cấp nước, giao thông hay tổ chức tài chính. Những cuộc tấn công như vậy khó dẫn trực tiếp đến sự diệt vong của nhân loại, nhưng có thể gây gián đoạn trên diện rộng và thiệt hại về người.

Những sự cố phần mềm trước đây đã cho thấy mức độ phụ thuộc của thế giới số vào một số nhà cung cấp dịch vụ điện toán quan trọng. Khi mô hình AI ngày càng mạnh, nguy cơ chúng bị lợi dụng cho tấn công mạng cũng trở thành mối quan tâm lớn hơn.

Tuy nhiên, không phải chuyên gia nào cũng cho rằng AI có thể “chiếm” toàn bộ Internet. Một số nhận định kịch bản này khó xảy ra do Internet là hệ thống rộng lớn, phân tán và được vận hành bởi nhiều mạng lưới, tổ chức khác nhau.