Hỏi chuyên gia về rủi ro AI, nghị viên Anh nhận được câu trả lời: ‘AI có thể tiêu diệt tất cả mọi người’
Một nghị viên khác nói rằng ông hoàn toàn không tin vào ‘tương lai đen tối … nơi mà tất cả chúng ta đều bị bắt làm nô lệ’
Một ủy ban gồm các nghị viên Anh đã lắng nghe bằng chứng về những rủi ro về một “tương lai đen tối”, nơi trí tuệ nhân tạo (AI) chiếm lĩnh thế giới và con người bị xóa sổ, giống như cốt truyện của bộ phim “Kẻ hủy diệt” (“The Terminator”).
Tại một phiên điều trần của Ủy ban Khoa học và Công nghệ Nghị viện Anh, Nghị viên Đảng Bảo Thủ Tracey Crouch đã yêu cầu ông Michael Cohen, một nghiên cứu sinh tiến sĩ thuộc Khoa học Kỹ thuật tại Đại học Oxford, “giải thích thêm về một số rủi ro mà ông nghĩ các hệ thống AI gây ra cho những người dùng cuối.”
Ông Cohen trả lời: “Có một rủi ro đặc biệt … đó là AI có thể tiêu diệt tất cả mọi người.”
Ông giải thích bằng cách sử dụng một câu chuyện ngụ ngôn về việc huấn luyện một con chó bằng cách sử dụng đồ ăn như một phần thưởng.
Ông Cohen cho biết: “Con chó sẽ học cách chọn các hành động dẫn đến việc nhận được phần thưởng, và chúng ta có thể làm những điều tương tự với AI. Nhưng nếu con chó này tìm thấy tủ đồ ăn, thì nó có thể tự lấy đồ ăn mà không cần làm những gì chúng ta muốn nó làm.”
Ông nói thêm, “Quý vị hãy hình dung về việc đi vào rừng để huấn luyện một con gấu với một túi đồ ăn, bằng cách giữ lại đồ ăn và cho ăn một cách có chọn lọc tùy thuộc vào việc con gấu đó có làm những gì quý vị muốn hay không, điều mà chúng thực sự có thể sẽ làm là vồ lấy đồ ăn bằng vũ lực.”
Ông Cohen đã cảnh báo về một sự thay đổi mô thức mà trong đó AI có khả năng “tiếp quản quá trình này.”
Ông tiếp tục: “Rồi thì, khi quý vị có thứ gì đó thông minh hơn chúng ta nhiều, thứ đang cố gắng để đạt được điều này, đạt được phản hồi tích cực này một cách cực đoan, theo bất cứ cách nào mà chúng ta đã mã hóa nó, và nó chiếm lấy cả thế giới để bảo đảm đạt được điều đó, thì nó sẽ hướng nhiều năng lượng nhất có thể để bảo đảm duy trì được điều đó và như vậy sẽ khiến chúng ta không còn chút năng lượng nào cho bản thân.”
Sau đó, bà Crouch đã hỏi rằng liệu rủi ro này có thể được giảm thiểu hay không.
Ông Cohen trả lời: “Có thể. Những gì tôi đã mô tả không áp dụng cho tất cả các dạng AI. Vì vậy, ví dụ, tôi đã nói trước đó về lợi ích kinh tế của việc AI bắt chước con người. Nếu quý vị đang đào tạo một AI để bắt chước một người, thì nó sẽ không chiếm lĩnh thế giới, cũng như người mà nó đang bắt chước. Và vì vậy, đó là một thuật toán khác có trong trong thuật ngữ AI rất rộng.”
Ông cho biết: “AI có thể thực hiện việc dự đoán và nó có thể chủ yếu thực hiện việc lập kế hoạch, và đối với những thứ chỉ thực hiện việc dự đoán thì đây không phải là một kết quả mà tôi nghĩ chúng ta nên mong đợi. Hoàn toàn có thể phát triển quy định nhằm ngăn chặn các loại AI nguy hiểm mà tôi đang nói đến, đồng thời mở ra cơ hội cho một tập hợp rất lớn các dạng AI có giá trị kinh tế.”
‘Viễn cảnh ảm đạm là có thực’
Sau đó, ông Cohen nói: “Tôi nghĩ viễn cảnh ảm đạm là có thực bởi vì AI đang cố gắng mô hình hóa những gì khiến con người trở nên đặc biệt, điều đã dẫn đến việc con người thay đổi hoàn toàn bề mặt trái đất. Vì vậy, nếu chúng ta có thể nắm bắt được điều đó trong công nghệ, tất nhiên, nó sẽ gây ra nhiều rủi ro cho chúng ta như chúng ta đã gây ra cho các loài khác, ví dụ như loài chim dodo.”
Ông Michael Osborne, một giáo sư về học máy tại Đại học Oxford, cũng trình bày trong phiên điều trần này rằng AI có nhiều mặt tích cực về phương diện kinh tế, đặc biệt là nó có thể thực hiện các công việc thường ngày với chi phí thấp hơn nhiều so với lực lượng lao động của con người.
Ông Osborne cho biết: “AI không gặp phải một số vấn đề ảnh hưởng đến lao động con người. Nó có thể hoạt động 24/7, không bị phân tâm bởi những đứa trẻ ở phía sau … nó cũng có thể hoạt động trong những môi trường khắc nghiệt, quý vị có thể có AI trên các vệ tinh, như chúng ta vẫn đang áp dụng trên thực tế.”
Nhưng ông nói, “AI tốt hơn nên được xem như là một phụ trợ cho sức lao động của con người, như một cộng tác viên với con người, và về mặt đó, AI đã có tác động to lớn.”
Khi được hỏi liệu AI có nguy cơ soán ngôi con người trong bất kỳ ngành nghề nào hay không, ông Osborne đã đưa ra ví dụ về người mẫu thời trang.
Ông nói: “Năm 2013, chúng tôi đã từng dự đoán rằng người mẫu thời trang có khả năng bị thay thế bằng máy móc cao. Chúng tôi dự đoán họ có xác suất 90% bị tự động hóa. Và chúng tôi đã bị cười nhạo, nhưng tất nhiên hiện nay, có những công ty sản xuất hình mẫu kỹ thuật số với sự hỗ trợ hoàn toàn chỉ của phần mềm đồ họa, có khả năng tạo dáng trong bất kỳ bộ quần áo nào quý vị muốn, để tạo ra những hình ảnh kỹ thuật số mà quý vị có thể đưa lên hồ sơ mạng xã hội của mình để nhận các khoản tiền thực tế từ các thương hiệu thời trang.”
Ông Cohen cho biết “sản lượng kinh tế của ngựa” đã sụp đổ sau khi động cơ đốt trong được phát triển vào đầu thế kỷ 20, nhưng ông cho biết AI vẫn chưa sẵn sàng để thay thế con người như khi xe hơi thay thế xe ngựa.
Ông Cohen nói: “Bởi vì AI chưa đạt đến mức độ có thể làm được những gì chúng ta đang làm.”
Sau đó, Nghị viên Đảng Bảo Thủ Stephen Metcalfe cho biết: “Rõ ràng là chúng ta đã nghe nói về tương lai đen tối mà AI sẽ mang lại, nơi mà máy móc tiếp quản và tất cả chúng ta đều bị bắt làm nô lệ. Tôi không nhất thiết tin rằng mọi thứ sẽ đi đến kết cục này. Nhưng rõ ràng, để bảo đảm điều đó không xảy ra, chúng ta cần một số hình thức quản lý.”
Quy định về phát triển AI vì ‘lợi ích chung’
Sau đó, ông Metcalfe đã hỏi hai nhân chứng chuyên gia khác, “Vậy, khi nghĩ về quy định về AI, chính phủ nên xem xét điều gì để bảo đảm rằng chúng ta tiếp tục phát triển AI vì lợi ích chung và không để lại những rủi ro tiềm ẩn có khả năng quay lại khiến chúng ta trả giá trong vòng 100 năm nữa?
Bà Katherine Holden, người đứng đầu bộ phận phân tích dữ liệu, AI, và nhận dạng kỹ thuật số tại hiệp hội thương mại techUK, đã trả lời: “Nếu chúng ta dự định dựa vào các cấu trúc hiện hữu mà chúng ta có, thì các cơ quan quản lý phải có đủ năng lực để có thể quản lý AI một cách hiệu quả, và bảo đảm rằng họ có khả năng xác định các ứng dụng có rủi ro cao.”
Thanh Tâm biên dịch
Quý vị tham khảo bản gốc từ The Epoch Times
