Công nghệ ‘tước đi phẩm giá con người’: Hệ thống AI mới chuyển đổi suy nghĩ thành văn bản
Các nhà khoa học đã phát triển một hệ thống trí tuệ nhân tạo có khả năng đọc được suy nghĩ của con người bằng cách đo lường hoạt động của não bộ và chuyển đổi suy nghĩ thành văn bản — một sự phát triển gây ra những lo lắng về quyền riêng tư và tự do.
Nghiên cứu này (pdf), được công bố trên tạp chí Nature Neuroscience hôm 01/05, đã sử dụng một mô hình máy chuyển đổi, tương tự như mô hình giúp vận hành chatbot trí tuệ nhân tạo ChatGPT của OpenAI, để giải mã suy nghĩ của con người. Mô hình máy chuyển đổi này là một mạng lưới thần kinh vốn học hỏi ngữ cảnh, và sau đó là ý nghĩa. Ban đầu, những người thử nghiệm lắng nghe các podcast trong hàng giờ và hoạt động của não được ghi lại. Tiếp đó, các nhà nghiên cứu đã dựa trên những bản ghi này để huấn luyện bộ giải mã. Sau đó, những người thử nghiệm lắng nghe một câu chuyện mới hoặc tưởng tượng kể một câu chuyện, điều này cho phép bộ giải mã tạo ra văn bản tương ứng bằng cách phân tích hoạt động của não.
Các nhà nghiên cứu đã huấn luyện những bộ giải mã này dựa trên [dữ liệu của] ba người thử nghiệm. Nghiên cứu này cho biết: “Bởi vì bộ giải mã của chúng tôi thể hiện ngôn ngữ sử dụng các đặc điểm ngữ nghĩa chứ không phải các đặc điểm vận động hoặc thính giác, nên các dự đoán của bộ giải mã sẽ nắm bắt được ý nghĩa của các kích thích.”
“Các kết quả cho thấy rằng các chuỗi từ được giải mã không chỉ nắm bắt được ý nghĩa của các tác nhân kích thích mà thậm chí còn thường là các từ và cụm từ chính xác.”
Các công nghệ có khả năng đọc được suy nghĩ của con người có thể có lợi cho những người mất khả năng giao tiếp về mặt thể chất. Tuy nhiên, các công nghệ này gây lo ngại về quyền riêng tư và mất tự do.
Trong một cuộc phỏng vấn hôm 17/03 với tạp chí MIT Technology Review, bà Nita Farahany, một nhà tương lai học và nhà nghiên cứu về đạo đức pháp lý tại Đại học Duke ở Durham, North Carolina, đã cảnh báo rằng việc thu thập dữ liệu não bộ có thể được các chính phủ và các thế lực khác sử dụng cho các mục đích bất chính.
“Ví dụ, một chính phủ độc tài có quyền truy cập có thể sử dụng dữ liệu này để cố gắng xác định những người không thể hiện sự phục tùng chính trị. Đó là một sự lạm dụng dữ liệu khá nhanh và nghiêm trọng. Hoặc cố gắng xác định những người mắc bệnh thần kinh, và phân biệt đối xử hoặc tách biệt họ,” bà Farahany nói.
Tại một nơi làm việc, công nghệ này có thể được sử dụng để “tước đi phẩm giá” của các nhân viên bằng cách buộc họ phải chịu sự giám sát về thần kinh.
“Vấn đề xảy ra nếu công nghệ trên được sử dụng như một công cụ bắt buộc, và chủ doanh nghiệp thu thập dữ liệu để đưa ra các quyết định về tuyển dụng, sa thải, và thăng chức. Họ biến công nghệ này thành một thước đo hiệu quả công việc. Sau đó, tôi nghĩ rằng mọi chuyện trở nên thực sự ngấm ngầm và có vấn đề. Điều này làm xói mòn lòng tin … và có thể khiến nơi làm việc trở nên mất nhân tính.”
Công nghệ không xâm lấn, giải quyết các vấn đề về quyền riêng tư
Không giống như các hệ thống giải mã ngôn ngữ khác đang được phát triển hiện nay, hệ thống được các nhà nghiên cứu phát triển trong nghiên cứu hôm 01/05 là không xâm lấn và không yêu cầu những người thử nghiệm phải trải qua các phẫu thuật cấy ghép.
Ông Alex Huth, một giáo sư về khoa học thần kinh và khoa học máy điện toán tại UT Austin, người đứng đầu nghiên cứu trên, đã gọi những kết quả này là một “bước nhảy vọt thực sự” đối với phương pháp đọc suy nghĩ của não mà không xâm lấn.
Theo một thông cáo báo chí hôm 01/05, ông Huth cho biết: “Chúng tôi đang sử dụng mô hình này để giải mã ngôn ngữ liên tục trong thời gian dài với những ý tưởng phức tạp.” Các kết quả được giải mã không phải là bản chép lại nguyên văn từng từ. Thay vào đó, các kết quả này nắm bắt được ý chính của một chủ thể đang nghĩ gì.
Để giải quyết những lo lắng về quyền riêng tư, các nhà nghiên cứu đã thử nghiệm các bộ giải mã để xem liệu có thể huấn luyện các bộ giải mã mà không cần sự hợp tác của con người hay không. Nhóm này đã cố gắng giải mã giọng nói ghi nhận được từ những người thử nghiệm bằng cách sử dụng các bộ giải mã được huấn luyện dựa trên dữ liệu từ những người thử nghiệm khác.
Nghiên cứu trên cho biết, “Các bộ giải mã vốn được huấn luyện dựa trên dữ liệu của những người thử nghiệm khác nhau thì hầu như không có khả năng thực hiện và thực hiện kém hơn nhiều so với các bộ giải mã được huấn luyện dựa trên dữ liệu của cùng một người thử nghiệm. Điều này cho thấy rằng sự hợp tác của chủ thể vẫn cần thiết cho việc huấn luyện bộ giải mã.”
Các nhà nghiên cứu cũng khẳng định rằng bộ giải mã được huấn luyện với sự hợp tác của một người không thể được sử dụng để xác định suy nghĩ của cá nhân đó nếu người đó cố tình chống lại quá trình này. Các chiến thuật như nghĩ về động vật hoặc lặng lẽ tưởng tượng ra những câu chuyện có thể ngăn hệ thống này đọc được các suy nghĩ.
Ông Huth cho hay: “Một người cần dành tới 15 giờ nằm trong một máy quét MRI, hoàn toàn bất động, và tập trung vào những câu chuyện mà họ đang lắng nghe để bộ giải mã này thực sự hoạt động hiệu quả với họ.”
Nhã Đan biên dịch
Quý vị tham khảo bản gốc từ The Epoch Times
