Nỗi lo sợ của các nhà nghiên cứu về ứng dụng trí tuệ nhân tạo deepfake đã trở thành sự thực.
|
Được “thiết kế riêng” cho những thước phim khiêu dâm, website Y nổi bật bởi sự đơn giản và nhanh gọn. Chỉ cần một cú click chuột, trí tuệ nhân tạo sẽ làm phần việc còn lại.
Phía trên website, người sáng lập tự tin công bố mục đích của Y là biến bất kỳ ai trở thành ngôi sao khiêu dâm bằng công nghệ deepfake ghép mặt.
Tất nhiên đây không phải tên thật của website nói trên. Nhóm nghiên cứu tại MIT Technology Review gọi website là Y vì muốn hạn chế lượng người truy cập.
Khi công nghệ bị sử dụng sai mục đích
Sự phát triển của công nghệ cho phép nhiều công cụ dễ sử dụng, không yêu cầu lập trình được ra đời. Đáng tiếc, một trong số chúng lại đang trở thành mối đe dọa khi có thể cởi bỏ trang phục của một người qua hình ảnh, hay ghép mặt họ vào các bộ phim khiêu dâm.
Ban đầu, deepfake (kỹ thuật cho tổng hợp hình ảnh con người dựa trên trí tuệ nhân tạo) được phát triển từ một công nghệ hoán đổi khuôn mặt. Tuy nhiên, chỉ sau thời gian ngắn đối tượng của công nghệ này được nhắm đến thường xuyên là người nổi tiếng và các đoạn phim khiêu dâm. Công ty nghiên cứu Sensity AI ước tính đến nay có từ 90-95% các video deepfake trực tuyến mang nội dung khiêu dâm giả mạo và không có sự đồng ý của nhân vật.
Dù bị yêu cầu đóng cửa, nhiều trang web tương tự vẫn đang hoạt động. Gần đây, nhà nghiên cứu Genevieve Oh đã tìm thấy một website ghi nhận đến 6,7 triệu người truy cập chỉ trong tháng 8.
|
|
Ảnh chụp một video sử dụng công nghệ deepfake ghép mặt diễn viên Tom Cruise. |
Theo Adam Dodge, nhà sáng lập tổ chức giáo dục phi lợi nhuận EndTAB, sự chuyên nghiệp hóa của những phần mềm deepfake trên Internet sẽ chỉ thu hút thêm người dùng mới mà thôi.
Một khi đã đăng tải ảnh chân dung mong muốn, người dùng sẽ được truy cập thư viện với nhiều đầu phim khiêu dâm. Phần lớn trong số này tập trung vào nhân vật nữ và đồng tính nam. Người dùng có thể lựa chọn một video để xem trước kết quả và chỉ sau vài giây, video thành phẩm đã sẵn sàng để được mua và tải về.
Bản thân website Y khuyến khích người dùng đăng tải chân dung của bản thân, cho thấy phần nào trách nhiệm của người sáng lập. Tuy nhiên, không ai dám chắc những câu từ khuyến cáo ấy có thể ngăn chặn việc hình ảnh của người khác bị sử dụng vô cớ. Nhiều bình luận cho biết điều này đã xảy ra.
Chưa có cách hiệu quả để đối đầu
Hầu hết video từ website Y đều dễ dàng được phát hiện là giả mạo, chân dung bị biến dạng khi nhìn từ các góc máy khác nhau. Nhưng theo các chuyên gia, chất lượng của công nghệ deepfake dù có tệ cũng đủ gây hệ quả tâm lý với nạn nhân.
Thêm vào đó, nhiều người không nhận thức được sự tồn tại của phần mềm này càng khiến khả năng họ bị đánh lừa trở nên cao hơn.
|
|
Phim khiêu dâm sử dụng công nghệ deepfake chủ yếu nhắm đến nhóm phụ nữ và đồng tính nam. |
Rana Ayyub, một nhà báo người Ấn Độ đồng thời là nạn nhân của công nghệ đã bị kêu gọi giảm thời gian lên sóng. Tại Anh, một giáo viên đã bị đuổi việc sau khi các bức ảnh deepfake được phát tán tràn lan trên mạng xã hội.
“Sự sỉ nhục này khiến bạn bị tổn thương sâu sắc, khi mà danh tính, tên tuổi, danh dự của bạn đều bị thay đổi đến mức xuyên tạc. Nó ảnh hưởng đến các quan hệ cá nhân, đến công việc của bạn. Trong mỗi cuộc phỏng vấn xin việc, có khả năng việc bạn từng là nạn nhân của deepfake sẽ được nhắc đến. Cho dù tôi có làm gì đi nữa, chúng vẫn sẽ mãi mãi tồn tại”, Noelle Martin, nhà hoạt động người Australia đã từng là nạn nhân của công nghệ deepfake cho biết.
Sự sỉ nhục này khiến bạn bị tổn thương sâu sắc, khi mà danh tính, tên tuổi, danh dự của bạn đều bị thay đổi đến mức xuyên tạc
Noelle Martin, nhà hoạt động xã hội từng là nạn nhân của công nghệ deepfake
Bên cạnh sự ảnh hưởng đến phái nữ, việc có thể lựa chọn các bộ phim đồng tính nam trở thành mối đe dọa mang tính hình sự.
Ở các quốc gia nơi quan hệ đồng tính chưa được chấp nhận, 71 bản án đã được ban hành, 11 trường hợp trong số này kết thúc bằng cái chết.
Trong nhiều năm qua, nhà nghiên cứu Henry Ajder đã tìm ra không ít ứng dụng sử dụng công nghệ deepfake để sản xuất phim khiêu dâm. Ông cho biết mình đã liên hệ với Y để yêu cầu website dừng hoạt động nhưng chưa thành công. Ông cũng tỏ ra bi quan khi nhiều website khác với nội dung tương tự đang xuất hiện ngày một nhiều.
“Các website này cần được xử lý như những văn hóa phẩm đồi trụy. Dù có hoạt động ngầm đi chăng nữa, ít nhất thì chúng cũng không xuất hiện trước mắt chúng ta hàng ngày”, Henry Ajder cho biết.
Website Y đã không phản hồi các yêu cầu bình luận qua email tiếp nhận báo chí. Sau khi được MIT Technology Review tiếp cận lần thứ 3, website đã không cho người dùng mới truy cập vào ngày 17/9.
Nguồn: News.zing.vn
