Mùa hè năm ngoái, một video của Mark Zuckerberg lưu hành trên Instagram, trong đó CEO của Facebook xuất hiện tuyên bố rằng anh ta có quyền kiểm soát hàng tỷ dữ liệu của mọi người, tất cả bí mật, cuộc sống của họ, tương lai của họ. Hóa ra đó là một dự án nghệ thuật. thay vì cố tình làm thông tin sai lệch, nhưng Facebook đã cho phép nó ở lại trên nền tảng. Theo công ty, nó đã không vi phạm bất kỳ chính sách nào của nó.
Đối với một số người, điều này cho thấy các công ty công nghệ lớn aren đã chuẩn bị như thế nào để đối phó với sự tấn công của phương tiện giả mạo do AI tạo ra được gọi là deepfakes. Nhưng đó không phải là lỗi của Facebook. Deepfakes cực kỳ khó kiểm duyệt, không phải vì chúng khó phát hiện (dù có thể), nhưng vì thể loại này quá rộng đến nỗi mọi nỗ lực để kẹp chặt các hình ảnh và video do AI chỉnh sửa sẽ ảnh hưởng đến toàn bộ swath của nội dung vô hại.
Cấm hoàn toàn các tác phẩm sâu có nghĩa là loại bỏ những trò đùa phổ biến như ảnh tự chụp Snapchat chuyển đổi giới tính và khuôn mặt già nua giả tạo. Cấm các sai lầm sâu sắc về chính trị chỉ dẫn trở lại các vấn đề kiểm duyệt chính trị tương tự mà các công ty công nghệ đã phải đối mặt trong nhiều năm. Và đưa ra có thuật toán đơn giản có thể tự động phát hiện nội dung do AI chỉnh sửa, bất cứ lệnh cấm nào họ ban hành đều có nghĩa là tạo ra nhiều công việc hơn nữa cho người điều hành con người bị coi thường. Đối với các công ty như Facebook, thì không có lựa chọn dễ dàng nào.
Nếu bạn lấy ‘deepfake’ có nghĩa là bất kỳ video hoặc hình ảnh nào được chỉnh sửa bằng máy học thì nó sẽ áp dụng cho một phạm trù lớn đến mức không rõ nó có nghĩa gì không, đó là Tim Tim Hwang, giám đốc của Đạo đức Harvard-MIT và Quản trị Sáng kiến AI, nói The Verge. Nếu tôi có máy khoan của mình, điều mà tôi không chắc là mình có làm hay không, tôi sẽ nói rằng cách chúng ta nên nghĩ về deepfakes là vấn đề của ý định. Bạn đang cố gắng đạt được điều gì ở loại phương tiện mà bạn đang tạo ra?
Đáng chú ý, đây dường như là hướng mà các nền tảng lớn đang thực sự thực hiện. Facebook và Reddit cả hai đã công bố các chính sách kiểm duyệt bao trùm các phần sâu vào tuần trước, và thay vì cố gắng dập tắt hoàn toàn định dạng, họ đã tập trung hẹp hơn.
Facebook cho biết họ sẽ loại bỏ các phương tiện truyền thông gây hiểu lầm, đã được chỉnh sửa hoặc tổng hợp, sử dụng AI hoặc học máy, theo cách mà một người bình thường không hiểu và có thể sẽ khiến ai đó nghĩ rằng chủ đề của video đã nói sai rằng họ không thực sự nói. Nhưng công ty lưu ý rằng điều này không bao gồm nhại lại hay châm biếm hoặc là chỉnh sửa gây hiểu lầm được thực hiện bằng các phương tiện truyền thống, như video lan truyền năm ngoái của Chủ tịch Hạ viện Nancy Pelosi được cho là đã làm lu mờ lời nói của cô.
Reddit, trong khi đó, hoàn toàn không đề cập đến AI, mà thay vào đó, họ nói rằng họ sẽ loại bỏ phương tiện truyền thông mà mạo danh cá nhân hoặc thực thể theo cách lừa dối hoặc lừa đảo. Đây cũng là một sự miễn trừ đối với châm biếm và nhại lại, và nói thêm rằng nó sẽ Trước đây, luôn luôn tính đến bối cảnh của bất kỳ nội dung cụ thể nào – một cảnh báo rộng mang đến cho các mod của nó rất nhiều thời gian.
Như nhiều người đã chỉ ra, những chính sách này là đầy sơ hở. Viết tại OneZero, Will Oremus lưu ý rằng Facebook chỉ bao gồm các phương tiện được chỉnh sửa bao gồm lời nói chẳng hạn. Điều này có nghĩa là một video video sâu làm cho nó trông giống như một chính trị gia đã đốt cháy
Cờ Mỹ, tham gia một cuộc mít-tinh dân tộc trắng, hoặc bắt tay với một tên khủng bố, sẽ không bị cấm – điều mà Facebook đã xác nhận với Oremus.
Đây là những thiếu sót rõ ràng, nhưng chúng làm nổi bật những khó khăn trong việc tách các phần tử sâu khỏi các vấn đề cơ bản của kiểm duyệt nền tảng. Mặc dù nhiều báo cáo trong những năm gần đây đã coi đối tượng của Deep Deepake là đồng nghĩa với thông tin sai lệch về chính trị của Hồi giáo, nhưng định nghĩa thực tế lại rộng hơn nhiều. Và vấn đề sẽ chỉ trở nên tồi tệ hơn vào năm 2020.
Mặc dù các phiên bản trước của phần mềm deepfake cần một chút kiên nhẫn và kỹ năng kỹ thuật để sử dụng, thế hệ tiếp theo sẽ giúp việc tạo các bản sâu dễ dàng như đăng. Các ứng dụng sử dụng AI để chỉnh sửa video (định nghĩa chuẩn của deepfake) sẽ trở nên phổ biến và khi chúng lan truyền – được sử dụng cho các câu chuyện cười, tweet thương hiệu, bắt nạt, quấy rối và mọi thứ ở giữa – ý tưởng về deepfake là độc nhất mối đe dọa đối với sự thật trực tuyến sẽ biến mất.
Chỉ trong tuần này, một ứng dụng có tên Nghi ngờ ra mắt trên iOS và Android sử dụng học máy để dán khuôn mặt người dùng vào các ảnh phản ứng phổ biến. Ngay bây giờ nó chỉ hoạt động với các GIF được chọn trước, nhưng CEO của công ty nói với The Verge itllll cho phép người dùng chèn khuôn mặt vào bất kỳ nội dung nào họ muốn trong tương lai, được cung cấp bởi một loại phương pháp học máy được gọi là GAN.
Có phải tất cả những điều này làm cho nghi ngờ một ứng dụng deepfake? Vâng. Và nó sẽ làm suy yếu nền dân chủ? Chắc là không.
Chỉ cần nhìn vào chất lượng đầu ra của nó, như được minh họa bởi GIF bên dưới, cho thấy khuôn mặt của tôi dán vào Chris Prattùi trong Công viên và giải trí. Về mặt công nghệ, nó rất ấn tượng. Ứng dụng đã tạo ra GIF trong vài giây chỉ từ một bức ảnh. Nhưng nó không bao giờ bị nhầm lẫn với thực tế. Trong khi đó, người tạo ra TikTok, ByteDance, đã thử nghiệm với tính năng deepfake (mặc dù họ nói rằng họ đã thắng được tích hợp vào ứng dụng cực kỳ phổ biến của nó) và Snapchat gần đây đã giới thiệu riêng của mình công cụ đổi mặt.
Hwang lập luận rằng sự pha loãng của thuật ngữ deepfakes thực sự có thể có lợi ích trong thời gian dài. Tôi nghĩ rằng sự trớ trêu lớn của mọi người khi nói rằng tất cả các tính năng tiêu dùng này cũng là những tác phẩm sâu sắc, đó là theo một cách nào đó, nó hóa hàng hóa ý nghĩa của deepfake có nghĩa là gì, Hwang nói. Nếu deepfakes trở nên phổ biến và không đáng kể, thì mọi người sẽ cảm thấy thoải mái với khái niệm về những gì công nghệ này có thể làm được, ông nói. Sau đó, hy vọng, chúng ta có thể hiểu nó tốt hơn và tập trung vào các vấn đề tiềm ẩn của thông tin sai lệch và tuyên truyền chính trị.
Nó có thể lập luận rằng vấn đề kiểm duyệt các tác phẩm sâu trên phương tiện truyền thông xã hội chủ yếu là một sự xao lãng ngay từ đầu. Tuyên truyền chính trị do AI biên tập đã không thành hiện thực một cách có ý nghĩa, và các nghiên cứu cho thấy rằng phần lớn các hố sâu là khiêu dâm vô thức (chiếm 96 phần trăm video deepfake trực tuyến).
Các nền tảng truyền thông xã hội đã vui vẻ tham gia vào cuộc tranh luận về kiểm duyệt deepfake, nhưng như các thông báo gần đây của Facebook và Reddit, cho thấy những nỗ lực này chủ yếu là một biểu hiện. Các vấn đề cốt lõi không thay đổi: ai sẽ nói dối trên mạng và ai quyết định liệu họ có nói dối không? Một khi các hố sâu không còn được coi là mối đe dọa hiện hữu đối với sự thật, chúng ta sẽ bị bỏ lại với những câu hỏi tương tự, không thay đổi, cấp bách hơn bao giờ hết.
