Tin chiều 20.09.2019: Facebook, Microsoft phát triển các hệ thống để phát hiện các video siêu giả mạo

20-09-2019

IDEASPLUS.VN - Facebook Inc đang hợp tác với Microsoft Corp, Tổ hợp Liên minh về AI và các học giả từ một số trường đại học để phát động một cuộc thi nhằm phát hiện deepfake.

Deepfake là một kỹ thuật tổng hợp hình ảnh của con người dựa trên trí tuệ nhân tạo. Nó được sử dụng để kết hợp và chồng các hình ảnh và video hiện có lên các hình ảnh hoặc video nguồn bằng cách sử dụng một kỹ thuật học máy được gọi là mạng đối nghịch chung. Cụm từ "deepfake" đã được đặt ra vào năm 2017.

 

Người tham dự đi ngang qua logo Facebook trong hội nghị các nhà phát triển F8 của Facebook Inc tại San Jose, California, Hoa Kỳ, ngày 30 tháng 4 năm 2019. REUTERS / Stephen Lam

Facebook đang đặt 10 triệu đô la vào Thử thách phát hiện Deepfake, mục đích thúc đẩy nghiên cứu phát hiện. Là một phần của dự án, Facebook đang ủy quyền cho các nhà nghiên cứu tạo ra các deepfake y nhưu thật để tạo ra một bộ dữ liệu cho các công cụ phát hiện thử nghiệm.

Công ty cho biết các video sẽ được phát hành vào tháng 12 sẽ có các diễn viên trả phí và không có dữ liệu người dùng nào được sử dụng.

 

"Thử thách phát hiện Deepfake" sẽ diễn ra từ tháng 10 đến tháng 3 tới với mục tiêu phát triển các hệ thống mới có thể xác định khi nào một video clip thực sự là sản phẩm của thuật toán AI.

Trước thềm cuộc bầu cử tổng thống Hoa Kỳ vào tháng 11 năm 2020, các nền tảng xã hội đã chịu áp lực phải giải quyết mối đe dọa của các cuộc tấn công deepfake, sử dụng trí thông minh nhân tạo để tạo ra các video siêu thực mà một người dường như nói hoặc làm điều gì đó mà họ không làm.

Mặc dù chưa có một video deepfake được chế tạo kỹ lưỡng với những hậu quả chính trị lớn ở Hoa Kỳ, nhưng khả năng video bị thao túng gây xáo trộn gần đây đã được chứng minh bằng một "cheapfake" của bà chủ tịch Hạ viện Nancy Pelosi.

Vào tháng 8, Ủy ban Quốc gia Dân chủ đã chứng minh mối đe dọa từ các video deepfake bằng cách tạo ra một trong những Chủ tịch Tom Perez của riêng mình, để khiến khán giả tại hội nghị hacker Def Con nghĩ rằng Perez thực sự đã tham gia hội nghị.

Một số nhà nghiên cứu đang làm việc trên các hệ thống để xác thực video hoặc hình ảnh tại điểm chụp thông qua hình mờ kỹ thuật số. Nhưng sự phát triển nhanh chóng của công nghệ deepfake đã tạo ra một cuộc chạy đua vũ trang giữa những người tạo ra deepfake và những người cố gắng phát hiện video.

Công nghệ cũng đang phát triển dễ tiếp cận hơn đối với những người sáng tạo kém kỹ năng. Tuần trước, một ứng dụng của Trung Quốc có tên Zao cho phép người dùng biến khuôn mặt của họ thành những ngôi sao điện ảnh nổi bật trên đỉnh của cửa hàng ứng dụng quốc gia, mặc dù nó cũng gặp phải phản ứng dữ dội về những vấn đề riêng tư.

Chủ tịch Ủy ban Tình báo Hạ viện Adam Schiff đã yêu cầu vào tháng 7 rằng Facebook, Twitter Inc và Alphabet Inc, Google, công ty sở hữu YouTube, chia sẻ kế hoạch của họ để giải quyết các vấn đề deepfake. Facebook cho biết họ đang chi 7,5 triệu đô la cho các đội tại Đại học California, Berkeley, Đại học Maryland và Đại học Cornell để đối phó với mối đe dọa.

Duy Khang - CEOBANK.VN | VIETKINGS | REUTERS


Theo Khang Nguyen - CEOBANK.VN


 

Content 1 mobi
Content 1
Content 2 mobi
Content 2
Content 9
Content 10
Content 11
Content 12
Content 13
Content 14