Trung Quốc: Hiện tượng đổi khuôn mặt AI gây bão! Xem ngay để khám phá!
Mục lục
- Hiện tượng "đổi khuôn mặt AI" ở Trung Quốc 🤳
- Ma Yilong - Ngôi sao mạng xã hội trông giống Elon Musk 🌟
- Sao mạng Trung Quốc "Xia Ziwei" và sự nổi tiếng từ công nghệ AI đổi khuôn mặt 💃
- Sao mạng nước ngoài giả mạo và thu hút sự chú ý bằng kỹ thuật AI đổi khuôn mặt 🌍
- Sự bùng nổ của kỹ thuật đổi khuôn mặt AI tại Trung Quốc 🚀
- Sao mạng giả mạo và người ngoại quốc giả mạo 🙅🤵
- Sự gia tăng của tội phạm giả mạo hỗn loạn 🕵️♂️
- Cách chính phủ Trung Quốc ứng phó với vấn đề AI đổi khuôn mặt ❌✋
- Quy định quản lý dịch vụ thông tin trên internet ❗
- Nỗ lực ứng phó với tội phạm giả mạo AI 💪
- Những thách thức và cách giải quyết vấn đề tội phạm giả mạo AI 🔑❓
- Xây dựng cơ chế trách nhiệm cho nhà cung cấp dịch vụ công nghệ AI ⚙️
- Đánh dấu nội dung AI để người khác nhận biết 🖊️
- Kết luận 📝
Hiện tượng "đổi khuôn mặt AI" ở Trung Quốc 🤳
Trong bối cảnh phát triển nhanh chóng của trí tuệ nhân tạo (AI), công nghệ đổi khuôn mặt AI đang trở nên ngày càng trưởng thành hơn. Tại Trung Quốc, hiện tượng "đổi khuôn mặt AI" đã gây ra nhiều loại hỗn loạn, và một số người thậm chí sử dụng công nghệ này để giả mạo các quan chức Trung Quốc để gây ra các vụ lừa đảo! Trong bài viết này, chúng ta sẽ tìm hiểu về "hiện tượng đổi khuôn mặt AI ở Trung Quốc"!
Ma Yilong - Ngôi sao mạng xã hội trông giống Elon Musk 🌟
Vào cuối năm 2021, Ma Yilong - một người nổi tiếng trên mạng với hình ảnh rất giống ông trùm Tesla Elon Musk - trở nên nổi tiếng trên Douyin và ngay lập tức trở thành một đề tài thị phi sôi động. Việc này phổ biến đến mức ông Musk cũng đã phản hồi trên cộng đồng mạng. Nội dung phản hồi của ông Musk cũng rất thú vị, ông cho biết ông sẽ sẵn lòng gặp gỡ Ma Yilong, miễn là Ma Yilong phải là một "người thật".
Dù vẫn chưa thể xác nhận Ma Yilong có phải là một người thật hay không, nhiều cư dân mạng Trung Quốc đã nghi ngờ Ma Yilong chỉ là một sản phẩm của công nghệ, bởi công nghệ sử dụng trí tuệ nhân tạo để đổi khuôn mặt và tái tạo khuôn mặt đã trở nên rất phát triển và phổ biến tại Trung Quốc. Thậm chí có nhiều sao mạng Trung Quốc đã nổi tiếng nhờ sử dụng công nghệ này. Ví dụ, người phát sóng trực tiếp Trung Quốc "Xia Ziwei" đã nổi tiếng nhờ công nghệ này. Cô trở nên nổi tiếng với nét mặt giống nữ diễn viên Ruby Lin và khả năng nhại lại chính xác và hài hước nhân vật kinh điển "Tử Duy Hương" của Ruby Lin.
Tuy nhiên, cô cũng từng bị cư dân mạng phát hiện khi quên bật bộ lọc. Bên cạnh đó, còn rất nhiều hỗn loạn giả mạo khác, chẳng hạn như các nhân vật nổi tiếng giả mạo bán hàng trực tiếp và giả vờ là binh sĩ Nga để thu hút lưu lượng truy cập, thậm chí còn có những người giả vờ là quan chức Trung Quốc để lừa đảo người khác. Hôm nay, chúng ta sẽ xem xét công nghệ đổi khuôn mặt AI tại Trung Quốc đã tạo ra những hỗn loạn gì.
Hiện tượng "đổi khuôn mặt AI" ở Trung Quốc 🤳
Trong thời gian gần đây, xuất hiện rất nhiều "siêu sao" trên các nền tảng Trung Quốc như Douyin, Kuaishou, v.v. để bán hàng trực tiếp. Nhưng nhiều lần nếu bạn xem kỹ hơn, bạn sẽ nhận ra rằng những "siêu sao" này không phải là họ chính. Đó là "ngôi sao giả mạo" được tạo ra bằng công nghệ đổi khuôn mặt AI.
Tất nhiên, cũng có những tình huống thực sự là "ngôi sao thật" đến trực tiếp bán hàng, vì vậy nhiều người dùng mạng ban đầu sẽ nghĩ rằng họ là "người thật", hoặc ít nhất là giống khuôn mặt của người nổi tiếng. Nhưng càng nhìn kỹ, càng phát hiện ra rằng đó là công nghệ đổi khuôn mặt AI.
Một số nhà phân tích chỉ ra rằng trong sự cạnh tranh quyết liệt trong ngành phát sóng trực tiếp ở Trung Quốc, để tranh giành lưu lượng truy cập, đã có lâu rồi các MC phát sóng trực tiếp dựa vào trang điểm và biểu diễn để nhại lại các ngôi sao như Jay Chou, JJ Lin và các ngôi sao khác. Ngay từ trước đó, người ta đã nhái lại nhưng hiện nay, việc giả vờ là một ngôi sao đã dễ dàng hơn.
Với công nghệ AI, bạn có thể đặt trực tiếp khuôn mặt của một ngôi sao lên mình. Do đó, hiện tượng "phát sóng trực tiếp của ngôi sao giả mạo" trở nên phổ biến hơn. Một số cư dân mạng thậm chí nói rằng họ đã từng thấy tình huống của một số ngôi sao nổi tiếng Trung Quốc như "Dương Mịch" và "Reba" cùng một lúc, điều này đã làm cho một số cư dân mạng Trung Quốc nói đùa rằng "người thường không xứng đáng được phát sóng trực tiếp nữa".
Tuy nhiên, công nghệ đổi khuôn mặt này không chỉ được sử dụng trong ngành công nghiệp phát sóng trực tiếp. Có người sử dụng AI để "thay đổi chủng tộc" trên ứng dụng "Change Stars". Một hiện tượng khác được gây ra bởi công nghệ đổi khuôn mặt AI tại Trung Quốc trong những năm gần đây được gọi là "Ngôi sao mạng nước ngoài giả mạo". Người ta biến mình thành một người da trắng để thu hút sự chú ý. Đặc biệt sau khi bắt đầu cuộc chiến Nga-Ukraine, do sự ủng hộ rộng rãi của dư luận Trung Quốc đối với Nga, giả vờ là "người Nga" dường như đã trở thành "mật khẩu mới" để thu hút lưu lượng truy cập trên Douyin của Trung Quốc.
Ví dụ, năm ngoái có một ngôi sao Douyin tên là "Nana Nga" trở nên nổi tiếng khi chia sẻ cuộc sống của mình tại Trung Quốc và tán dương Trung Quốc, thu hút hàng triệu người hâm mộ và bán rất nhiều sản phẩm Nga. Sau đó, người ta phát hiện ra rằng cô ấy là một tài khoản Douyin giả mạo được tạo ra bằng cách đổi khuôn mặt của một người Trung Quốc. Tài khoản Douyin này đã bị khoá vì vụ việc này. Năm nay, một ngôi sao Douyin khác tên là "Paul Kochaty" tự xưng là một "lực lượng đặc biệt Chechnya" có thể nói tiếng Trung và đang chiến đấu trên tuyến đầu ở Ukraine. Anh ta sẽ chia sẻ những chiến công của mình trong video, chẳng hạn như tịch thu xe của Tổng thống Ukraine và bắt giữ binh sĩ Hoa Kỳ hoạt động, đã thu hút gần 400.000 người hâm mộ chỉ trong vài tháng.
Vodka, mật ong và những sản phẩm Nga khác anh ta bán cũng đã bán sạch. Kết quả, cư dân mạng tiếp tục phát hiện ra các điểm đáng ngờ. Chẳng hạn, anh ta nói với giọng địa phương Trung Quốc. Địa chỉ IP của tài khoản của anh ta cũng được cho là ở tỉnh Hà Nam, Trung Quốc. Thậm chí công trình mà anh ta cho là "Nhà máy điện hạt nhân Ukraine" trong video của mình thực tế là một nhà máy điện ở Lạc Dương, Hà Nam.
Sau đó, vụ việc này cũng được các phương tiện truyền thông Trung Quốc đưa tin về việc anh ta sử dụng công cụ AI để thay đổi hình dạng của mình trở thành người da trắng. Không lâu sau đó, Douyin đã khoá tài khoản của "Kochatie".
Việc kiếm tiền thông qua công nghệ đổi khuôn mặt AI không chỉ là ngôi sao giả mạo và người nước ngoài. Có ngay cả những người sử dụng công nghệ này để gây ra các vụ lừa đảo, và đối tượng giả mạo không chỉ là người thân và bạn bè của nạn nhân mà còn là các quan chức chính phủ. Theo báo chí Trung Quốc, trong những tháng gần đây, " các vụ lừa đảo AI đổi khuôn mặt" liên tục tiếp diễn ở Trung Quốc. Vào tháng 5, một ông chủ công ty công nghệ ở Trung Quốc đã bị lừa đảo 4,3 triệu nhân dân tệ chỉ trong vòng 10 phút.
Chuyện là ông chủ nhận được một cuộc gọi từ một người bạn, nói rằng ông ta muốn thuê người. Ông ta đã giúp đỡ bằng cách chuyển khoản một số tiền vào tài khoản chỉ định. Bởi vì đó là cuộc gọi video với khuôn mặt và giọng nói của người bạn, ông chủ không nghi ngờ và đã chuyển tiền. Nhưng sau đó ông ta phát hiện ra rằng đó không phải là người bạn mà là băng đảng đã đánh cắp tài khoản WeChat của bạn và sử dụng công nghệ AI tạo ra giọng nói và hình dáng để giả mạo anh ta. Từ khi vụ việc này được tiết lộ, từ khóa "lừa đảo AI đang bùng phát khắp đất nước" đã nằm trong danh sách hot search trên Weibo. Sau đó, nhiều vụ án tương tự được báo cáo và người bị bắt. Có một nhóm tội phạm chuyên về các vụ lừa đảo AI này.
Nguyên nhân khiến các vụ lừa đảo AI này ngày càng gia tăng là vì "chi phí giả mạo" rất thấp. Các tài liệu được tạo ra cho AI rất dễ dàng tiếp cận, chẳng hạn như các trường hợp giả mạo người thân và bạn bè, chỉ cần thông qua quấy rối, bạn có thể thu thập dữ liệu giọng nói và ảnh của người mà bạn giả mạo bằng điện thoại, hoặc bạn chỉ cần vào các trang mạng xã hội để lấy chúng. Việc giả mạo một quan chức cũng dễ dàng hơn nhiều, vì một số quan chức thường xuyên xuất hiện trên truyền hình và bạn có thể dễ dàng tiếp cận đến tài liệu phong phú. Ngoài ra, kỹ thuật dễ thực hiện với ngưỡng thực hiện không cao, vì công nghệ đổi khuôn mặt AI đã trở nên rất phổ biến ở Trung Quốc và tài liệu giảng dạy và tài nguyên liên quan có thể được tìm thấy ở khắp mọi nơi trên internet. Công nghệ Deepfake đã rất phổ biến từ năm 2017. Trung Quốc cũng không phải là ngoại lệ và đang nhanh chóng lan rộng trên toàn thế giới.
Trong những năm gần đây, với sự tiến bộ nhanh chóng của công nghệ AI, tiến trình đổi khuôn mặt đã trở nên dễ dàng hơn. Ngay từ năm 2019, ứng dụng đổi khuôn mặt "ZAO" đã xuất hiện ở Trung Quốc. Chỉ cần tải lên một bức ảnh khuôn mặt, bạn có thể trồng cây khuôn mặt của mình vào các nhân vật trong các tác phẩm phim và truyền hình khác nhau để tạo ra các bộ phim ngắn. Ứng dụng này cũng nhanh chóng trở nên phổ biến trên các nền tảng mạng xã hội Trung Quốc. Nó từng đứng đầu "danh sách tải xuống miễn phí" của Apple Appstore tại Trung Quốc. Mặc dù sau đó, sự thịnh hành của ZAO nhanh chóng giảm đi do "điều khoản về quyền riêng tư" gây nghi ngờ từ thế giới bên ngoài. Tuy nhiên, công nghệ đổi khuôn mặt AI vẫn tiếp tục phát triển. Hiện nay, các công ty lớn như Tencent và các công ty khác đã tung ra các công cụ "hợp nhất khuôn mặt", và cũng đã có các công cụ cho phép bạn "thay đổi khuôn mặt chỉ với một cú nhấp chuột" giống như áp dụng bộ lọc trong suốt phát sóng trực tiếp hoặc video. Đồng thời, các bộ công cụ "đổi khuôn mặt" khác nhau cũng được bán trên internet Trung Quốc. Theo các báo cáo của phương tiện truyền thông Trung Quốc, hầu hết các bộ công cụ này sử dụng phần mềm nguồn mở nước ngoài hiện có và tài liệu và chuyển đổi chúng thành phiên bản tiếng Trung, bổ sung tài liệu tiếng Trung, v.v. Do không tốn kém nhiều, giá của các công cụ này trở nên "phù hợp với người dân" hơn. Năm nay, trên Internet Trung Quốc đã xuất hiện một bộ công cụ đổi khuôn mặt giá 79 nhân dân tệ, bao gồm 30 khuôn mặt và cho phép bạn "chuyển đổi" trực tiếp trong cuộc trò chuyện video.
Vì công nghệ dễ tiếp cận và rẻ, đổi khuôn mặt AI đang trở nên ngày càng phổ biến. Các tội phạm liên quan như lừa đảo cũng trở nên phổ biến và cũng đã gia tăng. Tất nhiên, hiện tượng này không chỉ xảy ra tại Trung Quốc. Những vấn đề tương tự đã xảy ra ở hầu hết các vùng trên thế giới. Do đó, các chính phủ trên toàn thế giới đang cố gắng quy định công nghệ mới này. Tiếp theo, chúng ta sẽ xem các quan chức Trung Quốc đã xử lý vấn đề này như thế nào.
Cách chính phủ Trung Quốc ứng phó với vấn đề AI đổi khuôn mặt ❌✋
Theo các báo cáo từ các phương tiện truyền thông phương Tây như Wall Street Journal, Trung Quốc được coi là một quốc gia "rất tiên tiến" trong việc lập pháp để quản lý công nghệ AI. Đây luôn là một câu hỏi quan trọng đối với các cơ quan quản lý toàn cầu về cách quản lý các công nghệ như Deepfake. Và Trung Quốc đã ra mắt các quy định liên quan.
Vào cuối năm ngoái, Trung Quốc ban hành "Quy định quản lý đối với dịch vụ thông tin internet được tổng hợp sâu" (Regulations on the Management of Deep Synthesis of Internet Information Services), cấm người và tổ chức sử dụng công nghệ tổng hợp sâu để sản xuất và phổ biến thông tin sai lệch và nội dung bất hợp pháp khác. Nó cũng yêu cầu nhà sản xuất dịch vụ như vậy phải đánh dấu rõ ràng nội dung là "tổng hợp bởi AI" và nếu họ phát hiện ai đó đang sử dụng dịch vụ của họ để sản xuất và phổ biến nội dung bất hợp pháp, họ phải "thực hiện biện pháp phản bác kịp thời".
Tuy nhiên, Wall Street Journal chỉ ra rằng "nội dung bất hợp pháp" mà quy định này định nghĩa khá rộng. Nó không chỉ bao gồm thông tin sai lệch và nội dung vi phạm, mà còn nhấn mạnh rằng nội dung được tạo ra bằng công nghệ tổng hợp sâu không thể được sử dụng để tham gia vào các hoạt động bất hợp pháp như "gây nguy hiểm cho lợi ích và an ninh quốc gia", "gây hại đến hình ảnh quốc gia, làm đảo lộn trật tự xã hội", v.v. Do đó, một số phân tích phương Tây tin rằng hành động của Trung Quốc là vì mục đích duy trì ổn định. Trong những tháng gần đây, khi các cơ quan chức Trung Quốc liên quan đang tăng cường kiểm tra và điều chỉnh "thông tin sai lệch do AI tổng hợp", nhiều nội dung bị cấm được nghi ngờ chỉ đích danh đến "vụ đánh đập Tangshan" và những sự kiện xã hội khác đã gây chú ý hồi nhiệt dư luận trong những năm gần đây. Ngoài ra, các phân tích này cũng đã đề cập rằng vì cảnh sát Trung Quốc của họ hiện đang tập trung năng lượng chính vào kiểm duyệt chính trị của nội dung được tạo ra bởi AI và nguồn lực liên quan đối với các vấn đề lừa đảo AI có hạn, chính phủ Trung Quốc có thể không muốn dư luận quá tập trung vào "lừa đảo AI". Ví dụ, gần đây, chủ đề "#AIfraud is breaking out across the country" trở thành chủ đề nóng trên Weibo nhưng sau đó bị cấm.
Tuy nhiên, phương tiện truyền thông chính thức của Trung Quốc "Xinhuanet" cho biết chủ đề này là "tin giả", vì theo cảnh sát Trung Quốc, tỷ lệ các vụ lừa đảo AI rất thấp và không có sự "bùng phát khắp đất nước" như đã nêu. Trước đây, chúng tôi đã có nhiều video đã thảo luận về các vấn đề gây ra bởi công nghệ đảo giọng AI, bao gồm "lừa đảo giọng AI" ở Bắc Mỹ, việc thăm các nạn nhân của "vụ đổi khuôn mặt Deepfake ở Đài Loan", vv. Một lúc trước đây, cũng có một vụ việc ở Đài Loan khi một nhóm lừa đảo sử dụng AI để đổi khuôn mặt thành Zhou Tanghao và lừa đảo người hâm mộ 500.000 đô la. Rõ ràng, vấn đề này không chỉ xảy ra ở Trung Quốc. Với sự tiến bộ và phổ biến của công nghệ AI, các vấn đề hỗn loạn và tội phạm do các công nghệ đảo giọng AI khác nhau trên khắp thế giới đã tăng lên. Tuy nhiên, chúng tôi nghĩ rằng tình hình của Trung Quốc đáng được nghiên cứu và quan sát hơn. Vấn đề này nằm ở việc cơ sở dân số của họ rất lớn, vì vậy các mô hình sử dụng khác nhau có thể thay đổi nhanh hơn. Trên một khía cạnh khác, hãy để qua một bên việc thảo luận về "kiểm duyệt chính trị, duy trì ổn định", v.v. Liên quan đến "các phương pháp quản lý" được cung cấp bởi các quy định mới của Trung Quốc, chúng tôi nghĩ rằng, để ngăn chặn tội phạm của "đổi khuôn mặt AI", một số phương pháp của họ đúng là đáng được tham khảo. Ví dụ, họ không cấm hoặc hạn chế đáng kể việc phát triển và ứng dụng công nghệ này, nhưng đã thiết lập một cơ chế chịu trách nhiệm cho "nhà cung cấp dịch vụ công nghệ AI" và yêu cầu họ đánh dấu nội dung này rõ ràng là "do AI tổng hợp" và nếu họ phát hiện ra ai đó sử dụng dịch vụ của họ để sản xuất và phổ biến nội dung bất hợp pháp, họ phải "thực hiện biện pháp phản bác kịp thời". Chúng tôi nghĩ rằng, sau cùng, nhiều thứ là nguồn mở và việc cấm hoặc quản lý công nghệ chính nó thật sự khó khăn. Và xét cho cùng, vấn đề không phải là về công nghệ, mà là về người dùng và cách sử dụng, do đó, đó có thể là một phương pháp thực tế hơn để nhắm vào nhà cung cấp công nghệ và nội dung được tạo ra. Tuy nhiên, đây chỉ là suy nghĩ của chúng tôi không chuyên môn. Thực tế là công nghệ AI cần được quản lý, có nhiều khía cạnh cần cân nhắc, vì vậy cuối cùng, chúng tôi muốn hỏi bạn, bạn nghĩ chúng ta nên xử lý vấn đề tội phạm gây ra bởi công nghệ giả mạo AI như thế nào?
Kết luận 📝
Trong bối cảnh phát triển nhanh chóng của công nghệ trí tuệ nhân tạo (AI), hiện tượng đổi khuôn mặt AI đã đạt đến mức trưởng thành ở Trung Quốc. Việc sử dụng công nghệ này đã tạo ra nhiều loại rối ren và tội phạm, từ ngôi sao mạng giả mạo cho đến người ngoại quốc giả mạo. Quá trình đổi khuôn mặt AI đang trở nên ngày càng phổ biến và liên quan đến nhiều vấn đề phức tạp mà chúng ta cần xem xét và giải quyết. Trung Quốc đã đưa ra một số biện pháp quản lý để kiểm soát công nghệ này, và các quốc gia khác trên thế giới cũng đang cố gắng tìm ra các giải pháp tương tự. Tuy nhiên, vấn đề này đòi hỏi một quan điểm cân nhắc từ cả chính phủ và xã hội, bởi công nghệ AI không chỉ là một công cụ mạnh mà còn đem lại nhiều lợi ích. Cuối cùng, việc quản lý công nghệ AI và xử lý các vấn đề liên quan đối với tội phạm giả mạo AI sẽ tiếp tục là một thách thức và yêu cầu sự phối hợp chặt chẽ giữa các bên liên quan.
FAQ
Q: Công nghệ đổi khuôn mặt AI đã từng tạo ra hiện tượng nổi tiếng nào ở Trung Quốc?
A: Một hiện tượng nổi tiếng là Ma Yilong, một người có ngoại hình rất giống ông chủ Tesla Elon Musk, đã trở nên nổi tiếng trên Douyin và làm cho ông Musk phản hồi trên mạng xã hội.
Q: Có bao nhiêu ngôi sao mạng Trung Quốc đã sử dụng công nghệ đổi khuôn mặt AI để đạt được sự nổi tiếng?
A: Nhiều sao mạng Trung Quốc đã sử dụng công nghệ này để đạt được sự nổi tiếng, ví dụ như Xia Ziwei, người đã trở nên nổi tiếng với nét mặt giống Ruby Lin và khả năng nhại lại nhân vật kinh điển của Ruby Lin.
Q: Trung Quốc đã có những biện pháp quản lý nào để kiểm soát công nghệ đổi khuôn mặt AI?
A: Trung Quốc đã ban hành quy định cấm sử dụng công nghệ đổi khuôn mặt AI để sản xuất và phổ biến nội dung sai lệch, và yêu cầu các nhà cung cấp dịch vụ công nghệ AI phải đánh dấu rõ ràng các nội dung là "tổng hợp bởi AI" và thực hiện biện pháp phản bác kịp thời nếu phát hiện việc sử dụng dịch vụ của họ để sản xuất và phổ biến nội dung bất hợp pháp.
Q: Phương Tây đã nhận xét gì về công nghệ AI đổi khuôn mặt ở Trung Quốc?
A: Các phương tiện truyền thông phương Tây đã nhận xét rằng Trung