duyanh
11-30-2023, 02:21 PM
Hình trẻ em chết giả mạo đang gieo rắc nỗi sợ hãi toàn cầu
WASHINGTON, DC (NV) – Trong số những hình ảnh về nhà cửa bị dội bom cùng đường phố bị tàn phá ở Gaza, một số hình ảnh hiện ra với sự kinh hoàng tột độ: Trẻ em bị bỏ rơi bê bết máu.
Được xem trực tuyến hàng triệu lần từ khi chiến tranh bùng nổ, đó là những hình ảnh giả được tạo ra bằng trí tuệ nhân tạo. Nếu nhìn kỹ, người ta có thể để ý được các manh mối: ngón tay cong kỳ lạ hoặc đôi mắt lấp lánh ánh sáng không tự nhiên – tất cả đều là dấu hiệu nhận biết về lừa dối kỹ thuật số.
Tuy nhiên, sự phẫn nộ mà những hình ảnh nêu trên kích động lại quá chân thật.
https://www.nguoi-viet.com/wp-content/uploads/2023/11/pexels-tara-winstead-8849282-scaled.jpg
Những hình ảnh giả mạo tạo ra bằng kỹ thuật trí tuệ nhân tạo AI đang gây lo ngại toàn cầu (Hình minh họa: Tara Winstead/Pexels)
Những tấm hình từ cuộc chiến Israel-Hamas minh họa một cách sống động và đau đớn rằng trí tuệ nhân tạo AI có thể được dùng như một công cụ tuyên truyền để tạo ra những hình ảnh tàn sát sống động như thật. Từ khi chiến tranh nổ ra vào tháng trước, những tấm hình được chỉnh sửa bằng kỹ thuật số lan truyền trên mạng xã hội được tận dụng để đưa ra những tuyên bố sai lạc về trách nhiệm của thương vong hoặc để đánh lừa người khác về những hành động tàn bạo chưa từng xảy ra.
Trong khi hầu hết các tuyên bố sai trái lan truyền trên mạng về cuộc chiến không yêu cầu AI tạo ra và đến từ các nguồn tin thông thường hơn, thì những tiến bộ kỹ nghệ đang đến gần với tần suất ngày càng tăng và ít được giám sát. Điều đó làm cho tiềm năng của AI trở thành một dạng võ khí khác trở nên rõ ràng và đưa ra cái nhìn thoáng qua về những gì sẽ xảy ra trong các cuộc xung đột, bầu cử và các cột mốc lớn khác trong tương lai.
“Mọi chuyện sẽ trở nên tồi tệ hơn – tệ hơn rất nhiều – trước khi tốt hơn,” Jean-Claude Goldenstein, Tổng Giám Đốc CREOpoint, công ty kỹ nghệ đặt trụ sở tại San Francisco và Paris sử dụng AI để đánh giá tính hợp lệ của các khiếu nại trực tuyến cho biết.
Trong một số trường hợp, những bức ảnh từ các cuộc xung đột hoặc thảm họa khác được sử dụng lại và phát tán như mới. Ở những nơi khác, các nhu liệu AI tổng quát được dùng để tạo ra hình ảnh từ đầu, chẳng hạn như hình ảnh một em bé khóc giữa đống đổ nát từ vụ đánh bom lan truyền trong những ngày đầu của cuộc xung đột.
Các ví dụ khác về hình ảnh do AI tạo ra gồm có băng thu hình cho thấy các cuộc tấn công hỏa tiễn của Israel, hoặc xe tăng lăn bánh qua các khu dân cư đổ nát hoặc các gia đình đang lùng sục nạn nhân trong đống đổ nát.
Các nhà tuyên truyền tạo ra những hình ảnh như vậy nhắm vào rung động và lo âu sâu sắc nhất của người dân, Imran Ahmed, Tổng Giám Đốc Trung Tâm Chống Thù Hận Kỹ Thuật Số, tổ chức bất vụ lợi chuyên theo dõi thông tin sai lạc từ chiến tranh cho biết.
Nội dung lừa đảo tương tự do AI tạo ra bắt đầu lan truyền sau khi Nga xâm lược Ukraine năm 2022. Một đoạn phim bị thay đổi, cho thấy Tổng Thống Ukraine Volodymyr Zelenskyy ra lệnh cho người Ukraine đầu hàng. Những tuyên bố như vậy tiếp tục được lan truyền gần đây như hồi tuần trước, cho thấy thông tin sai lạc có thể dễ dàng bị vạch trần thậm chí dai dẳng đến dường nào.
Mỗi cuộc xung đột mới hoặc mùa bầu cử đều mở ra cơ hội mới cho những kẻ rao bán thông tin sai lạc nhằm chứng minh những tiến bộ mới nhất của AI. Điều đó làm cho nhiều chuyên gia AI và khoa học gia chính trị cảnh cáo về những rủi ro trong năm tới, thời điểm đó một số quốc gia tổ chức bầu cử lớn, gồm có Hoa Kỳ, Ấn Độ, Pakistan, Ukraine, Đài Loan, Indonesia và Mexico.
Nguy cơ AI và mạng xã hội có thể bị lợi dụng để truyền bá những lời dối trá tới cử tri Mỹ làm cho các nhà lập pháp lưỡng đảng ở Washington phải cảnh cáo. Tại một phiên điều trần gần đây về sự nguy hiểm của kỹ nghệ giả mạo deepfake, Dân Biểu Hoa Kỳ Gerry Connolly, thành viên Đảng Dân Chủ tiểu bang Virginia, cho biết Hoa Kỳ phải đầu tư tài trợ cho việc phát triển các công cụ AI được tạo ra để chống lại các AI khác. (TTHN)
WASHINGTON, DC (NV) – Trong số những hình ảnh về nhà cửa bị dội bom cùng đường phố bị tàn phá ở Gaza, một số hình ảnh hiện ra với sự kinh hoàng tột độ: Trẻ em bị bỏ rơi bê bết máu.
Được xem trực tuyến hàng triệu lần từ khi chiến tranh bùng nổ, đó là những hình ảnh giả được tạo ra bằng trí tuệ nhân tạo. Nếu nhìn kỹ, người ta có thể để ý được các manh mối: ngón tay cong kỳ lạ hoặc đôi mắt lấp lánh ánh sáng không tự nhiên – tất cả đều là dấu hiệu nhận biết về lừa dối kỹ thuật số.
Tuy nhiên, sự phẫn nộ mà những hình ảnh nêu trên kích động lại quá chân thật.
https://www.nguoi-viet.com/wp-content/uploads/2023/11/pexels-tara-winstead-8849282-scaled.jpg
Những hình ảnh giả mạo tạo ra bằng kỹ thuật trí tuệ nhân tạo AI đang gây lo ngại toàn cầu (Hình minh họa: Tara Winstead/Pexels)
Những tấm hình từ cuộc chiến Israel-Hamas minh họa một cách sống động và đau đớn rằng trí tuệ nhân tạo AI có thể được dùng như một công cụ tuyên truyền để tạo ra những hình ảnh tàn sát sống động như thật. Từ khi chiến tranh nổ ra vào tháng trước, những tấm hình được chỉnh sửa bằng kỹ thuật số lan truyền trên mạng xã hội được tận dụng để đưa ra những tuyên bố sai lạc về trách nhiệm của thương vong hoặc để đánh lừa người khác về những hành động tàn bạo chưa từng xảy ra.
Trong khi hầu hết các tuyên bố sai trái lan truyền trên mạng về cuộc chiến không yêu cầu AI tạo ra và đến từ các nguồn tin thông thường hơn, thì những tiến bộ kỹ nghệ đang đến gần với tần suất ngày càng tăng và ít được giám sát. Điều đó làm cho tiềm năng của AI trở thành một dạng võ khí khác trở nên rõ ràng và đưa ra cái nhìn thoáng qua về những gì sẽ xảy ra trong các cuộc xung đột, bầu cử và các cột mốc lớn khác trong tương lai.
“Mọi chuyện sẽ trở nên tồi tệ hơn – tệ hơn rất nhiều – trước khi tốt hơn,” Jean-Claude Goldenstein, Tổng Giám Đốc CREOpoint, công ty kỹ nghệ đặt trụ sở tại San Francisco và Paris sử dụng AI để đánh giá tính hợp lệ của các khiếu nại trực tuyến cho biết.
Trong một số trường hợp, những bức ảnh từ các cuộc xung đột hoặc thảm họa khác được sử dụng lại và phát tán như mới. Ở những nơi khác, các nhu liệu AI tổng quát được dùng để tạo ra hình ảnh từ đầu, chẳng hạn như hình ảnh một em bé khóc giữa đống đổ nát từ vụ đánh bom lan truyền trong những ngày đầu của cuộc xung đột.
Các ví dụ khác về hình ảnh do AI tạo ra gồm có băng thu hình cho thấy các cuộc tấn công hỏa tiễn của Israel, hoặc xe tăng lăn bánh qua các khu dân cư đổ nát hoặc các gia đình đang lùng sục nạn nhân trong đống đổ nát.
Các nhà tuyên truyền tạo ra những hình ảnh như vậy nhắm vào rung động và lo âu sâu sắc nhất của người dân, Imran Ahmed, Tổng Giám Đốc Trung Tâm Chống Thù Hận Kỹ Thuật Số, tổ chức bất vụ lợi chuyên theo dõi thông tin sai lạc từ chiến tranh cho biết.
Nội dung lừa đảo tương tự do AI tạo ra bắt đầu lan truyền sau khi Nga xâm lược Ukraine năm 2022. Một đoạn phim bị thay đổi, cho thấy Tổng Thống Ukraine Volodymyr Zelenskyy ra lệnh cho người Ukraine đầu hàng. Những tuyên bố như vậy tiếp tục được lan truyền gần đây như hồi tuần trước, cho thấy thông tin sai lạc có thể dễ dàng bị vạch trần thậm chí dai dẳng đến dường nào.
Mỗi cuộc xung đột mới hoặc mùa bầu cử đều mở ra cơ hội mới cho những kẻ rao bán thông tin sai lạc nhằm chứng minh những tiến bộ mới nhất của AI. Điều đó làm cho nhiều chuyên gia AI và khoa học gia chính trị cảnh cáo về những rủi ro trong năm tới, thời điểm đó một số quốc gia tổ chức bầu cử lớn, gồm có Hoa Kỳ, Ấn Độ, Pakistan, Ukraine, Đài Loan, Indonesia và Mexico.
Nguy cơ AI và mạng xã hội có thể bị lợi dụng để truyền bá những lời dối trá tới cử tri Mỹ làm cho các nhà lập pháp lưỡng đảng ở Washington phải cảnh cáo. Tại một phiên điều trần gần đây về sự nguy hiểm của kỹ nghệ giả mạo deepfake, Dân Biểu Hoa Kỳ Gerry Connolly, thành viên Đảng Dân Chủ tiểu bang Virginia, cho biết Hoa Kỳ phải đầu tư tài trợ cho việc phát triển các công cụ AI được tạo ra để chống lại các AI khác. (TTHN)