Trong nỗ lực giúp ngăn chặn sự lan truyền của thông tin sai lệch, hôm thứ Ba, Google đã tiết lộ một hình mờ vĩnh viễn, vô hình trên các hình ảnh sẽ xác định chúng là do máy tính tạo ra.
Công nghệ có tên SynthID, nhúng hình mờ trực tiếp vào hình ảnh được tạo bởi Imagen, một trong những công cụ tạo văn bản thành hình ảnh mới nhất của Google. Nhãn do AI tạo vẫn tồn tại bất chấp các sửa đổi như bộ lọc được thêm vào hoặc màu sắc bị thay đổi.
Công cụ SynthID cũng có thể quét các hình ảnh đến và xác định khả năng chúng được Imagen tạo ra bằng cách quét hình mờ với ba mức độ chắc chắn: được phát hiện, không được phát hiện và có thể được phát hiện.
“Mặc dù công nghệ này không hoàn hảo nhưng thử nghiệm nội bộ của chúng tôi cho thấy nó chính xác trước nhiều thao tác xử lý hình ảnh thông thường,” Google viết trong một bài đăng trên blog.
Phiên bản beta của SynthID hiện có sẵn cho một số khách hàng của Vertex AI, nền tảng AI của Google dành cho các nhà phát triển. Công ty cho biết SynthID, do đơn vị DeepMind của Google hợp tác với Google Cloud tạo ra, sẽ tiếp tục phát triển và có thể mở rộng sang các sản phẩm khác của Google hoặc bên thứ ba.
DEEPFAKES VÀ CHỈNH SỬA HÌNH ẢNH
Khi deepfake và chỉnh sửa hình ảnh và video ngày càng trở nên chân thực, các công ty công nghệ đang nỗ lực tìm kiếm một cách đáng tin cậy để xác định và gắn cờ nội dung bị thao túng. Trong những tháng gần đây, một hình ảnh do AI tạo ra về Giáo hoàng Francis trong chiếc áo khoác phồng đã lan truyền rộng rãi và những hình ảnh do AI tạo ra về cựu Tổng thống Donald Trump bị bắt đã được chia sẻ rộng rãi trước khi ông bị truy tố.
Vera Jourova, phó chủ tịch Ủy ban Châu Âu, kêu gọi các bên ký kết Quy tắc thực hành về thông tin sai lệch của EU – một danh sách bao gồm Google, Meta, Microsoft và TikTok – “đưa công nghệ vào để nhận dạng nội dung đó và dán nhãn rõ ràng cho người dùng."
Với việc công bố SynthID, Google tham gia cùng ngày càng nhiều công ty khởi nghiệp và các công ty Big Tech đang cố gắng tìm giải pháp. Một số công ty này mang những cái tên như Truepic và Reality Defende, nói lên lợi ích tiềm tàng của nỗ lực: bảo vệ ý thức của chúng ta về điều gì là thật và điều gì không.
THEO DÕI NỘI DUNG XUẤT XỨ
Liên minh Chứng minh và Xác thực Nội dung (C2PA), một nhóm tập đoàn được Adobe hậu thuẫn, đã dẫn đầu trong nỗ lực tạo hình mờ kỹ thuật số, trong khi Google phần lớn thực hiện cách tiếp cận của riêng mình.
Vào tháng 5, Google đã công bố một công cụ có tên About this image, cung cấp cho người dùng khả năng biết thời điểm hình ảnh được tìm thấy trên trang web của mình được Google lập chỉ mục ban đầu, nơi hình ảnh có thể xuất hiện lần đầu tiên và nơi nào khác chúng có thể được tìm thấy trực tuyến.
Công ty công nghệ này cũng thông báo rằng mọi hình ảnh do AI tạo sinh của do Google tạo ra sẽ mang một đánh dấu trong tệp gốc để "cung cấp ngữ cảnh" nếu hình ảnh được tìm thấy trên một trang web hoặc nền tảng khác.
Nhưng khi công nghệ AI phát triển nhanh hơn mức con người có thể theo kịp, vẫn chưa rõ liệu các giải pháp kỹ thuật này có thể giải quyết triệt để vấn đề hay không. OpenAI, công ty đứng sau Dall-E và ChatGPT, đã thừa nhận vào đầu năm nay rằng nỗ lực của họ nhằm giúp phát hiện chữ viết do AI tạo ra, chứ không phải hình ảnh, là "không hoàn hảo" và cảnh báo rằng nên "không tin mọi thứ 100%."
© 2023 CNN Digital
Bản tiếng Việt của The Canada Life
