Một 'sản phẩm' của ông lớn công nghệ bị khai tử chỉ sau 24h ra mắt: Mặt trái của AI

Trí tuệ nhân tạo đang thay đổi cách chúng ta nhìn nhận thế giới, nhưng đôi khi sự thay đổi đó lại đi chệch hướng hoàn toàn so với kịch bản ban đầu. Mới đây, gã khổng lồ công nghệ Google đã phải đưa ra một quyết định chưa từng có tiền lệ khi thẳng tay rút tính năng tạo ảnh AI khỏi nền tảng Google Earth. Sự việc diễn ra chóng vánh chỉ trong vòng 24 giờ kể từ khi công cụ này được trình làng, để lại một bài học đắt giá về ranh giới mong manh giữa công nghệ giáo dục và công cụ tạo tin giả.

Giấc mơ phục dựng quá khứ và kiến tạo tương lai

Khi mô hình tạo ảnh AI Nano Banana 2 được tích hợp vào nền tảng ảnh vệ tinh Google Earth, giới công nghệ và giáo dục đã nhìn thấy một tiềm năng khổng lồ. Chỉ bằng vài câu lệnh văn bản đơn giản, người dùng có thể quay ngược thời gian để chứng kiến thành phố cổ Pompeii sầm uất ngay trước thềm thảm họa núi lửa Vesuvius phun trào vào năm 78 sau Công nguyên.

Ở một góc nhìn thực tế hơn, các nhà quy hoạch đô thị và kiến trúc sư hoàn toàn có thể sử dụng công cụ này để mô phỏng hình hài của một trung tâm thương mại trên nền một khu đất trống. Đội ngũ phát triển của Google đã kỳ vọng đây sẽ là bước đột phá giúp con người trực quan hóa lịch sử, mang lại giá trị ứng dụng rõ nét cho cộng đồng. Thế nhưng, vòng quay của internet lại vận hành theo một cách thức méo mó và khó lường hơn rất nhiều.

24 giờ hỗn loạn biến ảo ảnh thành sự thật

Không mất đến một ngày để cộng đồng mạng phát hiện ra những góc khuất chết người của tính năng mới này. Thay vì khám phá các kỳ quan cổ đại, vô số người dùng đã sử dụng AI để vẽ ra những viễn cảnh tồi tệ ngay trong bối cảnh hiện tại. Những hình ảnh máy bay lao vào các tòa nhà chọc trời ở Manhattan, các vụ đánh bom kinh hoàng giữa thủ đô Moscow hay những đoàn người tị nạn dàn đặc tại biên giới Mỹ và Mexico bắt đầu lan truyền chóng mặt.

Sự nguy hiểm không chỉ nằm ở bản thân bức ảnh mà còn ở chính lớp nền nơi chúng được sinh ra. Hơn hai thập kỷ qua, Google Earth luôn được xem là một lăng kính chân thực và uy tín bậc nhất để quan sát hành tinh. Đây là công cụ không thể thiếu của các nhà báo, giới nghiên cứu và cộng đồng điều tra nguồn mở toàn cầu khi cần xác minh một sự kiện địa lý. Việc đặt một cỗ máy tạo ảnh ảo ngay trên giao diện của một nền tảng chuyên cung cấp sự thật đã vô tình cấp một tấm vé thông hành danh giá cho những dữ liệu ngụy tạo.

Lỗ hổng kiểm soát

Giới chuyên gia lập tức gióng lên những hồi chuông báo động về nguy cơ khủng hoảng thông tin quy mô lớn. Giám đốc điều hành TerraWatch Space là Aravind Ravichandran thẳng thắn chỉ ra kịch bản tồi tệ khi người dùng tạo ra cảnh xe tăng tiến vào một thành phố hoặc một kho dầu bốc cháy ngùn ngụt, sau đó cắt cúp màn hình từ chính giao diện bản đồ. Khi những bức ảnh này trôi nổi trên mạng xã hội, chúng nghiễm nhiên trở thành bằng chứng thép cho những sự kiện chưa từng tồn tại.

Nghiêm trọng hơn, Nathaniel Raymond thuộc trung tâm nghiên cứu Humanitarian Research Lab của Đại học Yale đánh giá việc cho phép AI can thiệp vào ảnh vệ tinh là một hành động mở đường cho việc bóp méo dữ liệu diện rộng. Trong bối cảnh thế giới đang đối mặt với nhiều xung đột và thảm họa, việc làm giả hình ảnh các khu vực nhạy cảm có thể trực tiếp đe dọa sự an toàn của những cộng đồng dễ bị tổn thương.

Về phía Google, tập đoàn này vốn đã lường trước rủi ro và trang bị hệ thống đánh dấu bản quyền SynthID nhằm giúp các công cụ như Gemini hay Google Lens dễ dàng bóc trần nguồn gốc ảnh. Các kết quả do Nano Banana 2 tạo ra cũng bị giới hạn hiển thị cá nhân và được gắn mác nội dung do thuật toán thực hiện. Dù vậy, tất cả những hàng rào kỹ thuật này lập tức trở nên vô dụng khi hình ảnh bị chụp lại màn hình và lan truyền qua các nền tảng thứ ba. Một tính năng kiểm tra chéo trên mạng xã hội X cũng chỉ ra rằng phần dấu chìm thường bị cắt xén, khiến công chúng không thể phân biệt đâu là ảnh vệ tinh thật và đâu là sản phẩm của AI.

Đóng lại chiếc hộp Pandora

Trước sức ép quá lớn từ dư luận và những rủi ro nhãn tiền, gã khổng lồ tìm kiếm đã buộc phải vô hiệu hóa tính năng này chỉ sau đúng 24 giờ phát hành. Hãng cam kết sẽ xây dựng những hàng rào bảo vệ kiên cố hơn trước khi cân nhắc việc đưa công cụ này trở lại, nhưng từ chối đưa ra một mốc thời gian cụ thể cho lần tái xuất tiếp theo.

Dù có vòng đời ngắn ngủi, sự xuất hiện của mô hình AI trên nền tảng bản đồ đã phơi bày một thực trạng đáng lo ngại của công nghệ hiện đại. Trí tuệ nhân tạo không chỉ có sức mạnh tái tạo quá khứ hay vẽ nên tương lai, mà nó hoàn toàn đủ khả năng kiến tạo ra một thực tại giả dối. Khi một công cụ được sinh ra để mở rộng tầm nhìn của con người lại quay sang bào mòn niềm tin vào những gì mắt thấy tai nghe, đó là lúc các tập đoàn công nghệ cần chậm lại trước khi trao quyền năng vô hạn cho các thuật toán.