ChatGPT là từ khoá công nghệ được bàn tán sôi nổi nhất gần đây nhưng cũng tồn tại không ít mặt trái tiềm ẩn.
Thời gian gần đây, ChatGPT đã trở thành từ khóa gây chú ý đối với nhiều người trên thế giới. Với khả năng trả lời một cách uyển chuyển, dùng câu từ biểu cảm gắn kết với những tình huống khác nhau khi trả lời các câu hỏi do người dùng cung cấp, công cụ này đã thu hút hơn 100 triệu người sử dụng trong vài tháng và đang trở nên hot trên các mạng xã hội.
Khi ChatGPT xuất hiện, người sử dụng muốn tra cứu đã trò chuyện với công cụ này thay vì tìm kiếm thông tin trên Google. Với sự hiểu biết trong nhiều lĩnh vực, các câu hỏi thắc mắc của người sử dụng đã được ChatGPT trả lời chỉ sau vài giây. Tuy nhiên, theo giới phân tích, bên cạnh những lợi thế, ChatGPT cũng đặt ra nhiều nguy cơ.
Thách thức với giáo dục và nghiên cứu khoa học
Theo BBC Science Focus, mô hình NLP của ChatGPT được đào tạo từ cơ sở dữ liệu Internet gồm 570 GB dữ liệu văn bản sách, Wikipedia, bài báo nghiên cứu, webtext, cũng như các nội dung bài đăng trực tuyến khác. Sơ bộ, có khoảng 300 tỷ từ được đưa vào hệ thống.
Hoạt động trên nguyên lý dự đoán xác suất các từ ngữ có khả năng đi kèm cùng nhau khiến gần như không thể xác định nguyên gốc dữ liệu mà GPT sử dụng để đưa ra câu trả lời. Từ đó làm dấy lên câu chuyện về tính tường minh trong học thuật và nghiên cứu khoa học.
Mới đây, câu chuyện một sinh viên tại Nga sử dụng ChatGPT để hoàn thành bài luận văn tốt nghiệp chỉ trong 23 giờ đồng hồ, thay vì nhiều tuần như các sinh viên khác đã tạo ra tranh cãi. Nhiều cơ sở giáo dục đề xuất hạn chế quyền truy cập ứng dụng này.
Theo đó, sinh viên của trường Đại học Nhân văn Nga chia sẻ trên Twitter về việc bảo vệ thành công tốt nghiệp khi luận văn, với sự hỗ trợ của ChatGPT, được hội đồng nhận định “đạt yêu cầu” khi chương trình chống đạo văn xác nhận tính nguyên bản đến 82%.
“Điều này làm thay đổi cơ bản giáo dục. Chúng tôi đã làm nghiên cứu thực nghiệm và phát hiện giáo viên chỉ có thể phát hiện bài tiểu luận do ChatGPT viết với tỉ lệ 52%”, Alan Mackworth, chuyên gia nghiên cứu AI tại Đại học British Columbia nhận định.
Trước đó, một số nhà xuất bản đã cấm sử dụng GPT trong các bài báo khoa học.
Giáo sư Holden Thorp, Tổng biên tập Tạp chí Science cho biết: “ChatGPT rất thú vị nhưng không thể trở thành tác giả bài báo”. Ông cũng nói rằng những công cụ AI như GPT tạo ra tác động nghiêm trọng đối với giáo dục khi chúng có thể viết bài luận, giải đáp thắc mắc y học hay tóm tắt nghiên cứu tốt đến mức ngay cả những nhà khoa học cũng khó phát hiện đó là thông tin sai lệch.
Ảnh hưởng tới nhà đầu tư và người lao động
Bài viết trên trang Project Syndicate chỉ ra một nguy cơ khác, chính là khi AI có thể khuếch đại các tác động xã hội có hại của vốn cổ phần tư nhân.
Hiện tại, một người có thể tạo ra khối tài sản khổng lồ bằng cách mua lại các công ty, đồng thời chuyển qua tư nhân hóa, sau đó cắt giảm nhân viên - trong khi trả cổ tức cao cho chủ sở hữu mới. Tuy nhiên, ChatGPT và các công nghệ AI khác sẽ khiến việc gây áp lực và vắt kiệt sức lao động trở nên dễ dàng hơn thông qua việc giám sát nơi làm việc, các điều kiện làm việc khắc nghiệt hơn, hợp đồng lao động không quy định về thời gian.
Tận dụng lợi thế tiếp cận tài chính dễ dàng trong thập kỷ qua, các công ty và quỹ đầu tư mạo hiểm đã rót hàng tỷ USD vào cuộc đua AI, dẫn đến việc công nghệ giờ đây có thể được sử dụng để thay thế con người trong rất nhiều hoạt động. Đây có thể là một thảm họa không chỉ đối với những người lao động, mà còn với cả người tiêu dùng và thậm chí là các nhà đầu tư.
Nguy cơ gia tăng nạn lừa đảo từ ChatGPT
Các chuyên gia cũng cảnh báo ChatGPT có thể được sử dụng trong các hoạt động tội phạm trên không gian mạng. Sau khi ChatGPT xuất hiện, một số hacker đã lợi dụng khả năng viết code của chatbot này để viết các phần mềm lừa đảo nhằm tấn công và thực hiện ý đồ đánh cắp thông tin. Đáng sợ hơn, ChatGPT có thể tận dụng chính những dòng code mình tạo ra để tiến hành các phương thức lừa đảo tinh vi hơn.
Theo giới phân tích, thực tế cho thấy ChatGPT vẫn còn nhiều hạn chế như: chất lượng câu trả lời còn phụ thuộc nguồn dữ liệu đã được học; chưa cung cấp các nguồn tham chiếu của câu trả lời; chưa đáp ứng được tốt các câu hỏi yêu cầu chính xác và liên quan đến tương lai; hay mức độ cảm xúc trong các phản hồi bị giới hạn. Tuy nhiên, nếu bị lợi dụng, công cụ này vẫn có thể tạo ra các đoạn hội thạo đánh lừa người dùng.
Với ChatGPT, những cuộc tấn công phishing lừa đảo, các email, tin nhắn lừa đảo cũng sẽ trở nên khó lường hơn khi ChatGPT có thể soạn nội dung cá nhân hoá theo từng thông tin của người nhận khiến người dùng sẽ hoàn toàn mất khả năng phân biệt những nội dung có nguy cơ.
Trước những mặt trái của ChatGPT, các chuyên gia cũng khuyến cáo người dùng cần tỉnh táo để bảo vệ thông tin cá nhân, hạn chế cung cấp các thông tin liên quan đến công việc, các dữ liệu riêng tư cho những ứng dụng tương tự như Chat GPT.
