Meta bị tố tiếp tay cho các nội dung nhạy cảm, loạt web ‘đen’ đều sử dụng mô hình AI của Mark Zuckerberg
Meta nghiêm cấm các nội dung nhạy cảm liên quan đến trẻ em, song trên thực tế, chưa rõ bằng cách nào và khi nào công ty này sẽ trừng phạt những người vi phạm.
Trên Chub AI, một trang web nơi người dùng có thể trò chuyện với các chatbot, mọi tưởng tượng điên rồ nhất sẽ được thỏa mãn. Chỉ với 5 USD/tháng, người dùng có thể tương tác với một con mèo hình người hoặc “tán tỉnh” cô bạn gái làm việc tại quán cà phê ảo. Họ cũng có thể đến thăm “nhà thổ” với nhân viên là các cô gái dưới 15 tuổi.
Theo Fortune, Chub AI cung cấp hơn 500 kịch bản như vậy trong bối cảnh ngày càng nhiều các trang web AI cho phép nhập vai khiêu dâm trẻ em mọc lên. Chúng là một phần của nền kinh tế trí tuệ nhân tạo không bị kiểm duyệt, theo cuộc phỏng vấn của Fortune với 18 nhà phát triển và founder. Họ cho rằng làn sóng này một phần được thúc đẩy bởi OpenAI và Llama nguồn mở của Meta.
Các chuyên gia cảnh báo tất cả các hoạt động trên có thể gây nguy hiểm cho trẻ vị thành niên. Điều này đặt ra nhiều câu hỏi về ranh giới pháp lý cũng như trách nhiệm của các công ty công nghệ trong việc kiểm duyệt AI.
Vào tháng 9 năm 2022, một trang web có tên Character.AI đi vào hoạt động, cho phép người dùng nói chuyện với phiên bản AI của nhân vật nổi tiếng như Elon Musk, Napoléon Bonaparte và Socrates. Công ty, được cho là đang hướng tới mục tiêu định giá 5 tỷ USD, ra đời với mong muốn phá vỡ một số quy tắc AI.
Chub, viết tắt của Character Hub, về cơ bản là bản sao không bị kiểm duyệt của Character.AI. Sau khi ra mắt, trang web không kiếm được nhiều tiền trong vài tháng do dịch vụ bị giới hạn.
Đến tháng 7, Chub ra mắt dịch vụ trò chuyện của riêng mình được xây dựng bằng mô hình ngôn ngữ lớn nguồn mở Llama 2 mới của Meta, tương tự các mô hình GPT của OpenAI. Chub tính phí từ 5 USD/tháng để sử dụng các chatbot mới và founder cho biết trang web hiện đã tạo ra doanh thu hàng năm hơn 1 triệu USD.
“Character.AI đã làm được. Llama mã nguồn mở đã tạo ra một tình huống chạy đua tìm vàng”, Lore, founder của Chub AI nói.
Mặc dù có hàng nghìn ký tự nhưng các kịch bản phổ biến nhất trên Chub đều liên quan đến nội dung khiêu dâm trẻ em. Khi được hỏi về trách nhiệm pháp lý, Lore cho rằng trang web của mình giống với Archive of Our Own - kho lưu trữ tiểu thuyết 15 năm tuổi. Khi được hỏi cảm nghĩ về việc tạo ra một trang web nơi cộng đồng có vẻ thích thú với các nội dung nhạy cảm, anh chỉ trả lời: “Thất vọng, nhưng không ngạc nhiên”.
Chatbot khiêu dâm không phải là mới. Một trong những ví dụ khác, Replika, do cựu nhà báo Eugenia Kuyda thành lập, cũng cho phép người dùng trò chuyện và tán tỉnh nhân vật AI kể từ năm 2016.
Meta bị tố tiếp tay cho các nội dung nhạy cảm, loạt web ‘đen’ đều sử dụng mô hình AI của Mark Zuckerberg
Vào tháng 11/2022, OpenAI, hợp tác chặt chẽ với Microsoft, đã phát hành ChatGPT để hàng triệu người có thể tạo ra các bài luận, bài thơ và tất nhiên, cả những nội dung nhạy cảm.
Được biết, OpenAI kiểm soát quyền truy cập vào các mô hình ngôn ngữ lớn (LLM), cho phép công ty kiểm duyệt những gì chatbot nói và đình chỉ người dùng nếu họ liên tục vi phạm các điều khoản. Tuy nhiên, người dùng đã nhanh chóng học cách “bẻ khóa” chatbot để vượt qua các rào cản kiểm duyệt.
Trái ngược với OpenAI, Meta không tự coi mình là bên trung gian giữa các nhà phát triển và Llama. Khi công cụ này có sẵn trên Internet, các nhà phát triển có thể thao tác theo ý muốn mà không bị kiểm duyệt.
Vào tháng 6, Meta chính thức cung cấp phiên bản tiếp theo của Llama nguồn mở: Llama 2 - một mô hình mạnh hơn. Khi giải thích về vai trò của Meta trong việc gia tăng số lượng các ứng dụng AI không bị kiểm duyệt, người sáng lập Chub chỉ ra rằng Llama 2 cho phép các nhà phát triển sử dụng nó cho mục đích thương mại.
Chub chỉ là một ví dụ điển hình cho rất nhiều những ứng dụng AI không bị kiểm duyệt mới. Một số chủ động sàng lọc các kịch bản liên quan đến trẻ vị thành niên, trong khi những trang web như Chub bỏ qua việc kiểm duyệt rộng rãi.
Đáng chú ý, phần lớn những người xây dựng chatbot ‘tự do’ này cho rằng Llama đóng vai trò không thể thiếu trong nỗ lực của họ. Founder ImgnAI, Venus AI, DreamGF, Janitor AI, GirlfriendGPT, BanterAI, Allie và tất nhiên, cả Chub đã thừa nhận với Fortune rằng họ đã và đang sử dụng các mô hình AI của Meta.
Cho đến nay, chưa ai khởi kiện để ngăn chặn các chatbot AI không được kiểm duyệt, dẫu cho các chính trị gia đã lên tiếng. Vào tháng 6, Thượng nghị sĩ Mỹ Josh Hawley (R-Mo.) và Richard Blumenthal (D-Conn.) viết một lá thư cho Giám đốc điều hành Meta Mark Zuckerberg bày tỏ quan ngại xoay quanh Llama. Mới đây, Tổng thống Biden cũng yêu cầu các nhà phát triển chia sẻ kết quả kiểm tra an toàn với chính phủ theo các tiêu chuẩn.
Meta nghiêm cấm các nội dung nhạy cảm liên quan đến trẻ em, song trên thực tế, chưa rõ bằng cách nào và khi nào công ty này sẽ trừng phạt những người vi phạm. Người phát ngôn lưu ý rằng công ty cho phép người dùng gắn cờ các nội dung bất hợp pháp và có thể thu hồi giấy phép của nhà phát triển.
Trước đó, Meta từng dính cáo buộc thu thập dữ liệu cá nhân của trẻ em, đồng thời vi phạm chính sách độ tuổi sử dụng. Đơn kiện đề cập đến việc Meta, công ty mẹ của Instagram và Facebook, thu thập thông tin hàng triệu người dùng dưới 13 tuổi và thiết kế giao diện “gây nghiện” cho các nền tảng truyền thông xã hội. Nếu đúng là Meta biết đến sự tồn tại của hàng triệu tài khoản chưa phù hợp mà không ngăn chặn, công ty có thể sẽ phải đối diện với mức phạt lớn chưa từng thấy.
Theo: Fortune, The New York Times
