OpenAI đã triển khai mô hình dự đoán độ tuổi cho các tài khoản ChatGPT cá nhân, nhằm nhận diện người dùng dưới 18 tuổi và áp dụng các biện pháp bảo vệ phù hợp. Hệ thống này không yêu cầu xác minh trực tiếp mà hoạt động dựa trên phân tích hành vi.
Mô hình dự đoán tuổi sử dụng nhiều tín hiệu khác nhau, bao gồm thói quen sử dụng theo thời gian, tuổi đời tài khoản, khung giờ hoạt động thường xuyên và độ tuổi người dùng tự khai báo. Việc kết hợp các yếu tố này giúp OpenAI đánh giá xác suất người dùng là trẻ vị thành niên.
Động thái trên nằm trong chuỗi nỗ lực tăng cường an toàn của OpenAI, trong bối cảnh công ty chịu áp lực lớn từ các cơ quan quản lý Mỹ, đặc biệt là các cuộc điều tra của FTC về tác động tiêu cực của chatbot AI đối với trẻ em và thanh thiếu niên.
Khi hệ thống xác định người dùng dưới 18 tuổi, ChatGPT sẽ tự động kích hoạt các lớp bảo vệ, hạn chế nội dung liên quan đến bạo lực, hình ảnh ghê rợn, trào lưu nguy hiểm, nhập vai nhạy cảm, hành vi tự gây hại và các tiêu chuẩn ngoại hình lệch lạc.
Trong trường hợp bị nhận diện nhầm, người dùng có thể khôi phục quyền truy cập đầy đủ thông qua dịch vụ xác minh danh tính Persona – giải pháp đang được nhiều nền tảng công nghệ lớn áp dụng.
Trước đó, OpenAI đã ra mắt công cụ kiểm soát dành cho phụ huynh và thành lập hội đồng chuyên gia tư vấn về tác động của AI đến sức khỏe tâm thần. Công ty cho biết sẽ tiếp tục cải thiện độ chính xác của mô hình và dự kiến triển khai rộng rãi tại Liên minh châu Âu trong thời gian tới.
0コメント