Một hệ thống theo dõi đã vô tình hiểu lầm ý định tự tử của nam sinh khi cậu đề cập đến vấn đề này trong bài tập.
Năm 2020, Teeth Logsdon-Wallace, nam sinh chuyển giới 13 tuổi tại bang Minnesota, Mỹ rơi vào tình trạng trầm cảm. Dù đã vượt qua giai đoạn khó khăn từ năm ngoái, Logsdon-Wallace rất bức xúc và cảm thấy “bị phản bội” khi hệ thống theo dõi học tại nhà cho rằng cậu lại muốn tự tử khi quét nội dung bài tập về nhà.
Những khó khăn do hội chứng Rối loạn định dạng giới (Gender Dysphoria) cùng tình trạng xã hội vào thời điểm dịch bệnh khiến Logsdon-Wallace trầm cảm và có lúc muốn tự tử. May mắn là gia đình đã phát hiện kịp thời và đưa nam sinh nhập viện để điều trị tâm lý.
|
|
Teeth Logsdon-Wallace đã viết về những nỗ lực tự tử của mình trong bài tập được giao. Ảnh: Alexis Logsdon. |
Sau khoảng thời gian đen tối này, nam sinh lớp 8 đã viết tâm thư kể về những nỗ lực tự tử vào bài tập về nhà. Trong bài viết, Wallace nhắc đến một bài hát của ban nhạc Ramshackle Glory đã chữa lành tâm hồn cậu, khiến cậu bé chấm dứt ý định tự tử và quyết định tiếp tục sống.
Tuy nhiên, Logsdon-Wallace không hề biết rằng những dòng chữ liên quan đến việc tự tử đã bị Gaggle, hệ thống theo dõi học sinh của trường công lập Minneapolis nhận biết. Do đó, nó đã cảnh báo tới ban lãnh đạo trường dù thực tế Logsdon-Wallace đã vượt qua giai đoạn khó khăn.
Sự hiểu lầm khiến ban cố vấn của trường gọi điện cho mẹ Wallace và giải thích rằng con trai bà muốn tự tử. Điều này đã khiến học sinh 13 tuổi rất bức xúc và cảm thấy “bị phản bội”.
“Chuyện tự tử đã là quá khứ rồi. Tại sao bây giờ nhà trường lại báo với gia đình em trong khi em đang cố gắng sống tốt hơn”, Wallace chia sẻ với Guardian.
Trường công lập Minneapolis liên kết với Gaggle để hỗ trợ học sinh từ năm 2020 khi chuyển sang đào tạo trực tuyến vì dịch. Gaggle là dịch vụ theo dõi hành vi trực tuyến của học sinh dưới bậc đại học, bằng cách phân tích tài khoản Google và Microsoft do trường cấp.
Mục đích của phần mềm này là giúp các trường học quản lý sự an toàn của các em dựa trên công nghệ Al và nhóm kiểm duyệt nội dung.
Không chỉ sách vở, phần mềm này sẽ tự động quét cả email, tin nhắn trò chuyện, và các tệp cá nhân nhằm tìm kiếm từ khóa, hình ảnh hoặc video có liên quan đến hành vi tự làm hại bản thân, bạo lực hoặc tình dục. Sau đó, nhóm kiểm duyệt nội dung sẽ đánh giá các tài liệu bị gắn cờ và thông báo cho các giáo viên trong trường về điều này.
Mặc dù vẫn còn nhiều mối lo ngại về quyền riêng tư và tính năng quét kém thông minh, CEO Gaggle lại khẳng định rằng hệ thống này đã cứu mạng sống của hơn 1.400 thanh niên trong 2 năm qua. Lãnh đạo trường Minneapolis cũng khẳng định điều tương tự dù chưa có con số xác thực.
Nguồn: News.zing.vn
