AI là vũ khí mới nhất trong kho vũ khí của những kẻ bắt nạ t học đường

AI là vũ khí mới nhất trong kho vũ khí của những kẻ bắt nạ t học đường

Cơ quan quản lý an toàn trực tuyến của Úc đã nhận được báo cáo đầu tiên về hình ảnh khiêu dâ m, được tạo ra bằng AI đang được học sinh sử dụng để bắt nạ t người khác - báo hiệu sự phát triển mới nhất của bắt nạ t trực tuyến.

Ủy viên an toàn điện tử đã cảnh báo ngành công nghiệp trí tuệ nhân tạo (AI) phải hành động, với tài liệu lạm dụng tình dục trẻ em do AI tạo ra và các vụ giả mạo sâu đã được báo cáo cho các nhà điều tra an toàn điện tử.

Chi tiết về các vụ bắt nạt trẻ em không được công khai, nhưng ủy viên cho biết họ đến sau một số lượng nhỏ nhưng ngày càng nhiều báo cáo về “khiêu dâm deepfake ngày càng thực tế và đáng lo ngại”.

Ủy viên Ủy ban An toàn Điện tử Julie Inman Grant cho biết: “Tháng này, chúng tôi đã nhận được các báo cáo đầu tiên về nội dung khiêu dâm do các học sinh sử dụng công nghệ này tạo ra để bắt nạt các học sinh khác.”

“Mối nguy hiểm của trí tuệ nhân tạo AI không phải là chuyện khoa học viễn tưởng.”

‘Tác hại khôn lường’

“Những tác hại đã được giải phóng, gây ra tác hại khôn lường cho một số người dễ bị tổn thương nhất của chúng ta.”

Bà Inman Grant cho biết việc phân biệt đâu là thật và đâu là giả trực tuyến ngày càng khó khăn hơn, nghĩa là các tài liệu do AI tạo ra như deepfakes sẽ dễ dàng gây ra thiệt hại hơn nhiều.

Bắt nạt trực tuyến không có gì mới, nhưng khả năng tạo hình ảnh hoặc video chân thực về người khác trong các tình huống khác nhau có khả năng cực kỳ nguy hại.

Và mặc dù có thể dễ dàng lấy tài liệu có hại mô tả trẻ em xuống từ các trang web hợp pháp, nhưng không bao giờ có gì đảm bảo rằng tài liệu đó đã bị xóa khỏi thiết bị cá nhân của mọi người.

Công cụ AI dễ sử dụng hơn bao giờ hết

Tama Leaver, giáo sư nghiên cứu về internet tại Đại học Curtin và điều tra viên chính tại Trung tâm Xuất sắc về Trẻ em Kỹ thuật số của Hội đồng Nghiên cứu Úc, cho biết thật dễ dàng để cung cấp cho các công cụ AI một hình ảnh nguồn để thay đổi theo yêu cầu cụ thể của bạn.

Mặc dù các công cụ chính thống hơn ngăn chặn việc tạo ảnh khỏa thân hoặc tài liệu khiêu dâm khác, nhưng ông cho biết sẽ luôn có các công cụ đáp ứng các loại hoặc yêu cầu đó nếu mọi người tìm kiếm chúng đủ chăm chỉ.

Và ngay cả khi khả năng tạo tài liệu khỏa thân hoặc khiêu dâm bị chặn, những kẻ bắt nạt có thể sử dụng AI để tạo tài liệu có thể bị coi là xúc phạm theo những cách khác, chẳng hạn như hoán đổi giới tính.

Ông nói: “Tôi nghi ngờ rằng vào thời điểm này, thật khó để tìm ra cách sử dụng những công cụ này… về cơ bản là để lạm dụng.”

“Chúng tôi đã có những công cụ có tính chất như vậy trong một thời gian; chúng tôi đã nói về các công nghệ deepfake trong ít nhất ba hoặc bốn năm, theo cách chủ đạo. Nhưng [điều gì] đang xảy ra với những công cụ AI tổng quát này là nỗ lực thực tế liên quan đến việc tạo ra thứ gì đó đã giảm đi đáng kể.”

“Không có gì ngạc nhiên khi nghĩ rằng khi các công cụ sáng tạo mới xuất hiện, sẽ có một số ít người chơi với chúng với mục đích bắt nạt và hãm hại.”

Giáo dục là con đường phía trước

Chỉ với một hình ảnh nguồn là đủ để hầu hết các công cụ AI tổng quát tạo ra các tác phẩm sâu trông giống như thật, phản ứng ruột thịt của một số bậc cha mẹ có thể là giật con của họ – và hình ảnh của con họ – khỏi internet hoàn toàn.

Nhưng Tiến sĩ Leaver cho biết, trong khi mọi người nên chú ý đến cài đặt quyền riêng tư của mình, họ không nên bị loại khỏi “niềm vui kết nối và chia sẻ” vì “một vài kẻ xấu”.

Ông cho biết trẻ em cũng nên được phép thử nghiệm các công cụ AI, vì chúng có thể sẽ đóng một vai trò quan trọng trong sự nghiệp và cuộc sống hàng ngày trong tương lai.

Thay vào đó, trọng tâm nên tập trung vào kiến thức kỹ thuật số rộng hơn, bao gồm giáo dục những người trẻ tuổi về hậu quả của việc sử dụng AI với mục đích xấu.

Tiến sĩ Leaver nói: “Tôi không nghĩ là thực tế khi nghĩ rằng chúng ta sẽ chặn hoặc cấm các công cụ [AI thế hệ mới] này, bởi vì có nhiều cách sử dụng sáng tạo, hợp pháp của các công cụ này.”

“Thần đèn đã ra khỏi chai… vì vậy chúng tôi sẽ không giải quyết vấn đề này như một vấn đề công nghệ; chúng ta sẽ phải khắc phục vấn đề này như một vấn đề về văn hóa.”

“Chúng tôi cần những người trẻ tuổi hiểu rằng việc sử dụng hình ảnh của người khác theo cách có thể bị tổn hại, lạm dụng hoặc bắt nạt là điều họ cần chọn không làm, thay vì đợi ai đó chặn công cụ.”

Bà Inman Grant cho biết nếu bạn sử dụng internet, bạn cũng nên… dành thời gian để hiểu thông tin cá nhân nào đang được truy cập từ web mở, sau đó thực hiện các bước để bảo vệ dữ liệu của bạn.

Bạn có thể tìm thêm thông tin về các dịch vụ AI tổng quát phổ biến như ChatGPT và Google Bard trên Hướng dẫn an toàn điện tử.

Bà Inman Grant cho biết, các bậc cha mẹ và người chăm sóc cũng nên lưu ý đến mức độ họ chia sẻ về con cái mình trên mạng, vì một bức ảnh duy nhất có thể bị 'thu hoạch' từ mạng xã hội hoặc các trang web khác và được sử dụng cho các mục đích ngoài ý muốn.

“Trong trường hợp xấu nhất, những bức ảnh này có thể được sử dụng để tạo tài liệu khai thác tình dục trẻ em và kết thúc trên các trang web và trang web ấu dâm.”

Một bức ảnh của một đứa trẻ năm tuổi có thể bị thao túng cho mục đích xấu xa, đó là một thực tế bi thảm mà chúng ta đang phải đối mặt với tư cách là một cộng đồng toàn cầu.”

Phải làm gì nếu con bạn là mục tiêu

Nếu con bạn là mục tiêu của tài liệu bắt nạt do AI tạo ra bởi một học sinh khác, Tiến sĩ Leaver cho biết nhà trường của chúng phải luôn được thông báo.

Tuy nhiên, không có nhiều trường học có thể làm để ngăn trẻ em sử dụng AI theo cách có hại khi chúng ở nhà.

Tùy thuộc vào mức độ nghiêm trọng và tác động của tài liệu, cảnh sát và Ủy viên An toàn Điện tử là các tùy chọn liên hệ.

Bà Inman Grant cho biết bạn nên theo dõi bất kỳ thay đổi nào trong hành vi của con bạn, điều có thể cho thấy chúng đang gặp khó khăn hoặc bị bắt nạt trên mạng – và liên tục nhắc nhở chúng rằng bạn luôn ủng hộ chúng nếu mọi việc diễn ra không như ý muốn.

“Nếu con bạn đang bị bắt nạt trên mạng, hãy chụp ảnh màn hình và ghi lại các URL trước khi xóa bất kỳ thứ gì. Sau đó, hãy báo cáo với nền tảng nơi đang diễn ra hành vi bắt nạt,”

“Nếu họ không phản hồi, hãy báo cáo với eSafety.gov.au vì chúng tôi có quyền yêu cầu xóa nội dung có hại nghiêm trọng, bao gồm bắt nạt trên mạng.”

“Các yêu cầu của eSafety đối với các nền tảng trực tuyến để xóa tài liệu nghiêm trọng về bắt nạt trên mạng đã thành công trong 88% trường hợp trong năm tài chính vừa qua.”

Sản xuất, phổ biến, lưu trữ và lưu trữ tài liệu khiêu dâm có trẻ em là tội ác ở Úc.

Nếu bạn biết một đứa trẻ đang được chải chuốt hoặc đã chia sẻ tài liệu rõ ràng về chúng, hãy báo cáo với Australian Federal Police-led Australian Centre to Counter Child Exploitation.


Thu Phương
Link nguồn: https://thenewdaily.com.au/life/2023/08/16/ai-school-bullies-children/
Australia trấn áp đường dây lạm dụng trẻ em trên mạng

Australia trấn áp đường dây lạm dụng trẻ em trên mạng

Cảnh sát Australia đã bắt giữ 19 người đàn ông với cáo buộc chia sẻ trực tuyến tài liệu lạm dụng trẻ em.

Tin cùng chuyên mục
Tin mới nhất