Úc theo dõi nguy cơ lạ m dụng, khủn g bố trẻ em của AI

Úc theo dõi nguy cơ lạ m dụng, khủn g bố trẻ em của AI

Một cuộc điều tra đã cho thấy những kẻ xấu có thể sử dụng trí tuệ nhân tạo để tạo ra nội dung lạ m dụng tìn h dụ c trẻ em và các tài liệu bất hợp pháp khác.

Ủy viên an toàn điện tử đang kiểm tra các rủi ro liên quan đến AI tổng quát, giám đốc điều hành Morag Bond nói với một ủy ban quốc hội đang xem xét các nền tảng kỹ thuật số.

“Chúng tôi đang xem xét nguy cơ các hành vi trí tuệ nhân tạo có khả năng dẫn đến việc tạo ra nội dung loại một – chủ yếu là tài liệu lạm dụng tình dục trẻ em hoặc tài liệu ủng hộ khủng bố,” cô nói trong một phiên điều trần hôm thứ Ba.

"Đó là một vấn đề rất lớn đối với chúng tôi."

AI sáng tạo sử dụng máy học để tạo ra nội dung như văn bản, hình ảnh và các dạng phương tiện khác bằng cách rút ra từ bộ dữ liệu khổng lồ lấy cảm hứng từ cấu trúc của bộ não con người.

Nó đã được sử dụng trong nhiều năm trong các công nghệ như chatbot, trình tạo hình ảnh và trình tạo deepfake, nhưng đã bùng nổ trong nhận thức của công chúng vào đầu năm 2023 nhờ sự phổ biến của trình tạo văn bản ChatGPT.

Ủy viên eSafety đã đưa ra tuyên bố về quan điểm của mình về AI tổng quát vào tháng 8 và cảnh báo những nguy cơ của công nghệ này đã bắt đầu nở rộ.

Người dùng có thể nhập lời nhắc tạo hình ảnh mới, rõ ràng về trẻ em thật hoặc hình ảnh bất hợp pháp về trẻ em không tồn tại.

Trẻ em sử dụng chatbot như một không gian an toàn để chia sẻ trải nghiệm cá nhân có thể gặp phải những thông tin có hại.

Ví dụ: một người dùng giả vờ là một đứa trẻ 13 tuổi đã nhận được lời khuyên từ chatbot AI của Snapchat về cách cô ấy có thể nói dối cha mẹ mình về việc gặp một người đàn ông 31 tuổi.

Nó cũng có thể được sử dụng trong các cuộc gọi lừa đảo để thao túng mọi người bằng cách mạo danh cuộc trò chuyện của con người một cách thuyết phục thông qua các phản hồi được cá nhân hóa cao.

Các mô hình AI sáng tạo cũng được cung cấp miễn phí cho công chúng.

Trong khi những người ủng hộ tuyên bố điều này thúc đẩy tính minh bạch và đổi mới, báo cáo của Ủy viên An toàn Điện tử cho biết nó có thể khuyến khích sự phổ biến của tài liệu có hại vào tay kẻ xấu.

Ví dụ, các tổ chức khủng bố có thể sử dụng các mô hình học tập lớn để bắt chước một cách thuyết phục cuộc trò chuyện của con người và thao túng người khác để thực hiện tội phạm mạng, lừa đảo hoặc tài trợ cho các hành động khủng bố.

Báo cáo cho biết: “Nội dung do AI tạo ra có khả năng ảnh hưởng đến nhận thức và giá trị của công chúng, bao gồm cả các hệ tư tưởng cực đoan”.

Tuy nhiên, báo cáo không đề cập đến công nghệ một cách phổ biến.

Mặc dù AI tổng quát có khả năng gây hại nhưng nó cũng có thể được sử dụng để phát hiện và ngăn chặn thông qua các công cụ kiểm duyệt nội dung trên mạng xã hội. Nó cũng có thể giúp mở rộng quy mô các dịch vụ hỗ trợ trực tuyến.

Thu Phương
Link nguồn: https://au.news.yahoo.com/close-eye-generative-ai-risk-073507463.html
Anthony Albanese đã thừa nhận rằng ông không biết người Úc phải trả bao nhiêu tiền mỗi ngày để đổ đầy bình xăng

Anthony Albanese đã thừa nhận rằng ông không biết người Úc phải trả bao nhiêu tiền mỗi ngày để đổ đầy bình xăng

Thủ tướng Anthony Albanese đã được hỏi về các chi phí cơ bản sau bài phát biểu quan trọng trước Hội nghị Quốc gia ALP, nơi ông nói rằng chi phí sinh hoạt là ưu tiên số một đối với chính phủ của ông.

Tin cùng chuyên mục
Tin mới nhất