Canada triệu tập đại diện của OpenAI sau lệnh cấm ChatGPT đối với kẻ nổ súng tại BC

Bộ trưởng Trí tuệ nhân tạo và Đổi mới số của Canada Evan Solomon đã triệu tập các giám đốc điều hành của OpenAI đến Ottawa sau tiết lộ rằng thủ phạm trong vụ xả súng hàng loạt chết người tại British Columbia khi còn là thiếu niên đã bị loại khỏi ChatGPT nhiều tháng trước vụ tấn công.

Ngày thứ Hai, ông Solomon cho biết OpenAI đã đình chỉ tài khoản của Jesse Van Rootselaar vào tháng Sáu sau khi nền tảng phát hiện nội dung đáng lo ngại, nhưng đã giữ kín thông tin này khỏi cơ quan thực thi pháp luật, viện dẫn thiếu các dấu hiệu đe dọa đáng tin cậy hoặc sắp xảy ra, theo các báo cáo truyền thông.

Van Rootselaar đã bắn chết mẹ và anh cùng cha khác mẹ vào ngày 10 tháng 2 trước khi tiến đến một trường trung học gần đó ở Tumbler Ridge, nơi cô bắn chết năm học sinh và một trợ lý giáo dục trước khi tự sát, theo chính quyền.

The Wall Street Journal là nguồn đầu tiên đưa tin rằng tài khoản bị đình chỉ đã bị cảnh báo về nội dung mô tả các kịch bản bạo lực súng đạn. OpenAI xác nhận đã liên hệ với Cảnh sát Hoàng gia Canada chỉ sau khi vụ thảm sát xảy ra, và cho biết các quan chức cấp cao của công ty sẽ đến Ottawa để báo cáo với các đại diện chính phủ Canada về các quy trình an toàn và tiêu chuẩn báo cáo mối đe dọa của họ.

Ông Solomon cho biết ông “rất lo ngại” về các phát hiện này và yêu cầu công ty giải trình về quy trình xử lý các tình huống khẩn cấp. Khi được hỏi về khả năng quy định liên bang đối với các chatbot AI, ông chỉ dừng lại ở việc nói rằng tất cả các phương án vẫn đang được xem xét.