OpenAI “phanh gấp” mô hình mới: Lo ngại an toàn tăng cao

Theo CNBC, OpenAI đã quyết định không phát hành mô hình trí tuệ nhân tạo sắp ra mắt. GPT-6.1 Astra, sau khi xác định rằng nó không đáp ứng đầy đủ các tiêu chuẩn an toàn của công ty.

Thông báo này, được đưa ra một ngày trước hội nghị nhà phát triển thường niên của OpenAI, xuất hiện trong bối cảnh ngành công nghiệp AI đang đối mặt với những lo ngại ngày càng gia tăng xung quanh sự an toàn của các mô hình tiên tiến. Ban lãnh đạo của Anthropic, đối thủ chính của OpenAI, đã kêu gọi các công ty AI giảm tốc độ phát triển mô hình vào đầu tháng này - một đề xuất mà CEO của OpenAI, Sam Altman, đã ủng hộ.

“Dĩ nhiên chúng tôi muốn đảm bảo quá trình phát triển mô hình của mình an toàn, bất kể đó là trong nội bộ công ty hay khi chúng tôi cung cấp cho người dùng,” Saachi Jain, người đứng đầu hệ thống an toàn tại OpenAI, cho biết trong một tuyên bố. “Nhưng khi chúng tôi cung cấp cho người dùng, chúng tôi đặt ra tiêu chuẩn cực kỳ cao về độ an toàn và tính tương thích.”