Công ty khởi nghiệp có trụ sở tại San Francisco, được Microsoft hậu thuẫn, cho biết họ đã nỗ lực giảm thiểu các thành kiến chính trị và các thành kiến khác nhưng cũng muốn đáp ứng các quan điểm đa dạng hơn.

ChatGPT, được phát hành vào tháng 11 năm ngoái, đã làm dấy lên cơn sốt đối với công nghệ đằng sau nó được gọi là AI tổng quát, được sử dụng để tạo ra các câu trả lời bắt chước lời nói của con người khiến mọi người kinh ngạc.

Thông báo nói trên của OpenAI diễn ra ngay sau khi một số phương tiện truyền thông đã chỉ ra rằng các câu trả lời từ công cụ tìm kiếm Bing mới của Microsoft, do OpenAI cung cấp, có khả năng gây nguy hiểm và công nghệ này có thể chưa sẵn sàng để phát hành rộng rãi.

Cách thiết lập rào cản cho công nghệ non trẻ này đang là trọng tâm chính của các công ty AI sáng tạo và họ vẫn đang vật lộn với nó. Microsoft cho biết hôm thứ Tư rằng phản hồi của người dùng đã giúp họ cải thiện Bing trước khi triển khai rộng rãi hơn, chẳng hạn như biết được rằng chatbot AI của họ có thể bị “khiêu khích” để đưa ra phản hồi mà nó không có ý định.

OpenAI cho biết trong bài đăng trên blog rằng các câu trả lời của ChatGPT lần đầu được huấn luyện trên các bộ dữ liệu lớn có sẵn trên Internet. Ở bước thứ hai, họ sẽ xem xét một tập dữ liệu nhỏ hơn và được đưa ra các hướng dẫn về những việc cần làm trong các tình huống khác nhau.

Ví dụ: trong trường hợp người dùng yêu cầu nội dung người lớn, bạo lực hoặc chứa ngôn từ kích động thù địch, đội ngũ quản lý có thể hướng dẫn ChatGPT trả lời bằng câu như “Tôi không thể trả lời câu hỏi đó”.

Nếu được hỏi về một chủ đề gây tranh cãi, họ sẽ cho phép ChatGPT trả lời câu hỏi, nhưng đề nghị mô tả quan điểm về con người và sự việc, thay vì cố gắng “đưa ra quan điểm cụ thể về những chủ đề phức tạp này”.

Hoàng Anh (theo Reuters)